要文快报!AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
北京讯(记者 张楠楠)6月14日,在2024北京智源大会上,月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话:通往AGI之路”环节,探讨了人工智能安全等话题。
杨植麟表示,AI安全非常重要,虽然它可能不是当前最紧迫的问题,但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘以十倍,智能水平也会得到提升,这是一个逐渐适应的过程。”他指出,AI安全不一定是当前最大的矛盾或者最紧急的事情,但肯定是长期储备。
杨植麟认为,在AI安全方面,最重要的是要关注以下两个方面:
- **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。因此,需要提高模型的鲁棒性,使其能够抵御恶意攻击。
- **模型的动机。**模型本身是否有自己的motivation(动机),这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为,无论用户给什么指示,都不会违背这个“宪法”。
杨植麟强调,AI安全是一项复杂的系统工程,需要产学研各界共同努力,从技术、制度、伦理等多个层面构建起全方位的安全体系。
关于月之暗面
月之暗面成立于2021年,是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术,并已在多个领域落地应用,包括智能客服、内容生成、辅助决策等。
媒体联系
张楠楠
月之暗面
[移除了电子邮件地址]
网吧猝死悲剧再次敲响警钟:关注健康,远离网瘾
温州,2024年6月14日 - 6月3日晚,浙江温州一名29岁的小伙在网吧内猝死,令人痛心。更令人惋惜的是,该小伙的尸体竟然在网吧内放置了超过24小时才被发现。
据了解,该小伙是网吧的常客,经常在店内上网数小时。事发当晚,小伙像往常一样来到网吧,一直到第二天凌晨也没有离开。网吧店员以为小伙只是在睡觉,并未多加留意。直到第二天中午,一名顾客发现小伙一动不动,这才通知了网吧老板。经医护人员确认,小伙早已死亡。
目前,警方已介入调查,初步判断小伙死因为猝死。网吧的老板也表示,将对店内管理进行整改,加强对顾客的巡视,避免类似事件再次发生。
这起悲剧再次给我们敲响了警钟:网吧虽是休闲娱乐场所,但也存在一定的安全隐患。长时间上网不仅会对身心健康造成不良影响,也可能诱发猝死等意外事件。因此,我们应注意以下几点:
- 合理安排上网时间,避免长时间沉迷网络。
- 保持健康的生活方式,注意劳逸结合。
- 选择正规的网吧场所,注意观察周围环境。
- 如发现他人身体不适,应及时拨打急救电话。
生命只有一次,我们应珍惜健康,远离网瘾,安全上网。
发布于:2024-07-07 02:45:56,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...