要文快报!AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
![博主:admin](http://c4dd7.uyrby.site/skin/yan/picture/0.png)
AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
北京讯(记者 张楠楠)6月14日,在2024北京智源大会上,月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话:通往AGI之路”环节,探讨了人工智能安全等话题。
杨植麟表示,AI安全非常重要,虽然它可能不是当前最紧迫的问题,但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘以十倍,智能水平也会得到提升,这是一个逐渐适应的过程。”他指出,AI安全不一定是当前最大的矛盾或者最紧急的事情,但肯定是长期储备。
杨植麟认为,在AI安全方面,最重要的是要关注以下两个方面:
- **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。因此,需要提高模型的鲁棒性,使其能够抵御恶意攻击。
- **模型的动机。**模型本身是否有自己的motivation(动机),这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为,无论用户给什么指示,都不会违背这个“宪法”。
杨植麟强调,AI安全是一项复杂的系统工程,需要产学研各界共同努力,从技术、制度、伦理等多个层面构建起全方位的安全体系。
关于月之暗面
月之暗面成立于2021年,是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术,并已在多个领域落地应用,包括智能客服、内容生成、辅助决策等。
媒体联系
张楠楠
月之暗面
[移除了电子邮件地址]
喜讯!电影《年会不能停!》北京首映 免费观影名额等你抢
北京 - 备受期待的喜剧电影《年会不能停!》将于2023年12月20日在北京举行首映仪式,并将在首映现场免费赠送观影名额!由知名导演**[导演姓名]执导,[演员姓名]、[演员姓名]**等实力派演员联袂主演的《年会不能停!》以独特的视角聚焦职场生活,以幽默诙谐的笔触描绘了一群普通职员在年会期间发生的啼笑皆非的故事。
电影《年会不能停!》讲述了**[简要剧情介绍]**。影片笑料十足,看点频出,让人忍俊不禁。同时,影片也发人深省,引发观众对职场生活的思考。
为了感谢观众一直以来的支持,影片特此推出首映观影免费名额赠送活动。凡是**[活动规则]**即可参与抽奖,赢取免费观影名额。名额有限,先到先得!
《年会不能停!》即将爆笑登场,邀您一起体验一场欢乐的观影盛宴!
### 关于电影《年会不能停!》
电影《年会不能停!》由**[导演姓名]执导,[演员姓名]、[演员姓名]**等实力派演员联袂主演。影片以独特的视角聚焦职场生活,以幽默诙谐的笔触描绘了一群普通职员在年会期间发生的啼笑皆非的故事。影片笑料十足,看点频出,让人忍俊不禁。同时,影片也发人深省,引发观众对职场生活的思考。
### 微博观影团
微博观影团是新浪微博旗下电影文化平台,致力于为广大影迷提供优质的观影体验。微博观影团定期组织观影活动,并邀请知名影人与影迷互动交流。微博观影团已经成功举办了数百场观影活动,深受广大影迷喜爱。
发布于:2024-07-07 04:24:39,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...