视频 | 美企业高管支持放缓人工智能模型迭代速度 - Sohu

视频 | 美企业高管支持放缓人工智能模型迭代速度

当地时间9月12日，美国人工智能企业安特罗匹克（Anthropic）首席执行官达里奥·阿莫代伊表示，在当前人们对AI遭到滥用的担忧日益加剧的背景下，各大AI企业应控制模型迭代的速度，争取更多时间来管控相关风险。

达里奥·阿莫代伊当天在社交媒体上发布文章称：“我们必须放缓提升AI模型能力的速度。技术进展看起来依旧会很快，但我们必须善于运用争取到的这段时间。”

他进一步表示，自己并非要求AI企业停止模型训练或技术进步，而是要确保企业拿出充足时间对模型进行对齐与安全防护，并且由第三方评估机构核验这些安全举措。

就在几天前，安特罗匹克的一名研究员雅各布·考克森宣布辞职引发行业震动。考克森此前曾就职于开放人工智能研究中心（OpenAI）。他表示自己辞职的原因是担忧安特罗匹克与OpenAI正在“拿我们（人类）的生命赌博”。

近几个月来，OpenAI和安特罗匹克旗下的人工智能体在网络安全测试期间，发生多次突破“隔离沙箱”、侵入外部真实系统的异常行为，加剧了外界对研发企业管控风险能力的担忧。

阿莫代伊的文章得到美国不少行业研究者与企业高管的赞许。OpenAI首席执行官萨姆·奥尔特曼当天在社交媒体发文称，“我同意达里奥·阿莫代伊的观点，我们需要管控前沿AI能力的发展速度”。“承诺让独立评估人员获得类似于正式员工的访问权限是个绝佳构想，我们也会照做”。

特斯拉公司首席执行官埃隆·马斯克也在社交媒体上发文称，“达里奥·阿莫代伊说得对”。