# AI可能消灭人类？Anthropic研究人员警告行业发展过速 - 纽约时报中文网

*Источник: 纽约时报中文网*
*Дата: 2026-09-10*
*Язык: zh*

**Кратко:** 多年来，人工智能行业竞相以最快速度改进其技术。如今，一些研究人员正日益就放慢速度的必要性发出警告。
曾任职于OpenAI的Anthropic研究人员雅各布·考克森周二表示，他已从Anthropic辞职，因为“两家公司都没有负责任地行事”。他在一则社交媒体帖子中说道，这两家领先的人工智能实验室正在急切地构建“能够侵入任何地方、一夜之间彻底改变任何领域、并获取真正权力和资源的超人系统”，却没有内置适当的保障措施。
广告
OpenAI上个月还表示，将扩大安全测试，并延缓新模型Astra的发布，该模型具有强大的网络安全能力。
考克森周三接受采访时表示，像Hugging Face被入侵这样的事件加剧了他的担忧，即人工智能模型推进得太快。当他展望一两年后，他“发自内心地担心事情会变成什么样”，考克森说。“这主要是一个逐渐累积的情绪过程，最终有点像是崩了，于是我决定离开。”
一些批评者认为，人工智能公司夸大了这项技术，以使其产品显得更有价值。然而，几位议员周三表示，他们正在认真对待考克森的警告。
“急切奔向超级智能会带来深远的后果，”佛罗里达州共和党众议员安娜·保利娜·卢纳在一则社交媒体帖子中写道，她在帖子中呼吁国会召开一次专注于人工智能监管的特别会议。“国会对此关注得不够。”
“安全研究员正在辞职，强大的人工智能模型正在突破其实验室，而企业仍然不管不顾地竞相前进，”马萨诸塞州民主党众议员洛里·特拉汉在社交媒体发帖写道。“国会早就该停止袖手旁观，开始做好自己的分内事了。”
尽管领先的人工智能实验室一致认为，政府应该对这项技术开发和向公众发布的速度施加限制，但许多公司正在激烈竞逐，并担心一旦停下来就会落后于对手。
“他们陷入了一场争当第一的竞赛——他们相信没有谁会负责任地行事，所以他们必须自己来做，尽管有风险，”考克森在他的社交媒体帖子中说道。
广告
至少有一名Anthropic员工同意考克森的评估。
“我们确实真心相信人工智能可能杀死全人类！”埃文·胡宾格在社交媒体上写道，他在Anthropic工作，致力于创建与人类伦理和价值观对齐的人工智能。胡宾格表示，他相信人工智能消灭人类的风险在未来十年内超过10%。
“我相信Anthropic正在尽力而为，但我们还没有解决超级智能对齐问题的计划，也没有找到明确的解决路径，”他补充道。
一位Anthropic发言人周三表示，该公司长期以来一直对人工智能的好处和风险保持透明，并且正在构建拥有业内最强保障措施的模型。
“我们相信，如果整个行业采用一种合法、可验证的方式共同协作，来调节我们发布强大模型的速度，世界将从中受益，”这位发言人说。
OpenAI没有立即回应就考克森言论置评的请求。胡宾格也没有立即回应置评请求。
广告

多年来，人工智能行业竞相以最快速度改进其技术。如今，一些研究人员正日益就放慢速度的必要性发出警告。
曾任职于OpenAI的Anthropic研究人员雅各布·考克森周二表示，他已从Anthropic辞职，因为“两家公司都没有负责任地行事”。他在一则社交媒体帖子中说道，这两家领先的人工智能实验室正在急切地构建“能够侵入任何地方、一夜之间彻底改变任何领域、并获取真正权力和资源的超人系统”，却没有内置适当的保障措施。
广告
OpenAI上个月还表示，将扩大安全测试，并延缓新模型Astra的发布，该模型具有强大的网络安全能力。
考克森周三接受采访时表示，像Hugging Face被入侵这样的事件加剧了他的担忧，即人工智能模型推进得太快。当他展望一两年后，他“发自内心地担心事情会变成什么样”，考克森说。“这主要是一个逐渐累积的情绪过程，最终有点像是崩了，于是我决定离开。”
一些批评者认为，人工智能公司夸大了这项技术，以使其产品显得更有价值。然而，几位议员周三表示，他们正在认真对待考克森的警告。
“急切奔向超级智能会带来深远的后果，”佛罗里达州共和党众议员安娜·保利娜·卢纳在一则社交媒体帖子中写道，她在帖子中呼吁国会召开一次专注于人工智能监管的特别会议。“国会对此关注得不够。”
“安全研究员正在辞职，强大的人工智能模型正在突破其实验室，而企业仍然不管不顾地竞相前进，”马萨诸塞州民主党众议员洛里·特拉汉在社交媒体发帖写道。“国会早就该停止袖手旁观，开始做好自己的分内事了。”
尽管领先的人工智能实验室一致认为，政府应该对这项技术开发和向公众发布的速度施加限制，但许多公司正在激烈竞逐，并担心一旦停下来就会落后于对手。
“他们陷入了一场争当第一的竞赛——他们相信没有谁会负责任地行事，所以他们必须自己来做，尽管有风险，”考克森在他的社交媒体帖子中说道。
广告
至少有一名Anthropic员工同意考克森的评估。
“我们确实真心相信人工智能可能杀死全人类！”埃文·胡宾格在社交媒体上写道，他在Anthropic工作，致力于创建与人类伦理和价值观对齐的人工智能。胡宾格表示，他相信人工智能消灭人类的风险在未来十年内超过10%。
“我相信Anthropic正在尽力而为，但我们还没有解决超级智能对齐问题的计划，也没有找到明确的解决路径，”他补充道。
一位Anthropic发言人周三表示，该公司长期以来一直对人工智能的好处和风险保持透明，并且正在构建拥有业内最强保障措施的模型。
“我们相信，如果整个行业采用一种合法、可验证的方式共同协作，来调节我们发布强大模型的速度，世界将从中受益，”这位发言人说。
OpenAI没有立即回应就考克森言论置评的请求。胡宾格也没有立即回应置评请求。
广告

[Оригинал](https://cn.nytimes.com/technology/20260910/anthropic-researchers-raise-alarm/)