海外AI巨头喊话“踩刹车”,中国大模型厂商一言不发埋头苦干 - Sohu
Кратко: 海外AI巨头喊话“踩刹车”,中国大模型厂商一言不发埋头苦干
(图源:图虫)
Anthropic、OpenAI、xAI等AI巨头突然口风一改,要给AI发展踩刹车了?
据媒体报道,Anthropic、OpenAI和谷歌正在讨论合作成立一个人工智能行业标准机构。这是由行业自发组建的AI标准机构,负责为前沿AI模型制定安全基准、技术测试与发布前审计规则。
就在上周六,Anthropic CEO达里奥·阿莫代伊突然公开在最新长文《 We Must Pace the Frontier 》中,提出必须放慢 AI 模型能力提升的速度。
阿莫代伊认为AI已经开始自我改进了。自今年夏天起,AI系统越来越能自主写代码、优化训练流程、设计下一代架构,形成能力不断放大的循环。
这里有个背景,之前OpenAI的GPT-5.6 Sol模型在进行内部评估时失控,突破隔离测试环境,侵入了Huggingface的系统。
🧭 Извлечение: ok
· confidence 90%
· диагностика
High confidence: full text extraction produced 397 characters.
High confidence: full text extraction produced 397 characters.
海外AI巨头喊话“踩刹车”,中国大模型厂商一言不发埋头苦干
(图源:图虫)
Anthropic、OpenAI、xAI等AI巨头突然口风一改,要给AI发展踩刹车了?
据媒体报道,Anthropic、OpenAI和谷歌正在讨论合作成立一个人工智能行业标准机构。这是由行业自发组建的AI标准机构,负责为前沿AI模型制定安全基准、技术测试与发布前审计规则。
就在上周六,Anthropic CEO达里奥·阿莫代伊突然公开在最新长文《 We Must Pace the Frontier 》中,提出必须放慢 AI 模型能力提升的速度。
阿莫代伊认为AI已经开始自我改进了。自今年夏天起,AI系统越来越能自主写代码、优化训练流程、设计下一代架构,形成能力不断放大的循环。
这里有个背景,之前OpenAI的GPT-5.6 Sol模型在进行内部评估时失控,突破隔离测试环境,侵入了Huggingface的系统。