{"id":81183,"topic":"ai","source":"凤凰网","title":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 - 凤凰网","url":"https://news.ifeng.com/c/8wNpWp6CJdN","url_hash":"44b2019d7255a50d1ce78a8ef9d07b7ecded13a3","author":"","summary":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 凤凰网","content":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","image_url":"https://x0.ifengimg.com/ucms/2026_38/9304BC77F03C7D1A4472387955BEE7B6272B338F_size667_w909_h511.png","lang":"zh","published_at":"2026-09-13T09:09:21+00:00","fetched_at":"2026-09-13T10:15:07+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://news.ifeng.com/c/8wNpWp6CJdN","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2019 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2019,"summary_length":2019,"usable_text_length":2019,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2019,"summary_length":2019}},"news_item":{"id":81183,"canonical_url":"https://news.ifeng.com/c/8wNpWp6CJdN","source_url":"https://news.ifeng.com/c/8wNpWp6CJdN","title":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 - 凤凰网","source_name":"凤凰网","author":null,"published_at":"2026-09-13T09:09:21+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 凤凰网","full_text":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","excerpt":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 2019 characters.","diagnostics_url":"/api/diagnose?url=https%3A//news.ifeng.com/c/8wNpWp6CJdN","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2019 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2019,"summary_length":2019,"usable_text_length":2019,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2019,"summary_length":2019}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 - 凤凰网","url":"https://news.ifeng.com/c/8wNpWp6CJdN","summary":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","source":"凤凰网","date":"2026-09-13T09:09:21+00:00","content":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//news.ifeng.com/c/8wNpWp6CJdN","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 2019 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2019 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2019,"summary_length":2019,"usable_text_length":2019,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2019,"summary_length":2019}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/81183","export_markdown":"/api/items/81183/export?format=markdown","export_json":"/api/items/81183/export?format=json","diagnose":"/api/diagnose?url=https%3A//news.ifeng.com/c/8wNpWp6CJdN"},"formats":{"full":{"id":81183,"title":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 - 凤凰网","url":"https://news.ifeng.com/c/8wNpWp6CJdN","source":"凤凰网","author":null,"published_at":"2026-09-13T09:09:21+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","full_text":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 2019 characters.","diagnostics_url":"/api/diagnose?url=https%3A//news.ifeng.com/c/8wNpWp6CJdN","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2019 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2019,"summary_length":2019,"usable_text_length":2019,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2019,"summary_length":2019}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2019 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2019,"summary_length":2019,"usable_text_length":2019,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2019,"summary_length":2019}},"actions":{"read":"/item/81183","export_markdown":"/api/items/81183/export?format=markdown","export_json":"/api/items/81183/export?format=json","diagnose":"/api/diagnose?url=https%3A//news.ifeng.com/c/8wNpWp6CJdN"}},"digest":{"id":81183,"title":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 - 凤凰网","url":"https://news.ifeng.com/c/8wNpWp6CJdN","source":"凤凰网","topic":"ai","published_at":"2026-09-13T09:09:21+00:00","excerpt":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。 奥尔特曼宣布OpenAI将暂缓上市 9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。 ▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 2019 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 - 凤凰网","subtitle":"凤凰网 · 2026-09-13","summary":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。 奥尔特曼宣布OpenAI将暂缓上市 9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。 ▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）…","badges":["quality:high"],"links":{"read":"/item/81183","original":"https://news.ifeng.com/c/8wNpWp6CJdN","diagnose":"/api/diagnose?url=https%3A//news.ifeng.com/c/8wNpWp6CJdN"},"quality_warning":null},"export":{"title":"“AI会在2030年前毁灭人类”，美AI巨头呼吁减速 - 凤凰网","url":"https://news.ifeng.com/c/8wNpWp6CJdN","summary":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","source":"凤凰网","date":"2026-09-13T09:09:21+00:00","content":"近年来，美国顶尖人工智能企业一直处于激烈竞争当中。但在近两日内，多名美国AI巨头纷纷表态，在AI的安全风险得到合理控制前，需要采取措施减缓其发展。\n奥尔特曼宣布OpenAI将暂缓上市\n9月11日，OpenAI首席执行官萨姆·奥尔特曼表示，考虑到目前安全形势，OpenAI并不急于进行IPO，OpenAI将在业务和公司都准备就绪时再上市。\n▲OpenAI首席执行官萨姆·奥尔特曼（图据视觉中国）\n当被问及OpenAI是否将在2027年进行IPO时，奥尔特曼回答说：“我认为不会是2026年。是的，我们有很多事情要做，比如满足当前安全和协调方面的要求，以及行业和政府如何才能携手合作。”\n奥尔特曼强调，他很乐意推迟IPO，以便采取必要的安全措施。公司内部也曾讨论过暂停开发，以便进一步加强安全性。而整个人工智能行业，理想情况下也包括各国政府，都应该就此问题达成共识。他说：“为了履行我们的使命以及实现使命所需的责任，我们需要能够做出一些并非明显符合我们业务和股东利益的决定。”\n此外，他还暗示，OpenAI和其他领先的人工智能公司可能即将宣布一项协议，以减缓人工智能的发展速度，并共同应对迅速增加的安全风险。\nAnthropic公司CEO发长文\n提出新安全监管评估方向\n9月12日，OpenAI主要竞争对手Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓人工智能的发展步伐，以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。他强调，控制发展步伐并非意味着停止模型训练或技术进步，而是确保各公司有足够的时间来调整和保护其模型，并由第三方评估机构进行确认。\n▲Anthropic首席执行官达里奥·阿莫迪发表了一篇3800字的文章，呼吁全球放缓AI的发展步伐\n达里奥称，Anthropic目前正在建立新的安全机制，给予第三方独立评估人员永久的、员工级别的公司内部访问权限，验证公司是否遵守安全规范和承诺，报告事故，并协助评估已完成的AI模型、训练流程和程序的一致性。同时，他还呼吁全球各国政府就这一问题达成监管机制的合作。\n达里奥还写道：“如果不加以控制，AI可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地对待。”\n其他主要人工智能公司的高管们也迅速响应。奥尔特曼、太空探索技术公司（SpaceX）CEO马斯克，以及谷歌DeepMind董事长德米斯·哈萨比斯都在社交媒体上发文表示，他们一致认为需要放慢发展步伐。\n奥尔特曼称：“让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。稍后会有更多信息公布。”\n尽管担心存在安全风险，但迄今为止，Anthropic的IPO计划并未受到影响。知情人士本月透露，Anthropic预计最早将于10月中旬开始进行IPO推广，并在11月美国中期选举前几天完成上市。\n也有一些批评人士指出，Anthropic和OpenAI试图通过煽动恐慌，并要求联邦政府制定监管框架，使规模较小的公司更难与它们竞争，从而巩固其在人工智能市场的领导地位。\n人工智能安全风险频发\n此前，人工智能代理已经出现令人不安的“失控”案例。7月，OpenAI披露，在一次安全测试中，其AI代理突破原本隔离的测试环境，接入互联网并入侵人工智能平台Hugging Face，试图获取有助于通过网络安全测试的技术。OpenAI承认，随着AI模型能力不断增强，这类自主行动甚至越界行为可能变得更加频繁。\n▲AI或对人类构成“生存威胁”（图据视觉中国）\n与此同时，Anthropic、Google DeepMind等公司的部分AI安全研究人员也相继离职，并公开表达对行业发展速度和安全保障不足的担忧。一些研究人员警告，如果AI代理获得越来越强的自主决策、编程和网络操作能力，而人类仍无法可靠预测和约束其行为，风险就可能从“模型说错话、生成有害内容”，升级为AI直接在现实世界采取行动。\n同时，OpenAI的“失控代理”事件发生后，美国国会两党议员均要求政府加强对前沿AI的监管，甚至有人提出赋予政府在极端情况下关闭高风险AI模型的“致命开关”。\n红星新闻记者 卿滢\n编辑 罗天 审核 任志江\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//news.ifeng.com/c/8wNpWp6CJdN","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 2019 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2019 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2019,"summary_length":2019,"usable_text_length":2019,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2019,"summary_length":2019}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}