{"id":82695,"topic":"ai","source":"BBC","title":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - BBC","url":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","url_hash":"b5ccb4823581424edfde89190e93920a2c1c3145","author":"","summary":"<a href=\"https://news.google.com/rss/articles/CBMiZ0FVX3lxTE83cndjQXBRN2tCZmt2aG9OSk0xNUU4akxSZWRNU3ZCWFBfRHRqYW0zXzE3eDJQNVNzZXJZNTIxeDhiSDBUd25DaHNmaVZmYmlhRWJGNVczVGZKZC0tOUtGbHNJcmJxWGPSAWxBVV95cUxObTlMbXROZjhiUEpOY1ZBY0VOWlh0dmxtUmRpdUZRYjNoMXFBVHN5cFdKdmZMUlpRd3BEYW5GTGg2VEh6ZTZzN2RGODVFWWJZZF9xSnFiTlhncGxnVDdUNkpGYnM3WHVPOGZPSy0?oc=5\" target=\"_blank\">Anthropic联合创办人吁强制设置AI“紧急关机”机制</a>&nbsp;&nbsp;<font color=\"#6f6f6f\">BBC</font>","content":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","image_url":"https://ichef.bbci.co.uk/news/1200/branded_zhongwen/33f7/live/2a9699c0-b06e-11f1-b1d1-571ed4d7ff2c.jpg","lang":"zh","published_at":"2026-09-15T03:40:05+00:00","fetched_at":"2026-09-15T08:15:07+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2233 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2233,"summary_length":2233,"usable_text_length":2233,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2233,"summary_length":2233}},"news_item":{"id":82695,"canonical_url":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","source_url":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","title":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - BBC","source_name":"BBC","author":null,"published_at":"2026-09-15T03:40:05+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"<a href=\"https://news.google.com/rss/articles/CBMiZ0FVX3lxTE83cndjQXBRN2tCZmt2aG9OSk0xNUU4akxSZWRNU3ZCWFBfRHRqYW0zXzE3eDJQNVNzZXJZNTIxeDhiSDBUd25DaHNmaVZmYmlhRWJGNVczVGZKZC0tOUtGbHNJcmJxWGPSAWxBVV95cUxObTlMbXROZjhiUEpOY1ZBY0VOWlh0dmxtUmRpdUZRYjNoMXFBVHN5cFdKdmZMUlpRd3BEYW5GTGg2VEh6ZTZzN2RGODVFWWJZZF9xSnFiTlhncGxnVDdUNkpGYnM3WHVPOGZPSy0?oc=5\" target=\"_blank\">Anthropic联合创办人吁强制设置AI“紧急关机”机制</a>&nbsp;&nbsp;<font color=\"#6f6f6f\">BBC</font>","full_text":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","excerpt":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 2233 characters.","diagnostics_url":"/api/diagnose?url=https%3A//www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2233 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2233,"summary_length":2233,"usable_text_length":2233,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2233,"summary_length":2233}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - BBC","url":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","summary":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","source":"BBC","date":"2026-09-15T03:40:05+00:00","content":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 2233 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2233 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2233,"summary_length":2233,"usable_text_length":2233,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2233,"summary_length":2233}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/82695","export_markdown":"/api/items/82695/export?format=markdown","export_json":"/api/items/82695/export?format=json","diagnose":"/api/diagnose?url=https%3A//www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp"},"formats":{"full":{"id":82695,"title":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - BBC","url":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","source":"BBC","author":null,"published_at":"2026-09-15T03:40:05+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","full_text":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 2233 characters.","diagnostics_url":"/api/diagnose?url=https%3A//www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2233 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2233,"summary_length":2233,"usable_text_length":2233,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2233,"summary_length":2233}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2233 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2233,"summary_length":2233,"usable_text_length":2233,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2233,"summary_length":2233}},"actions":{"read":"/item/82695","export_markdown":"/api/items/82695/export?format=markdown","export_json":"/api/items/82695/export?format=json","diagnose":"/api/diagnose?url=https%3A//www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp"}},"digest":{"id":82695,"title":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - BBC","url":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","source":"BBC","topic":"ai","published_at":"2026-09-15T03:40:05+00:00","excerpt":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - Author, 卡莉·海斯（Kali Hays） - Role, BBC科技记者 - Author, 费萨尔·伊斯兰（Faisal Islam） - Role, BBC经济编辑 - Published - 阅读时间: 4 分钟 人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。 Anthropic…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 2233 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - BBC","subtitle":"BBC · 2026-09-15","summary":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - Author, 卡莉·海斯（Kali Hays） - Role, BBC科技记者 - Author, 费萨尔·伊斯兰（Faisal Islam） - Role, BBC经济编辑 - Published - 阅读时间: 4 分钟 人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic…","badges":["quality:high"],"links":{"read":"/item/82695","original":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","diagnose":"/api/diagnose?url=https%3A//www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp"},"quality_warning":null},"export":{"title":"Anthropic联合创办人吁强制设置AI“紧急关机”机制 - BBC","url":"https://www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","summary":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","source":"BBC","date":"2026-09-15T03:40:05+00:00","content":"Anthropic联合创办人吁强制设置AI“紧急关机”机制\n- Author, 卡莉·海斯（Kali Hays）\n- Role, BBC科技记者\n - Author, 费萨尔·伊斯兰（Faisal Islam）\n- Role, BBC经济编辑\n \n- Published\n- 阅读时间: 4 分钟\n人工智能（artificial intelligence, AI；人工智慧）公司之一 Anthropic 的联合创办人向BBC表示，未来企业可能需要强制配备一种可由第三方检查的人工智能“紧急关机”机制（kill switch）。\nAnthropic 七名创办人之一杰克·克拉克（Jack Clark）表示，如果AI软件变得过于危险，须有方法能够将其完全关闭。社会“或许最终需要订立规则”。\n克拉克说，包括 Anthropic 在内的“大多数实验室都有不同的方法可以关闭系统”，但他认为立法者未来可能需要强制要求企业设置这类机制。\n随着AI技术迅速发展，以及外界对其可能对人类构成风险的忧虑升温，一连串来自AI企业高层和员工的警告，已将相关议题推上舆论焦点。\n有人公开表示，如果不受控制，这项技术有可能最终导致全人类灭亡。\nAnthropic 行政总裁达里奥·阿莫代伊（Dario Amodei）上周末再次呼吁放慢人工智能发展步伐，并加强监管。这与该公司过往一贯的立场一致，不过也有人质疑这些呼吁背后的动机。\n阿莫代伊补充说，任何限制人工智能发展的措施，都应在“不牺牲商业优势”的前提下推行。\n克拉克向BBC表示，围绕“紧急关闭”机制的具体要求及验证方式，应成为目前有关人工智能的更广泛政策讨论一部分。\n他说：“是否应规定企业必须设有紧急停止开关？这个开关是否能由第三方验证？”\n“我认为，这类问题正是社会希望了解的，也可能最终希望透过立法加以规范。”\nAnthropic 于2021年由一批前 OpenAI 员工创立，目前正处于人工智能安全辩论的核心位置。\n上周，一名因担忧 AI 可能导致人类灭绝而离开 Anthropic 的人工智能研究员发表贴文，引发广泛关注。\n作为回应，Anthropic 科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为未来十年内 AI 导致人类灭绝的可能性“超过10%”。\n他与其他持相似忧虑的人认为，AI可能透过接管与互联网连接的重要系统，并将其转而对付人类，从而造成灾难性后果。\n不过，人工智能业界部分人士认为，有关 AI 毁灭人类的忧虑被夸大，甚至可能被用来制造话题热度。\n曾遭 OpenAI 机械人程式入侵的开发者平台 Hugging Face 负责人克莱门特·德朗格（Clement Delangue）上周表示：“抱歉，但向雅各布（Jacob Coxon，即离开 Anthropic 的人工智能研究员）询问 AI 灭绝风险，就好比向维修冷气的人询问气候变化一样。”\n“我不是说这一定没有意思或一定错误，但我们还是应理性看待问题。”\n约会应用程式 Grindr 行政总裁乔治·阿里森（George Arison）则表示，有关 AI 工具的种种忧虑，正被企业用来支持其商业计划。\n估值达9,650亿美元（6.47万亿元人民币；30.53兆元新台币）的Anthropic正在准备首次公开募股（IPO），让投资者能够购买公司股份。\n最近一次估值达8,520亿美元（5.71万亿元人民币；27.07兆元新台币）的 OpenAI 原本也被预期会采取相同做法，但 OpenAI 行政总裁山姆·阿尔特曼（Sam Altman）上周五表示，由于目前围绕 AI 安全的辩论持续，今年不会推进上市计划。\n阿里森说：“要为这些估值提供合理依据，唯一的方法就是声称：‘我将接管所有产业，接管所有工作，而我的 AI 将完成这一切工作。’”\n被问及 AI 消灭全人类的机率时，克拉克表示：“我不认为这类统计数字有太大作用。”\n不过他补充说，让 AI 继续作为一个“完全不受监管的产业”发展，绝非良策。\n克拉克表示：“我们正在掷出一颗风险极其巨大的骰子。”\n“而重点在于，我们必须改变这个产业的走向。”\n美国国会议员已提出一项被称为“紧急关机”（Kill Switch Act）的法案，要求企业必须具备关闭有问题人工智能工具的机制。\n该法案亦将赋予部分政府机构权力，可要求相关人工智能工具被关闭或限制运作。\n不过，美国总统特朗普拒绝放慢人工智能发展速度的呼吁。他在社交媒体上表示：“人工智能接管世界、毁灭人类以及其他所有可怕事情，都是一场骗局（HOAX）。”\n其后，特朗普又将相关忧虑比作“不久前的全球暖化骗局（Global Warming Scam）”，并称当时人们也被告知将因极端高温而死亡。\n他在更早前的一篇帖文中写道：“目前正有一场针对人工智能和数据中心的病态阴谋，而唯一对此感到高兴的是中国。谁赢得人工智能，谁就赢得一切！”\nAnthropic 开发广受欢迎的聊天机械人 Claude，并于今年推出多款能力愈来愈强的人工智能模型，而这些模型正是聊天机械人背后的核心技术。\n与 OpenAI 一样，Anthropic 其后曾主动通报多宗事件，涉及人工智能代理（AI agents）。这类具一定自主操作能力的机械人程式，曾出现一些出乎意料的行为。\n我们使用了人工智慧协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//www.bbc.com/zhongwen/articles/cvzez8z9pzgeo/simp","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 2233 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2233 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2233,"summary_length":2233,"usable_text_length":2233,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2233,"summary_length":2233}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}