{"id":90609,"topic":"ai","source":"凤凰网","title":"OpenAI再曝大模型越界行为！ - 凤凰网","url":"https://finance.ifeng.com/c/8wjHj4LzTJY","url_hash":"48b044734a6e48d8ade73f8446094d766c65187f","author":"","summary":"<a href=\"https://news.google.com/rss/articles/CBMiUEFVX3lxTE1TWHdaTjNUZmFnVUpCM3ozZHR1Z0hOWm8zM0phQ0JSb1AydzhadjJkeTJvaHpqNjRzajVLV1diLUtxVl9sTlM2amxTNHdKck9f?oc=5\" target=\"_blank\">OpenAI再曝大模型越界行为！</a>&nbsp;&nbsp;<font color=\"#6f6f6f\">凤凰网</font>","content":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","image_url":"https://x0.ifengimg.com/res/2026/CB8A36B5FD386316336CDDD8E651901D3687D618_size828_w1000_h563.png","lang":"zh","published_at":"2026-09-26T03:37:22+00:00","fetched_at":"2026-09-26T05:15:08+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://finance.ifeng.com/c/8wjHj4LzTJY","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1542 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1542,"summary_length":1542,"usable_text_length":1542,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1542,"summary_length":1542}},"news_item":{"id":90609,"canonical_url":"https://finance.ifeng.com/c/8wjHj4LzTJY","source_url":"https://finance.ifeng.com/c/8wjHj4LzTJY","title":"OpenAI再曝大模型越界行为！ - 凤凰网","source_name":"凤凰网","author":null,"published_at":"2026-09-26T03:37:22+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"<a href=\"https://news.google.com/rss/articles/CBMiUEFVX3lxTE1TWHdaTjNUZmFnVUpCM3ozZHR1Z0hOWm8zM0phQ0JSb1AydzhadjJkeTJvaHpqNjRzajVLV1diLUtxVl9sTlM2amxTNHdKck9f?oc=5\" target=\"_blank\">OpenAI再曝大模型越界行为！</a>&nbsp;&nbsp;<font color=\"#6f6f6f\">凤凰网</font>","full_text":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","excerpt":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 1542 characters.","diagnostics_url":"/api/diagnose?url=https%3A//finance.ifeng.com/c/8wjHj4LzTJY","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1542 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1542,"summary_length":1542,"usable_text_length":1542,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1542,"summary_length":1542}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"OpenAI再曝大模型越界行为！ - 凤凰网","url":"https://finance.ifeng.com/c/8wjHj4LzTJY","summary":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","source":"凤凰网","date":"2026-09-26T03:37:22+00:00","content":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//finance.ifeng.com/c/8wjHj4LzTJY","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 1542 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1542 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1542,"summary_length":1542,"usable_text_length":1542,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1542,"summary_length":1542}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/90609","export_markdown":"/api/items/90609/export?format=markdown","export_json":"/api/items/90609/export?format=json","diagnose":"/api/diagnose?url=https%3A//finance.ifeng.com/c/8wjHj4LzTJY"},"formats":{"full":{"id":90609,"title":"OpenAI再曝大模型越界行为！ - 凤凰网","url":"https://finance.ifeng.com/c/8wjHj4LzTJY","source":"凤凰网","author":null,"published_at":"2026-09-26T03:37:22+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","full_text":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 1542 characters.","diagnostics_url":"/api/diagnose?url=https%3A//finance.ifeng.com/c/8wjHj4LzTJY","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1542 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1542,"summary_length":1542,"usable_text_length":1542,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1542,"summary_length":1542}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1542 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1542,"summary_length":1542,"usable_text_length":1542,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1542,"summary_length":1542}},"actions":{"read":"/item/90609","export_markdown":"/api/items/90609/export?format=markdown","export_json":"/api/items/90609/export?format=json","diagnose":"/api/diagnose?url=https%3A//finance.ifeng.com/c/8wjHj4LzTJY"}},"digest":{"id":90609,"title":"OpenAI再曝大模型越界行为！ - 凤凰网","url":"https://finance.ifeng.com/c/8wjHj4LzTJY","source":"凤凰网","topic":"ai","published_at":"2026-09-26T03:37:22+00:00","excerpt":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。 盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。” 随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 1542 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"OpenAI再曝大模型越界行为！ - 凤凰网","subtitle":"凤凰网 · 2026-09-26","summary":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。 盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”…","badges":["quality:high"],"links":{"read":"/item/90609","original":"https://finance.ifeng.com/c/8wjHj4LzTJY","diagnose":"/api/diagnose?url=https%3A//finance.ifeng.com/c/8wjHj4LzTJY"},"quality_warning":null},"export":{"title":"OpenAI再曝大模型越界行为！ - 凤凰网","url":"https://finance.ifeng.com/c/8wjHj4LzTJY","summary":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","source":"凤凰网","date":"2026-09-26T03:37:22+00:00","content":"财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。\n盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”\n随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthropic对齐科学负责人Evan Hubinger则警告称，未来10年内AI导致人类灭绝的概率超过10%。\n随后，Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis都呼吁放缓AI开发速度，并加强联邦政府对AI行业的监管。\n针对应对AI风险，盖茨在采访中表示，仅靠行业自律是不够的。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。”他称。\n盖茨曾在一篇8月发表的文章中警告称，不法分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。\nOpenAI再曝大规模越界行为\n就在盖茨发出上述警告之际，OpenAI当地时间25日披露，公司已通知数十家可能受到其AI模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。\n此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。OpenAI表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。\n就在几天前，OpenAI承认其AI模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的AI网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。\n两大阵营\n目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋和Meta CEO扎克伯格与美国总统特朗普一道，反对“AI减速论”。截至目前，白宫在AI监管方面大体采取了宽松的态度。特朗普近日多次淡化AI风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与AI相关的风险。\n黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。\n“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。\nNotice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//finance.ifeng.com/c/8wjHj4LzTJY","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 1542 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1542 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1542,"summary_length":1542,"usable_text_length":1542,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1542,"summary_length":1542}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}