{"id":90673,"topic":"ai","source":"凤凰网科技","title":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” - 凤凰网科技","url":"https://tech.ifeng.com/c/8wjiiOklx3F","url_hash":"ce0872c7fcf08053138f6f6d752d55884a056c2d","author":"","summary":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” 凤凰网科技","content":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","image_url":"https://x0.ifengimg.com/ucms/2026_39/4FD68897A475326487DED9795984FDCB08C44034_size827_w814_h457.png","lang":"zh","published_at":"2026-09-26T08:31:38+00:00","fetched_at":"2026-09-26T09:15:09+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://tech.ifeng.com/c/8wjiiOklx3F","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3226 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3226,"summary_length":3226,"usable_text_length":3226,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3226,"summary_length":3226}},"news_item":{"id":90673,"canonical_url":"https://tech.ifeng.com/c/8wjiiOklx3F","source_url":"https://tech.ifeng.com/c/8wjiiOklx3F","title":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” - 凤凰网科技","source_name":"凤凰网科技","author":null,"published_at":"2026-09-26T08:31:38+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” 凤凰网科技","full_text":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","excerpt":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 3226 characters.","diagnostics_url":"/api/diagnose?url=https%3A//tech.ifeng.com/c/8wjiiOklx3F","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3226 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3226,"summary_length":3226,"usable_text_length":3226,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3226,"summary_length":3226}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” - 凤凰网科技","url":"https://tech.ifeng.com/c/8wjiiOklx3F","summary":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","source":"凤凰网科技","date":"2026-09-26T08:31:38+00:00","content":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//tech.ifeng.com/c/8wjiiOklx3F","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 3226 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3226 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3226,"summary_length":3226,"usable_text_length":3226,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3226,"summary_length":3226}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/90673","export_markdown":"/api/items/90673/export?format=markdown","export_json":"/api/items/90673/export?format=json","diagnose":"/api/diagnose?url=https%3A//tech.ifeng.com/c/8wjiiOklx3F"},"formats":{"full":{"id":90673,"title":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” - 凤凰网科技","url":"https://tech.ifeng.com/c/8wjiiOklx3F","source":"凤凰网科技","author":null,"published_at":"2026-09-26T08:31:38+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","full_text":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 3226 characters.","diagnostics_url":"/api/diagnose?url=https%3A//tech.ifeng.com/c/8wjiiOklx3F","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3226 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3226,"summary_length":3226,"usable_text_length":3226,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3226,"summary_length":3226}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3226 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3226,"summary_length":3226,"usable_text_length":3226,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3226,"summary_length":3226}},"actions":{"read":"/item/90673","export_markdown":"/api/items/90673/export?format=markdown","export_json":"/api/items/90673/export?format=json","diagnose":"/api/diagnose?url=https%3A//tech.ifeng.com/c/8wjiiOklx3F"}},"digest":{"id":90673,"title":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” - 凤凰网科技","url":"https://tech.ifeng.com/c/8wjiiOklx3F","source":"凤凰网科技","topic":"ai","published_at":"2026-09-26T08:31:38+00:00","excerpt":"新智元报道 AI的丧钟，敲响了！ 比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。 这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！ 同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。 科技界与宗教界达成空前共识，这标志着什么？ 这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点 比尔·盖茨：「十亿人死亡」倒计时…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 3226 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” - 凤凰网科技","subtitle":"凤凰网科技 · 2026-09-26","summary":"新智元报道 AI的丧钟，敲响了！ 比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。 这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！ 同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。 科技界与宗教界达成空前共识，这标志着什么？…","badges":["quality:high"],"links":{"read":"/item/90673","original":"https://tech.ifeng.com/c/8wjiiOklx3F","diagnose":"/api/diagnose?url=https%3A//tech.ifeng.com/c/8wjiiOklx3F"},"quality_warning":null},"export":{"title":"盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂” - 凤凰网科技","url":"https://tech.ifeng.com/c/8wjiiOklx3F","summary":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","source":"凤凰网科技","date":"2026-09-26T08:31:38+00:00","content":"新智元报道\nAI的丧钟，敲响了！\n比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。\n这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！\n同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。\n科技界与宗教界达成空前共识，这标志着什么？\n这是AI安全议题跳出实验室、演变为迫在眉睫的全球政治与生存危机的转折点\n比尔·盖茨：「十亿人死亡」倒计时\n马斯克警告AI风险，大家或许还觉得带有某种「钢铁侠式」的科幻夸张。\n但当比尔·盖茨——这个把一生都奉献给代码、坚信技术能拯救世界的极客老炮儿——开始描绘末日图景时，所有人都必须倒吸一口凉气了。\n在NBC《与媒体见面》主持人Kristen Welker的专访中，盖茨抛出了一个让全球科技圈震动的论断：「人工智能当然已经强大到足以引发导致十亿人死亡的事件。」\n「十亿人」这个数字，是微软创始人基于对当前顶尖大模型能力的真实评估给出的\n史上最强武器：当「坏人」遇上「最新AI」\n盖茨一针见血地指出了当前AI发展的最大盲区：我们总在假设使用者是好人。\n「从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。」盖茨警告道。\n试想一下，如果一个恐怖分子或者极端组织掌握了最新的生成式AI，会发生什么？\n生物风险、网络瘫痪、社会撕裂都有可能带来人类灾难。\n过去，研制超级病毒需要顶尖的P4实验室和数十年的跨学科专家积累。\n现在，一个懂基础生物学的疯子，可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。\nAI可以在几秒钟内发现全球关键基础设施（如电网、核电站、金融结算系统）的零日漏洞，并发起自动化的高频攻击。\n利用深度伪造（Deepfake）技术生成完美的视频，可能以假乱真，引发不可挽回的误判。\n梵蒂冈AI顾问Paolo Benanti的对比则更加令人毛骨悚然：\n核武器的威力在于它能从物理上毁灭人类；而生成式AI操纵社交媒体内容的威力，则在于它能彻底摧毁人们共同生活的能力。\n当真假不再有界限，当认知被算法精准操控，社会将四分五裂，不用核弹爆炸，人类的文明就会在无休止的内斗与猜忌中走向终结。\n盖茨口中的「十亿人死亡」，绝非危言耸听，而是基于「恶意者+无限算力=无限破坏力」的恐怖方程。\n「企业自律完全靠不住，必须强制监管！」\n在这个问题上，盖茨毫不留情地扯下了硅谷巨头们的遮羞布。\n长久以来，OpenAI、谷歌、Meta等巨头总是标榜「我们有红队测试」、「我们有安全对齐机制」、「我们能自我监管」。\n「没人认为自我监管就够了。」盖茨直言不讳。\n他强烈呼吁，执法部门和政界必须立即下场，参与制定安全护栏和监测机制，而且他用了一个极其沉重的词：「强制性」。\n这意味着，盖茨认为现有的「道德呼吁」和「行业准则」在巨大的商业利益和军备竞赛面前，不过是一张废纸。没有国家机器的强制介入，AI的失控只是时间问题。\n冰火两重天：一个月内两次拉警报的盖茨\n盖茨目前的态度，呈现出一种极其矛盾又极度清醒的状态。\n就在8月26日，他刚在个人博客Gates Notes发表长文，悲观地表示：按照目前的路线和速度，AI带来「净负面结果」的可能性非常高。\n他直接点名了失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身的失控。\n然而，不到一个月后的9月14日，盖茨基金会又宣布，将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。\n一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人。\n这种撕裂感，恰恰是当前人类在ASI前夜最真实的写照——我们深知手里握着的是普罗米修斯的火种，但同时也明白，这火种一旦倾覆，就是焚烧世界的地狱烈焰。\n教皇痛批「机器天堂」陷阱\n特朗普力推「超级智能」\n如果说比尔·盖茨看到的是肉体的毁灭，那么在地球的另一端，精神领袖教皇良十四世看到的，则是人类灵魂的崩塌。\n同在9月25日，良十四世在访问法国的第一天，就将炮火猛烈对准了AI。\n在法国总统府爱丽舍宫，面对马克龙，教皇没有寒暄套话，而是直接抛出了一个极其尖锐的观点：「机器天堂」正在侵入并左右人们的日常生活。\n什么是「机器天堂」？\n那就是一个算法替你思考、替你决策、替你感受的世界。在这个天堂里，人类看似获得了极大的便利，实则正在让渡作为「人」的最核心特质——自由意志与伦理判断力。\n教皇急切地呼吁，要想不在这种技术乌托邦中丢掉人性，当下最急需的不是编程教育，而是「伦理判断力的教育」 。一旦人类习惯了让AI来判断对错，人类社会的道德大厦将瞬间崩塌。\n随后，在位于巴黎的联合国教科文组织UNESCO总部，教皇点破了一个让所有科技从业者汗颜的悖论：\n计算系统被傲慢地称作「智能」，而活生生的人，却被按照效率来衡量价值，一旦没用了就被像垃圾一样抛弃。\n这句话直击当前AI浪潮的最痛点。\n特朗普突发禁令，全美封杀「人工智能」\n与此同时，9月22日，在纽约联合国大会的讲台上，美国总统抛出了一个令人错愕的决定——\n他下令美国政府所有官方文件，从此废除「人工智能」（AI）这一称呼，全面改用「超级智能」（Super Intelligence，简称SI）。\n一时间，所有人都懵了。\n理由：「人工」听起来太假了\n特朗普给出的理由，非常「懂王」。\n他认为，「人工」这个词让人觉得这项技术是「假的」，「它根本不假，它实际上非常惊人！」\n「但我们必须小心，它的真实能力与『人工』这个词所声称的恰恰相反。」\n你以为他只是在台上随便说说？绝对不是。\n美联社拿得的一封内部邮件显示，就在特朗普发表演讲的当天，美国国务院国际组织局副助理国务卿Michael Drager已经火速向所有外交官下达了「死命令」：\n主题：关于AI更名为SI的命名变更。根据总统今天的讲话，请在我们的文件和立场中，将所有提到『人工智能』的地方改为『超级智能』。未来在所有讲话、立场和新闻元素中，我们都将使用『SI』。\n美国首席技术官伊桑·克莱因更是表示：「『超级智能（SI）总统』已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！」\n就在特朗普强推「超级智能」的同时，美国正面临着前所未有的撕裂。\n在字典里，「超级智能」代表着超越人类的智慧。对许多前沿AI公司的员工来说，这代表着人类的末日。\nJacob Coxon等人发出预警：「AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！」\n面对这种「末日警告」，特朗普的回应只有两个字：「骗局」。\n他将这些科学家的担忧斥为危言耸听的骗局，并坚持认为只要政府在必要时「控制局面」就足够了。\n但这也彻底激怒了部分美国政客。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格的测试和监督之前，全面暂停高级AI的开发！\n「科学家们已经说得很清楚了：AI是人类生存的威胁！」Sanders大声疾呼，「我们在为时已晚之前，现在就采取行动！」\n一边是呼吁立刻踩下刹车的立法者与科学家，一边是死死踩住油门的总统。\n我们看到的是科技发展到临界点时，人类社会所展现出的巨大狂热与极度恐惧。\n站在深渊的边缘\n从盖茨的「十亿人死亡警告」，到教皇的「机器天堂痛批」，很显然，我们已站在分水岭上。\n科技乐观派收起了笑容，上帝的使者敲响了警钟。\n我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。\n正如教皇所言，当机器被称为「智能」时，请不要忘记人类的尊严。当算力碾压一切时，我们更需要守住生而为人的底线。\n这一次，留给人类打补丁的时间，真的不多了。","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//tech.ifeng.com/c/8wjiiOklx3F","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 3226 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3226 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3226,"summary_length":3226,"usable_text_length":3226,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3226,"summary_length":3226}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}