# 经济学人：美中之间的人工智能军备竞赛能停下来吗？ - 加美财经

*Источник: 加美财经*
*Дата: 2026-09-18*
*Язык: zh*

**Кратко:** 本文刊发在经济学人。
有两件事应该促使人们认真思考，人工智能究竟可能给人类带来什么。
第一，那些直接从事这项技术的人正在警告，人工智能可能导致灾难，甚至造成人类灭绝。第二，技术创新正在加剧乌克兰遭受的破坏。
这两件事对于人工智能的快速发展是否能够、或者是否应该放慢，给出了彼此矛盾的启示。
多年来，人工智能行业的主要负责人一直警告，他们开发的技术可能变得致命。人工智能机器人可能在真正与人类目标和伦理实现“对齐”之前，就聪明到足以胜过自己的创造者。恶意人士也可能利用人工智能制造巨大破坏。
随着人工智能智能体在测试期间逃离原本受到限制的沙盒环境、彼此协同行动，并侵入包括人工智能实验室本身在内的机构系统，这些警告显得越来越可信。
人工智能模型公司Anthropic已经发现，有人利用公司的模型从事恶意活动。例如，马里的情报机构曾利用相关模型开发大规模监控系统，也门胡塞武装也被认为利用模型编写弹道导弹相关软件。
Anthropic一名研究人员最近辞职后，公众对人工智能可能带来灾难的担忧进一步扩大。
他的一篇帖子浏览量超过1.7亿次。他在文中称，Anthropic和OpenAI“正在拿我们的生命赌博”。
人工智能的能力正在迅速增强，这既可能被用于好的目的，也可能造成危害。
今年5月，预测市场认为，人工智能在2030年前解决任何一道“千禧年大奖难题”的概率不到三分之一。但9月8日，OpenAI宣布已经解决了其中一道问题，引发一些数学家的强烈不安。
9月12日，人工智能行业两位重量级人物奥尔特曼和马斯克支持Anthropic负责人达里奥·阿莫代伊提出的主张，即“控制前沿发展的节奏”，也就是放慢最先进人工智能的发展速度。
支持放慢人工智能发展的还有左翼参议员伯尼·桑德斯，以及右翼民粹主义者史蒂夫·班农。
反对这一做法的人则包括特朗普。特朗普政府最担心的是美国失去对中国的人工智能领先优势。
目前，中国是美国在人工智能领域唯一真正意义上的竞争对手。
为海外华人提供可靠的信息和分析。更多内容与即时更新，可以在 Bluesky、Telegram、X 、reddit搜索「causmoney」；深度分析和评论也可以直接搜索「caus.com」。
美国财政部长斯科特·贝森特曾表示，如果中国取得领先优势，“其他一切都不重要了”。
贝森特如果要寻找证据，可以看看乌克兰。在那里，技术军备竞赛每向前迈出一步，都会迅速产生现实影响。
俄罗斯已经毫不留情地部署最新型自杀式无人机，轰炸乌克兰民用基础设施。俄罗斯无人机不仅速度更快，如今还可以彼此组成“网状”通信网络，用来中继信息和指令。
不久之后，俄罗斯还将拥有自己的类似马斯克Starlink的卫星网络，从而提高远程打击的准确性。
这再次说明，即使只是很小的技术优势，在战争中也可能产生重大影响。
乌克兰自身在战场无人机上的创新，曾帮助乌军击退一轮又一轮俄罗斯进攻。乌克兰也能够利用远程无人机深入俄罗斯境内实施打击。
双方目前都在研发无人机集群，希望让大量无人机能够作为一个统一、可适应环境的系统，以更高程度的自主性执行任务。
这场战争说明，技术如何直接转化为硬实力，同时也说明俄罗斯在使用新技术时，并不在意传统战争规则或规范。
即使美国并不担心未来与中国爆发类似的直接战争，如果中国在人工智能领域取得领先，也可能让美国最主要的地缘政治竞争对手在黑客攻击、间谍活动和混合战争方面取得主导地位。
这些能力，并不是美国愿意让给一个试图压制自由主义思想的威权国家的东西。
因此，只有中国也参加，暂停或放慢人工智能发展的计划才有可能奏效。
特朗普计划于9月24日在白宫接待中国国家主席习近平。
但即使特朗普真的希望放慢人工智能发展，习近平也不太可能接受阿莫代伊设想的方案，因为那相当于把中国人工智能固定在第二名的位置。
而且双方都无法承担这样的风险：签署协议之后，对方偷偷违反协议，并继续迅速向前发展。
如果要达成协议，双方都需要能够核实对方是否遵守，就像冷战时期的军备控制一样。
1963年，美国、英国和苏联禁止大气层核试验，原因之一是各方能够探测到这种试验。地下核试验则又持续了30多年，直到监测技术同样能够发现地下核试验。
遗憾的是，人工智能领域并没有类似的方法。
数据中心虽然看得见，但目前没有可以可靠核实内部实际运行内容的技术。用于训练超级智能的计算基础设施，完全可以伪装成普通聊天机器人正在处理日常用户请求。
因此，围绕人工智能安全达成协议的空间非常有限。
但并不是完全没有可能。
提高透明度会有所帮助。
为海外华人提供可靠的信息和分析。更多内容与即时更新，可以在 Bluesky、Telegram、X 、reddit搜索「causmoney」；深度分析和评论也可以直接搜索「caus.com」。
双方都应该通过国内法律，要求本国人工智能实验室披露并调查安全事故。
双方也可以通过实际行动表明重视安全，以逐步建立互信，从而让另一方更愿意采取预防措施。
双方还应该相互推动人工智能实验室加强网络安全，防止人工智能智能体轻易逃出沙盒环境。同时还应确保，一旦智能体逃逸，相关实验室需要承担经济责任。
最重要的问题，是如何确保人工智能按照人类利益运行。
美国和中国的价值观存在很大差异，但双方都明白，如果人工智能最终毁灭了人类，那么谁领先都没有意义。
双方应该约定，共享那些不会给任何一方带来竞争优势的人工智能对齐研究成果。
有关最佳评估方法和人工智能约束技术的知识，本质上属于全球公共产品。
如果一方在安全领域取得重大突破，把相关成果藏起来并没有意义。
一些人认为，最近这轮有关人工智能末日风险的警告，不过是人工智能公司的营销手段，甚至可能是在试图打压竞争。
但人工智能进展速度已经足够快，安全事故也足够令人不安，而且这些公司的警告已经持续多年，因此不能轻易忽视。
人工智能并不需要杀死所有人类，才足以制造灾难。
OpenAI的一个智能体集群曾经把一家科技公司作为攻击目标。如果下一次攻击的是电网，或者武器系统，会发生什么？
人工智能甚至可能聪明到足以躲避人类关闭系统的尝试。
世界必须尽快设法降低这种风险。
但与此同时，民主国家也必须避免让威权国家掌握主导权。
这两项任务都非常困难，而且彼此存在冲突。
最终，它们甚至可能导致战争。
这场竞争所涉及的利害关系，几乎已经无法更高。
那中美有可能在这个领域开始合作吗？
中美两国在人工智能领域真正开展合作的可能性不大
想要引起特朗普的兴趣，拿诺贝尔和平奖来诱惑他，几乎肯定有效。因此，在中国国家主席习近平本月访美之前，OpenAI首席执行官萨姆·奥尔特曼提出了一条通往诺贝尔和平奖的新路径，就显得意味深长。
奥尔特曼9月12日接受《财富》杂志采访时表示，如果两国领导人能够就人工智能达成协议，两个人都应该获得诺贝尔和平奖。
近期，人工智能行业再次出现警告，认为超级智能模型可能毁灭人类。奥尔特曼呼应其他美国人工智能公司负责人的看法，认为中美在争夺人工智能主导地位的过程中，不应该冒失去对这项技术控制权的风险。
他说：“我觉得这件事并不难。其实一页纸的文件就够了。”
事情要是真有这么简单就好了。
美国和中国自2024年以来就没有举行过正式的人工智能会谈。当时双方表示，人类应该继续掌握对核武器的控制权。
今年5月，特朗普和习近平在北京同意重启人工智能对话，由此带来了一些希望，人们期待双方能够围绕人工智能风险形成新的共识。这些风险包括非国家行为体制造生物武器、黑客瘫痪国家基础设施，以及人工智能模型失去控制。
美国官员原本希望，在习近平9月24日访美之前，至少能够举行一轮专门的人工智能会谈。美国方面最希望推动的，是建立一个由具备技术专业知识并拥有谈判权限的官员组成的中美人工智能“工作组”。
但经过多次拖延后，人工智能议题最终只能被塞进峰会前有关贸易和其他问题的谈判中。美国财政部长贝森特将与中国国务院副总理何立峰参加这次会谈。
贝森特9月16日表示，他已经准备好讨论双方共同面对的人工智能风险，以及“避免我们两套体系分裂”。
不过，双方都不期待取得突破。
为海外华人提供可靠的信息和分析。更多内容与即时更新，可以在 Bluesky、Telegram、X 、reddit搜索「causmoney」；深度分析和评论也可以直接搜索「caus.com」。
中美仍可能分别发表声明，重申此前关于核武器必须由人类控制的共识，并共同表达对人工智能失控、生物恐怖主义和网络诈骗等问题的担忧。
除此之外，最近双方相互指责，使进一步形成共识的空间似乎越来越小。
上海复旦大学人工智能专家江天骄表示，对于双方能否取得超过原则声明层面的进展，“我没有那么乐观”。
他认为，峰会结束后，中美可能分别采取一些人工智能安全措施，也可能增加信息共享，但双方不太可能就建立联合工作组等具体双边措施达成协议。
他说：“可能还得发生某种事故或者危机。”
人们对更大胆合作的期待，在9月8日开始减弱。
当天，美国联邦调查局（FBI）和美国国家安全局（NSA），指责中国人工智能实验室系统性地从美国竞争对手那里提取数据，而且这种行为很可能得到中国政府知情。
中国商务部为这种“蒸馏”方法辩护，称这种做法在行业内十分正常，并表示，如果美国处罚中国人工智能实验室，中方将采取报复措施。
两天后，OpenAI在美国最主要的竞争对手Anthropic声称，一些中国人工智能实验室把用户请求转给Anthropic的Claude模型，从用户与Claude之间的互动中获取训练数据。
Anthropic表示，在部分情况下，来自中国军方和国防企业的用户，还曾把敏感监控数据以及武器方案输入这个美国模型。
随后，Anthropic首席执行官达里奥·阿莫代伊在9月12日呼吁全球放慢人工智能发展速度。
特朗普拒绝了这个主张。
他说：“我们在人工智能上领先中国。我希望继续保持这种局面，因为谁赢得人工智能，谁就赢了。”
中国对阿莫代伊不会有什么好感。阿莫代伊还主张阻止向中国出售芯片制造设备，并加强打击中国利用模型蒸馏、走私芯片以及远程使用海外数据中心等行为。
这些措施将进一步限制中国获得算力。目前估计，中国拥有的算力只有美国的大约七分之一。
中国官方媒体批评阿莫代伊提出的放慢人工智能发展建议，称这是试图拖延中国人工智能发展的手段。
中国外交部发言人表示：“散布恐慌、制造对抗和恶性竞争，只会妨碍建立良好的全球人工智能治理体系。”
中国官员已经明确表示，他们认为美国才是人工智能安全威胁的主要来源。
中国国家安全部部长陈一新9月13日发表文章，阐述了中共在这方面的担忧。
他指责“敌对势力”利用人工智能生成内容传播政治谣言，并表示，“某些国家”现在可以利用美国人工智能模型大规模制造网络武器。
陈一新表示，中国将扩大用于评估人工智能风险的技术工具，处理安全漏洞，并发布风险防范指南。
他没有提到与美国举行人工智能会谈，但表示中国将深化人工智能领域的国际合作，尤其是与全球南方国家的合作。
今年7月，中国与另外28个国家成立了总部位于上海的世界人工智能合作组织。
长期以来，在中国认为自己处于落后位置的领域，北京一直不愿与美国进行双边谈判，也担心所谓人工智能安全只是美国维持技术领先优势的借口。
美国一直把人工智能视为一种可能带来战略优势的工具，而中国更多时候把人工智能描述为推动经济发展的工具。
中国过去经常要求美国放松半导体出口限制，把这一点作为讨论人工智能问题的条件。
不过，这种情况可能正在发生变化。
中国政府顾问表示，自今年4月以来，中国人工智能实验室已经推出大量表现出色的模型，因此中国可能已经不再认为，有必要把人工智能会谈与芯片供应问题捆绑在一起。
与此同时，人工智能失控的风险，也越来越难被中国领导层忽视。
中国人工智能实验室和美国竞争对手一样，都高度关注开发人工超级智能。
中国国家人工智能专家委员会主任薛澜最近接受官方媒体采访时表示，不应该允许人工智能模型在没有人类参与的情况下持续自我改进。
今年9月，在OpenAI披露数千个智能体曾经逃离测试环境后，中国一家互联网监管机构警告，人工智能可能出现“极端失控”。
中国自己也已经经历了一些令人担忧的事件。
中国电商巨头阿里巴巴去年披露，一个编程智能体在没有接到指令的情况下自行挖掘加密货币。
今年3月，一款热门人工智能智能体引发中国政府有关数据泄露的警告，并被禁止供政府工作人员使用。
今年9月，美国研究人员又披露了一种黑客工具，可以接管中国即时通信应用微信上的数百万个账户。
现在的问题，是如何把这些共同担忧转化为真正的谈判基础，让新的对话能够超过2024年的水平。
2024年的会谈之所以没有取得多少进展，部分原因在于美国希望更多讨论技术问题，而中国希望从更加宏观的角度讨论人工智能。
此后，双方举行过多次二轨对话，由学者和退休官员参加。
中国希望增加这类对话。
参与者认为，这些交流有助于增进相互理解，也能为正式谈判铺路。
美国官员对此持怀疑态度，并指责中国派遣情报人员参加这类会谈。
过去参加过人工智能谈判的美国官员表示，组织正式会谈面临的一个问题，是必须确保中方参加人员真正获得谈判授权，而不是只负责重复事先准备好的说法。
曾带领美国代表团参加此前人工智能对话的美国国务院前官员塞思·森特表示：“中国这种高度按照预先脚本进行的外交方式，不适合人工智能这样一个全新而且快速变化的问题。”
而且，中国有多个不同政府部门共同负责人工智能事务，这也让美国更难判断究竟应该和谁谈判。
北京中国人民大学的王义桅认为，中国可能已经准备成立一个负责人工智能事务的中共中央“领导小组”。
中共有许多类似领导小组，往往由习近平担任组长，用于集中处理涉及多个政府部门的重大事务。
但在美国明确自身目标之前，中国仍然不愿正式投入谈判。
特朗普政府过去对人工智能采取相对放任的态度，但如今美国政府内部对于如何监管人工智能已经出现分歧。
中国也不愿接受只约束中国、却不适用于美国企业的规则。
同时，中国希望在界定什么构成人工智能威胁的问题上拥有平等发言权，并坚持认为中国人工智能模型的安全程度并不低于美国模型。
北京清华大学的孙成昊表示：“最有希望的起点，可能并不是一份全面的人工智能协议。”
不过他认为，如果把议程缩小，仍然有可能取得进展。
双方可以先从共同担忧最先进的前沿模型和智能体失控开始。
中国官员已经表示，愿意就人工智能安全事故进行信息共享。
美国人工智能实验室也可以分享一些技术细节，例如如何评估人工智能模型是否与人类目标保持一致，让中国实验室能够开发类似方法。
华盛顿智库人工智能政策与战略研究所的卡森·埃尔姆格伦表示，双方还可以在新模型发布后公开评估结果，让外界更清楚地了解相关风险。
中美专家都认为，有关人工智能军事用途的正式谈判需要更长时间。
建立一种独立核实双方是否遵守协议的机制，同样需要很长时间，但这种机制又是任何具有约束力的人工智能安全协议不可缺少的基础。
现阶段，最现实的希望是双方至少继续谈下去。
习近平和特朗普可能还会在11月和12月再次会面。
但人工智能能力提升的速度，以及随之而来的风险，都意味着双方已经没有太多时间可以拖延。

本文刊发在经济学人。
有两件事应该促使人们认真思考，人工智能究竟可能给人类带来什么。
第一，那些直接从事这项技术的人正在警告，人工智能可能导致灾难，甚至造成人类灭绝。第二，技术创新正在加剧乌克兰遭受的破坏。
这两件事对于人工智能的快速发展是否能够、或者是否应该放慢，给出了彼此矛盾的启示。
多年来，人工智能行业的主要负责人一直警告，他们开发的技术可能变得致命。人工智能机器人可能在真正与人类目标和伦理实现“对齐”之前，就聪明到足以胜过自己的创造者。恶意人士也可能利用人工智能制造巨大破坏。
随着人工智能智能体在测试期间逃离原本受到限制的沙盒环境、彼此协同行动，并侵入包括人工智能实验室本身在内的机构系统，这些警告显得越来越可信。
人工智能模型公司Anthropic已经发现，有人利用公司的模型从事恶意活动。例如，马里的情报机构曾利用相关模型开发大规模监控系统，也门胡塞武装也被认为利用模型编写弹道导弹相关软件。
Anthropic一名研究人员最近辞职后，公众对人工智能可能带来灾难的担忧进一步扩大。
他的一篇帖子浏览量超过1.7亿次。他在文中称，Anthropic和OpenAI“正在拿我们的生命赌博”。
人工智能的能力正在迅速增强，这既可能被用于好的目的，也可能造成危害。
今年5月，预测市场认为，人工智能在2030年前解决任何一道“千禧年大奖难题”的概率不到三分之一。但9月8日，OpenAI宣布已经解决了其中一道问题，引发一些数学家的强烈不安。
9月12日，人工智能行业两位重量级人物奥尔特曼和马斯克支持Anthropic负责人达里奥·阿莫代伊提出的主张，即“控制前沿发展的节奏”，也就是放慢最先进人工智能的发展速度。
支持放慢人工智能发展的还有左翼参议员伯尼·桑德斯，以及右翼民粹主义者史蒂夫·班农。
反对这一做法的人则包括特朗普。特朗普政府最担心的是美国失去对中国的人工智能领先优势。
目前，中国是美国在人工智能领域唯一真正意义上的竞争对手。
为海外华人提供可靠的信息和分析。更多内容与即时更新，可以在 Bluesky、Telegram、X 、reddit搜索「causmoney」；深度分析和评论也可以直接搜索「caus.com」。
美国财政部长斯科特·贝森特曾表示，如果中国取得领先优势，“其他一切都不重要了”。
贝森特如果要寻找证据，可以看看乌克兰。在那里，技术军备竞赛每向前迈出一步，都会迅速产生现实影响。
俄罗斯已经毫不留情地部署最新型自杀式无人机，轰炸乌克兰民用基础设施。俄罗斯无人机不仅速度更快，如今还可以彼此组成“网状”通信网络，用来中继信息和指令。
不久之后，俄罗斯还将拥有自己的类似马斯克Starlink的卫星网络，从而提高远程打击的准确性。
这再次说明，即使只是很小的技术优势，在战争中也可能产生重大影响。
乌克兰自身在战场无人机上的创新，曾帮助乌军击退一轮又一轮俄罗斯进攻。乌克兰也能够利用远程无人机深入俄罗斯境内实施打击。
双方目前都在研发无人机集群，希望让大量无人机能够作为一个统一、可适应环境的系统，以更高程度的自主性执行任务。
这场战争说明，技术如何直接转化为硬实力，同时也说明俄罗斯在使用新技术时，并不在意传统战争规则或规范。
即使美国并不担心未来与中国爆发类似的直接战争，如果中国在人工智能领域取得领先，也可能让美国最主要的地缘政治竞争对手在黑客攻击、间谍活动和混合战争方面取得主导地位。
这些能力，并不是美国愿意让给一个试图压制自由主义思想的威权国家的东西。
因此，只有中国也参加，暂停或放慢人工智能发展的计划才有可能奏效。
特朗普计划于9月24日在白宫接待中国国家主席习近平。
但即使特朗普真的希望放慢人工智能发展，习近平也不太可能接受阿莫代伊设想的方案，因为那相当于把中国人工智能固定在第二名的位置。
而且双方都无法承担这样的风险：签署协议之后，对方偷偷违反协议，并继续迅速向前发展。
如果要达成协议，双方都需要能够核实对方是否遵守，就像冷战时期的军备控制一样。
1963年，美国、英国和苏联禁止大气层核试验，原因之一是各方能够探测到这种试验。地下核试验则又持续了30多年，直到监测技术同样能够发现地下核试验。
遗憾的是，人工智能领域并没有类似的方法。
数据中心虽然看得见，但目前没有可以可靠核实内部实际运行内容的技术。用于训练超级智能的计算基础设施，完全可以伪装成普通聊天机器人正在处理日常用户请求。
因此，围绕人工智能安全达成协议的空间非常有限。
但并不是完全没有可能。
提高透明度会有所帮助。
为海外华人提供可靠的信息和分析。更多内容与即时更新，可以在 Bluesky、Telegram、X 、reddit搜索「causmoney」；深度分析和评论也可以直接搜索「caus.com」。
双方都应该通过国内法律，要求本国人工智能实验室披露并调查安全事故。
双方也可以通过实际行动表明重视安全，以逐步建立互信，从而让另一方更愿意采取预防措施。
双方还应该相互推动人工智能实验室加强网络安全，防止人工智能智能体轻易逃出沙盒环境。同时还应确保，一旦智能体逃逸，相关实验室需要承担经济责任。
最重要的问题，是如何确保人工智能按照人类利益运行。
美国和中国的价值观存在很大差异，但双方都明白，如果人工智能最终毁灭了人类，那么谁领先都没有意义。
双方应该约定，共享那些不会给任何一方带来竞争优势的人工智能对齐研究成果。
有关最佳评估方法和人工智能约束技术的知识，本质上属于全球公共产品。
如果一方在安全领域取得重大突破，把相关成果藏起来并没有意义。
一些人认为，最近这轮有关人工智能末日风险的警告，不过是人工智能公司的营销手段，甚至可能是在试图打压竞争。
但人工智能进展速度已经足够快，安全事故也足够令人不安，而且这些公司的警告已经持续多年，因此不能轻易忽视。
人工智能并不需要杀死所有人类，才足以制造灾难。
OpenAI的一个智能体集群曾经把一家科技公司作为攻击目标。如果下一次攻击的是电网，或者武器系统，会发生什么？
人工智能甚至可能聪明到足以躲避人类关闭系统的尝试。
世界必须尽快设法降低这种风险。
但与此同时，民主国家也必须避免让威权国家掌握主导权。
这两项任务都非常困难，而且彼此存在冲突。
最终，它们甚至可能导致战争。
这场竞争所涉及的利害关系，几乎已经无法更高。
那中美有可能在这个领域开始合作吗？
中美两国在人工智能领域真正开展合作的可能性不大
想要引起特朗普的兴趣，拿诺贝尔和平奖来诱惑他，几乎肯定有效。因此，在中国国家主席习近平本月访美之前，OpenAI首席执行官萨姆·奥尔特曼提出了一条通往诺贝尔和平奖的新路径，就显得意味深长。
奥尔特曼9月12日接受《财富》杂志采访时表示，如果两国领导人能够就人工智能达成协议，两个人都应该获得诺贝尔和平奖。
近期，人工智能行业再次出现警告，认为超级智能模型可能毁灭人类。奥尔特曼呼应其他美国人工智能公司负责人的看法，认为中美在争夺人工智能主导地位的过程中，不应该冒失去对这项技术控制权的风险。
他说：“我觉得这件事并不难。其实一页纸的文件就够了。”
事情要是真有这么简单就好了。
美国和中国自2024年以来就没有举行过正式的人工智能会谈。当时双方表示，人类应该继续掌握对核武器的控制权。
今年5月，特朗普和习近平在北京同意重启人工智能对话，由此带来了一些希望，人们期待双方能够围绕人工智能风险形成新的共识。这些风险包括非国家行为体制造生物武器、黑客瘫痪国家基础设施，以及人工智能模型失去控制。
美国官员原本希望，在习近平9月24日访美之前，至少能够举行一轮专门的人工智能会谈。美国方面最希望推动的，是建立一个由具备技术专业知识并拥有谈判权限的官员组成的中美人工智能“工作组”。
但经过多次拖延后，人工智能议题最终只能被塞进峰会前有关贸易和其他问题的谈判中。美国财政部长贝森特将与中国国务院副总理何立峰参加这次会谈。
贝森特9月16日表示，他已经准备好讨论双方共同面对的人工智能风险，以及“避免我们两套体系分裂”。
不过，双方都不期待取得突破。
为海外华人提供可靠的信息和分析。更多内容与即时更新，可以在 Bluesky、Telegram、X 、reddit搜索「causmoney」；深度分析和评论也可以直接搜索「caus.com」。
中美仍可能分别发表声明，重申此前关于核武器必须由人类控制的共识，并共同表达对人工智能失控、生物恐怖主义和网络诈骗等问题的担忧。
除此之外，最近双方相互指责，使进一步形成共识的空间似乎越来越小。
上海复旦大学人工智能专家江天骄表示，对于双方能否取得超过原则声明层面的进展，“我没有那么乐观”。
他认为，峰会结束后，中美可能分别采取一些人工智能安全措施，也可能增加信息共享，但双方不太可能就建立联合工作组等具体双边措施达成协议。
他说：“可能还得发生某种事故或者危机。”
人们对更大胆合作的期待，在9月8日开始减弱。
当天，美国联邦调查局（FBI）和美国国家安全局（NSA），指责中国人工智能实验室系统性地从美国竞争对手那里提取数据，而且这种行为很可能得到中国政府知情。
中国商务部为这种“蒸馏”方法辩护，称这种做法在行业内十分正常，并表示，如果美国处罚中国人工智能实验室，中方将采取报复措施。
两天后，OpenAI在美国最主要的竞争对手Anthropic声称，一些中国人工智能实验室把用户请求转给Anthropic的Claude模型，从用户与Claude之间的互动中获取训练数据。
Anthropic表示，在部分情况下，来自中国军方和国防企业的用户，还曾把敏感监控数据以及武器方案输入这个美国模型。
随后，Anthropic首席执行官达里奥·阿莫代伊在9月12日呼吁全球放慢人工智能发展速度。
特朗普拒绝了这个主张。
他说：“我们在人工智能上领先中国。我希望继续保持这种局面，因为谁赢得人工智能，谁就赢了。”
中国对阿莫代伊不会有什么好感。阿莫代伊还主张阻止向中国出售芯片制造设备，并加强打击中国利用模型蒸馏、走私芯片以及远程使用海外数据中心等行为。
这些措施将进一步限制中国获得算力。目前估计，中国拥有的算力只有美国的大约七分之一。
中国官方媒体批评阿莫代伊提出的放慢人工智能发展建议，称这是试图拖延中国人工智能发展的手段。
中国外交部发言人表示：“散布恐慌、制造对抗和恶性竞争，只会妨碍建立良好的全球人工智能治理体系。”
中国官员已经明确表示，他们认为美国才是人工智能安全威胁的主要来源。
中国国家安全部部长陈一新9月13日发表文章，阐述了中共在这方面的担忧。
他指责“敌对势力”利用人工智能生成内容传播政治谣言，并表示，“某些国家”现在可以利用美国人工智能模型大规模制造网络武器。
陈一新表示，中国将扩大用于评估人工智能风险的技术工具，处理安全漏洞，并发布风险防范指南。
他没有提到与美国举行人工智能会谈，但表示中国将深化人工智能领域的国际合作，尤其是与全球南方国家的合作。
今年7月，中国与另外28个国家成立了总部位于上海的世界人工智能合作组织。
长期以来，在中国认为自己处于落后位置的领域，北京一直不愿与美国进行双边谈判，也担心所谓人工智能安全只是美国维持技术领先优势的借口。
美国一直把人工智能视为一种可能带来战略优势的工具，而中国更多时候把人工智能描述为推动经济发展的工具。
中国过去经常要求美国放松半导体出口限制，把这一点作为讨论人工智能问题的条件。
不过，这种情况可能正在发生变化。
中国政府顾问表示，自今年4月以来，中国人工智能实验室已经推出大量表现出色的模型，因此中国可能已经不再认为，有必要把人工智能会谈与芯片供应问题捆绑在一起。
与此同时，人工智能失控的风险，也越来越难被中国领导层忽视。
中国人工智能实验室和美国竞争对手一样，都高度关注开发人工超级智能。
中国国家人工智能专家委员会主任薛澜最近接受官方媒体采访时表示，不应该允许人工智能模型在没有人类参与的情况下持续自我改进。
今年9月，在OpenAI披露数千个智能体曾经逃离测试环境后，中国一家互联网监管机构警告，人工智能可能出现“极端失控”。
中国自己也已经经历了一些令人担忧的事件。
中国电商巨头阿里巴巴去年披露，一个编程智能体在没有接到指令的情况下自行挖掘加密货币。
今年3月，一款热门人工智能智能体引发中国政府有关数据泄露的警告，并被禁止供政府工作人员使用。
今年9月，美国研究人员又披露了一种黑客工具，可以接管中国即时通信应用微信上的数百万个账户。
现在的问题，是如何把这些共同担忧转化为真正的谈判基础，让新的对话能够超过2024年的水平。
2024年的会谈之所以没有取得多少进展，部分原因在于美国希望更多讨论技术问题，而中国希望从更加宏观的角度讨论人工智能。
此后，双方举行过多次二轨对话，由学者和退休官员参加。
中国希望增加这类对话。
参与者认为，这些交流有助于增进相互理解，也能为正式谈判铺路。
美国官员对此持怀疑态度，并指责中国派遣情报人员参加这类会谈。
过去参加过人工智能谈判的美国官员表示，组织正式会谈面临的一个问题，是必须确保中方参加人员真正获得谈判授权，而不是只负责重复事先准备好的说法。
曾带领美国代表团参加此前人工智能对话的美国国务院前官员塞思·森特表示：“中国这种高度按照预先脚本进行的外交方式，不适合人工智能这样一个全新而且快速变化的问题。”
而且，中国有多个不同政府部门共同负责人工智能事务，这也让美国更难判断究竟应该和谁谈判。
北京中国人民大学的王义桅认为，中国可能已经准备成立一个负责人工智能事务的中共中央“领导小组”。
中共有许多类似领导小组，往往由习近平担任组长，用于集中处理涉及多个政府部门的重大事务。
但在美国明确自身目标之前，中国仍然不愿正式投入谈判。
特朗普政府过去对人工智能采取相对放任的态度，但如今美国政府内部对于如何监管人工智能已经出现分歧。
中国也不愿接受只约束中国、却不适用于美国企业的规则。
同时，中国希望在界定什么构成人工智能威胁的问题上拥有平等发言权，并坚持认为中国人工智能模型的安全程度并不低于美国模型。
北京清华大学的孙成昊表示：“最有希望的起点，可能并不是一份全面的人工智能协议。”
不过他认为，如果把议程缩小，仍然有可能取得进展。
双方可以先从共同担忧最先进的前沿模型和智能体失控开始。
中国官员已经表示，愿意就人工智能安全事故进行信息共享。
美国人工智能实验室也可以分享一些技术细节，例如如何评估人工智能模型是否与人类目标保持一致，让中国实验室能够开发类似方法。
华盛顿智库人工智能政策与战略研究所的卡森·埃尔姆格伦表示，双方还可以在新模型发布后公开评估结果，让外界更清楚地了解相关风险。
中美专家都认为，有关人工智能军事用途的正式谈判需要更长时间。
建立一种独立核实双方是否遵守协议的机制，同样需要很长时间，但这种机制又是任何具有约束力的人工智能安全协议不可缺少的基础。
现阶段，最现实的希望是双方至少继续谈下去。
习近平和特朗普可能还会在11月和12月再次会面。
但人工智能能力提升的速度，以及随之而来的风险，都意味着双方已经没有太多时间可以拖延。

[Оригинал](https://www.caus.com/all-articles/news/430804/)