{"id":85058,"topic":"ai","source":"纽约时报中文网","title":"中国担忧的是另一种人工智能风险 - 纽约时报中文网","url":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","url_hash":"c3dc54c555bb2de897ec5311dbf8ce4a18794325","author":"","summary":"中国担忧的是另一种人工智能风险 纽约时报中文网","content":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","image_url":"https://static01.nyt.com/images/2026/09/17/opinion/17chan-image/17chan-image-articleLarge-v4.jpg","lang":"zh","published_at":"2026-09-18T02:19:09+00:00","fetched_at":"2026-09-18T08:15:06+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1714 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1714,"summary_length":1714,"usable_text_length":1714,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1714,"summary_length":1714}},"news_item":{"id":85058,"canonical_url":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","source_url":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","title":"中国担忧的是另一种人工智能风险 - 纽约时报中文网","source_name":"纽约时报中文网","author":null,"published_at":"2026-09-18T02:19:09+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"中国担忧的是另一种人工智能风险 纽约时报中文网","full_text":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","excerpt":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 1714 characters.","diagnostics_url":"/api/diagnose?url=https%3A//cn.nytimes.com/opinion/20260918/ai-china-america-risk/","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1714 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1714,"summary_length":1714,"usable_text_length":1714,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1714,"summary_length":1714}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"中国担忧的是另一种人工智能风险 - 纽约时报中文网","url":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","summary":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","source":"纽约时报中文网","date":"2026-09-18T02:19:09+00:00","content":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//cn.nytimes.com/opinion/20260918/ai-china-america-risk/","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 1714 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1714 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1714,"summary_length":1714,"usable_text_length":1714,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1714,"summary_length":1714}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/85058","export_markdown":"/api/items/85058/export?format=markdown","export_json":"/api/items/85058/export?format=json","diagnose":"/api/diagnose?url=https%3A//cn.nytimes.com/opinion/20260918/ai-china-america-risk/"},"formats":{"full":{"id":85058,"title":"中国担忧的是另一种人工智能风险 - 纽约时报中文网","url":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","source":"纽约时报中文网","author":null,"published_at":"2026-09-18T02:19:09+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","full_text":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 1714 characters.","diagnostics_url":"/api/diagnose?url=https%3A//cn.nytimes.com/opinion/20260918/ai-china-america-risk/","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1714 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1714,"summary_length":1714,"usable_text_length":1714,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1714,"summary_length":1714}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1714 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1714,"summary_length":1714,"usable_text_length":1714,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1714,"summary_length":1714}},"actions":{"read":"/item/85058","export_markdown":"/api/items/85058/export?format=markdown","export_json":"/api/items/85058/export?format=json","diagnose":"/api/diagnose?url=https%3A//cn.nytimes.com/opinion/20260918/ai-china-america-risk/"}},"digest":{"id":85058,"title":"中国担忧的是另一种人工智能风险 - 纽约时报中文网","url":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","source":"纽约时报中文网","topic":"ai","published_at":"2026-09-18T02:19:09+00:00","excerpt":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 1714 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"中国担忧的是另一种人工智能风险 - 纽约时报中文网","subtitle":"纽约时报中文网 · 2026-09-18","summary":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。…","badges":["quality:high"],"links":{"read":"/item/85058","original":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","diagnose":"/api/diagnose?url=https%3A//cn.nytimes.com/opinion/20260918/ai-china-america-risk/"},"quality_warning":null},"export":{"title":"中国担忧的是另一种人工智能风险 - 纽约时报中文网","url":"https://cn.nytimes.com/opinion/20260918/ai-china-america-risk/","summary":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","source":"纽约时报中文网","date":"2026-09-18T02:19:09+00:00","content":"Anthropic首席执行官达里奥·阿莫迪最近表示，世界应该共同放缓人工智能的发展，直到我们能更好地应对这项新技术带来的安全风险。OpenAI的萨姆·奥特曼和埃隆·马斯克对这一计划表达了支持。\n美国的人工智能公司知道，仅凭自身力量无法为人工智能发展踩下刹车——中国必须参与进来。深度求索、智谱AI和月之暗面等中国公司拥有的人工智能模型能几乎与Anthropic和OpenAI的模型一样强大。它们也很可能构成许多相同的风险，恐怖分子可能会利用它们的工具来实施网络攻击或设计生物武器。许多人希望，特朗普总统与中国领导人习近平即将举行的峰会能成为推动此类合作取得进展的契机。\n然而，人工智能安全专家往往认为，中国对人工智能有与我们相同的担忧。现实情况是，中国人的担忧截然不同。除非我们了解这些担忧的具体内容，否则与中国合作将是不可能的。\n广告\n这主要是因为两国在如何看待人工智能训练和发展方面存在差异。美国领先的人工智能公司极度关注推进“递归自我改进”——即利用人工智能系统自身来开发更好的人工智能系统。人们担心，这种反馈循环可能会加速人工智能的发展步伐，最终导致人类无法再掌控这一进程。美国科技界领袖认为，这个起飞点可能就在眼前。\n中国的人工智能公司也在致力于递归自我改进。但由于他们获取人工智能算力的途径有限，且进展步伐较慢，他们认为，从技术上讲，这个起飞时刻还有很长的路要走。中国决策者似乎也认同这一前景，因此他们更专注于建立有韧性的人工智能供应链，并提高人工智能在整个经济中的应用。\n如果中国人不认为危机迫在眉睫，他们为什么要同意放缓人工智能的发展呢？事实上，中国的人工智能公司正试图加快步伐，希望缩小与美国人工智能模型之间的性能差距。\n目前，中国决策者更担心人工智能引发的政治和社会风险。他们不希望它制造政治领导人的深度伪造内容，或在台湾或天安门广场问题上说“错”话。他们不希望人工智能聊天机器人造成心理依赖、威胁儿童安全，或者引发社会动荡，抑或掀起一场强大到足以推翻共产党的群众运动。\n广告\n有一些有限的迹象表明，北京正开始更加认真地对待大规模的人工智能威胁。有两类风险在中国受到了特别关注。\n第一类是网络安全。今年，许多中国用户下载了一款名为OpenClaw的流行人工智能智能体工具，并用它来自动化处理计算机任务。中国官员迅速发出警告，称OpenClaw这类人工智能工具可能会让用户面临数据泄露和网络安全漏洞风险。\n今年4月，Anthropic宣布他们训练了一个名为Mythos的新模型，该模型表现出显著提升的网络攻击能力。中国人没过多久就意识到了其对国家安全的影响。中国主要安全机构的负责人最近发出了一次罕见的警告，指出网络安全格局正在发生变化，关键基础设施现在很容易受到对手发动的、由人工智能主导的网络攻击。他特别提到了OpenAI和Anthropic的一些最新模型。\n加剧这些担忧的是，一家总部位于美国的安全公司最近利用人工智能开发了一款实验性工具，该工具可以迅速攻破微信上的账户，微信是一个拥有14亿月活用户的中国即时通讯平台。尽管该工具并未公开发布流传，但它还是引起了中方的警觉。\n广告\n这些对人工智能风险不断转变的看法表明，两国出于国家利益的考量，可能有动力在人工智能安全方面开展合作。两国都不希望恐怖分子利用人工智能制造病毒。两国也不希望自主的人工智能系统意外黑入本国的公司或机构。\n另一方面，两国对彼此的猜疑将使在人工智能安全方面达成任何形式的协议变得困难。中国非常担心美国会利用人工智能来增强针对中国的网络和军事武器。反之亦然。如果没有最基本的相互理解，世界上这两个人工智能超级大国注定只会自说自话。\n幸运的是，这种共识是有可能达成的。中美两国与其直接跳入关于全球放缓或人工智能军备控制条约的争论，不如从更基本的事情开始：理解并承认对方如何看待人工智能风险。在此基础上，他们可以开始探索双方在减轻来自第三方甚至技术本身威胁方面具有共同利益的领域。\n虽然会有分歧需要解决，在细节上也会有诸多争论需要理清。但如果两国能够达成一致，确认双方都希望避免人工智能灾难，那么在人工智能安全领域开展合作并非遥不可及。","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//cn.nytimes.com/opinion/20260918/ai-china-america-risk/","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 1714 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1714 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1714,"summary_length":1714,"usable_text_length":1714,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1714,"summary_length":1714}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}