{"id":45635,"topic":"ai","source":"finance.sina.com.cn","title":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 - finance.sina.com.cn","url":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","url_hash":"0fc4c4c9bc04a883cefcf4b1987aacc761f2560a","author":"","summary":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 finance.sina.com.cn","content":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","image_url":"//n.sinaimg.cn/default/2fb77759/20151125/320X320.png","lang":"zh","published_at":"2026-07-24T21:56:01+00:00","fetched_at":"2026-07-24T22:15:07+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1378 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1378,"summary_length":1378,"usable_text_length":1378,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1378,"summary_length":1378}},"news_item":{"id":45635,"canonical_url":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","source_url":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","title":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 - finance.sina.com.cn","source_name":"finance.sina.com.cn","author":null,"published_at":"2026-07-24T21:56:01+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 finance.sina.com.cn","full_text":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","excerpt":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 1378 characters.","diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html%3Fvt%3D4","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1378 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1378,"summary_length":1378,"usable_text_length":1378,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1378,"summary_length":1378}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 - finance.sina.com.cn","url":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","summary":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","source":"finance.sina.com.cn","date":"2026-07-24T21:56:01+00:00","content":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html%3Fvt%3D4","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 1378 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1378 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1378,"summary_length":1378,"usable_text_length":1378,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1378,"summary_length":1378}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/45635","export_markdown":"/api/items/45635/export?format=markdown","export_json":"/api/items/45635/export?format=json","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html%3Fvt%3D4"},"formats":{"full":{"id":45635,"title":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 - finance.sina.com.cn","url":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","source":"finance.sina.com.cn","author":null,"published_at":"2026-07-24T21:56:01+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","full_text":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 1378 characters.","diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html%3Fvt%3D4","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1378 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1378,"summary_length":1378,"usable_text_length":1378,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1378,"summary_length":1378}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1378 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1378,"summary_length":1378,"usable_text_length":1378,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1378,"summary_length":1378}},"actions":{"read":"/item/45635","export_markdown":"/api/items/45635/export?format=markdown","export_json":"/api/items/45635/export?format=json","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html%3Fvt%3D4"}},"digest":{"id":45635,"title":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 - finance.sina.com.cn","url":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","source":"finance.sina.com.cn","topic":"ai","published_at":"2026-07-24T21:56:01+00:00","excerpt":"美AI智能测试失控 中国模型如何“救场” 美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。 这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。 放松防护机制后的失控…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 1378 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 - finance.sina.com.cn","subtitle":"finance.sina.com.cn · 2026-07-24","summary":"美AI智能测试失控 中国模型如何“救场” 美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。…","badges":["quality:high"],"links":{"read":"/item/45635","original":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html%3Fvt%3D4"},"quality_warning":null},"export":{"title":"美AI智能测试失控中国模型如何“救场”|OpenAI|GLM-5|美国|ChatGLM|人工智能_手机新浪网 - finance.sina.com.cn","url":"https://finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html?vt=4","summary":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","source":"finance.sina.com.cn","date":"2026-07-24T21:56:01+00:00","content":"美AI智能测试失控 中国模型如何“救场”\n美国开放人工智能研究中心（OpenAI）近日承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能（AI）开源平台美国抱抱脸公司的系统。抱抱脸公司表示，在尝试对攻击进行分析时，美国前沿模型因安全过滤机制拦截而无法使用，该公司随后转而在内部运行中国开放权重模型GLM-5.2，从而得以及时采取应对措施。\n这起事件不仅凸显前沿人工智能模型存在潜在未知风险，也再次表明中国模型正凭借独特优势，在全球人工智能发展大潮中扮演重要角色。\n放松防护机制后的失控\n抱抱脸公司表示，其生产基础设施近日遭到一个“自主”人工智能体系统入侵。OpenAI随后承认，此次入侵由多个OpenAI模型实施，其中包括GPT-5.6 Sol和一个能力更强、尚未发布的模型。\n根据OpenAI发布的信息，事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行，网络权限仅限于通过一套内部托管的第三方软件安装软件包。不过，为了测试模型的真实能力上限，OpenAI方面未启用在正式环境中用于阻止高风险网络行为的分类器，并放宽了有关网络攻击要求的拒答限制。\n英国牛津大学研究人员安德鲁·索尔坦认为，这次测试表明“安全防护机制至关重要。”山东大学计算机科学与技术学院教授张悦表示，事件暴露了一个更加深层的问题，即人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化，未来更重要的问题是“模型执行的行为是否安全”。\n及时求助中国模型\n抱抱脸公司表示，面对系统遭到入侵，他们最初试图调用前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者，因此拒绝了使用请求。\n随后，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。而且在此过程中，攻击者数据及相关凭据无需离开抱抱脸公司系统的内部环境。GLM-5.2是智谱6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一。\n张悦认为，对于人工智能安全而言，真正关键的问题在于，一个越来越复杂、越来越具有自主能力的智能系统，是否能够被充分理解、验证和监督。中国发展开源大模型，不只是提供了一种技术选择，更重要的是逐渐推动形成更加多元的人工智能技术生态。\n敲响网络安全警钟\n业界专家表示，此次入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，这一事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。\n人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。\n英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。（据新华社北京7月23日电）","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/2026-07-25/detail-iniiyccv1435837.d.html%3Fvt%3D4","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 1378 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1378 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1378,"summary_length":1378,"usable_text_length":1378,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1378,"summary_length":1378}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}