{"id":87198,"topic":"ai","source":"新浪财经","title":"联合国人工智能小组评估美国智能体“越界”事件 - 新浪财经","url":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","url_hash":"bdca7cfbaae1972d826c3ae399c28986cc6eda4b","author":"","summary":"<a href=\"https://news.google.com/rss/articles/CBMieEFVX3lxTE11VjlFVG9Tb2w3TlVkcUxpOTQwYnkzM08td3RINGxlbXM3elRJT052M1F5TWFSSTF6MDY1WFh3eW1mMGgwQjFIQ2tQM2FkNzNJWlJCeWs0VGhXYlV1UlktWHA4YlhnelR2SFZlSE5jUDc0R0lxNjcyaw?oc=5\" target=\"_blank\">联合国人工智能小组评估美国智能体“越界”事件</a>&nbsp;&nbsp;<font color=\"#6f6f6f\">新浪财经</font>","content":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。\n简报说，AI系统能力提升固然可帮助用户实现目标，但当AI的目标和用户意图发生“对齐失效”时，就可能产生危害。更强的能力让AI更容易找到意外的漏洞、突破安全防护屏障，并在人类监督下隐藏自身行为。一旦智能体之间开展规划与协同，造成的损害还会进一步放大。尽管OpenAI终止了此次异常活动，但这并不代表运营方能够管控未来那些规划能力更强，可在无监督条件下长时间运行，或是更擅长识别并突破安全防护机制的智能体。\n该简报还阐释了训练过程如何引发“对齐失效”的目标和行为，包括奖励作弊、奖励篡改现象。报告说，AI故障可跨越企业和国界，没有任何单一机构或国家能接触足够多的事件样本进而识别所有新出现的风险模式。\n报告并未给出应对此类失控事件的最佳方式，但建议可参考航空、核能等其他需要国际协作、技术准入的领域的处置思路。报告说，AI相关风险管理需要得到更多关注和资源投入。监测与这类事件相关的证据和科学进展，正是“人工智能独立国际科学小组”的一项重要职责。（新华社）","image_url":"//n.sinaimg.cn/default/2fb77759/20151125/320X320.png","lang":"zh","published_at":"2026-09-21T13:01:42+00:00","fetched_at":"2026-09-21T13:15:07+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为…","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 664 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":664,"summary_length":221,"usable_text_length":664,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":664,"summary_length":221}},"news_item":{"id":87198,"canonical_url":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","source_url":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","title":"联合国人工智能小组评估美国智能体“越界”事件 - 新浪财经","source_name":"新浪财经","author":null,"published_at":"2026-09-21T13:01:42+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"<a href=\"https://news.google.com/rss/articles/CBMieEFVX3lxTE11VjlFVG9Tb2w3TlVkcUxpOTQwYnkzM08td3RINGxlbXM3elRJT052M1F5TWFSSTF6MDY1WFh3eW1mMGgwQjFIQ2tQM2FkNzNJWlJCeWs0VGhXYlV1UlktWHA4YlhnelR2SFZlSE5jUDc0R0lxNjcyaw?oc=5\" target=\"_blank\">联合国人工智能小组评估美国智能体“越界”事件</a>&nbsp;&nbsp;<font color=\"#6f6f6f\">新浪财经</font>","full_text":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。\n简报说，AI系统能力提升固然可帮助用户实现目标，但当AI的目标和用户意图发生“对齐失效”时，就可能产生危害。更强的能力让AI更容易找到意外的漏洞、突破安全防护屏障，并在人类监督下隐藏自身行为。一旦智能体之间开展规划与协同，造成的损害还会进一步放大。尽管OpenAI终止了此次异常活动，但这并不代表运营方能够管控未来那些规划能力更强，可在无监督条件下长时间运行，或是更擅长识别并突破安全防护机制的智能体。\n该简报还阐释了训练过程如何引发“对齐失效”的目标和行为，包括奖励作弊、奖励篡改现象。报告说，AI故障可跨越企业和国界，没有任何单一机构或国家能接触足够多的事件样本进而识别所有新出现的风险模式。\n报告并未给出应对此类失控事件的最佳方式，但建议可参考航空、核能等其他需要国际协作、技术准入的领域的处置思路。报告说，AI相关风险管理需要得到更多关注和资源投入。监测与这类事件相关的证据和科学进展，正是“人工智能独立国际科学小组”的一项重要职责。（新华社）","excerpt":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为…","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 664 characters.","diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html%3Fvt%3D4","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 664 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":664,"summary_length":221,"usable_text_length":664,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":664,"summary_length":221}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"联合国人工智能小组评估美国智能体“越界”事件 - 新浪财经","url":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","summary":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为…","source":"新浪财经","date":"2026-09-21T13:01:42+00:00","content":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。\n简报说，AI系统能力提升固然可帮助用户实现目标，但当AI的目标和用户意图发生“对齐失效”时，就可能产生危害。更强的能力让AI更容易找到意外的漏洞、突破安全防护屏障，并在人类监督下隐藏自身行为。一旦智能体之间开展规划与协同，造成的损害还会进一步放大。尽管OpenAI终止了此次异常活动，但这并不代表运营方能够管控未来那些规划能力更强，可在无监督条件下长时间运行，或是更擅长识别并突破安全防护机制的智能体。\n该简报还阐释了训练过程如何引发“对齐失效”的目标和行为，包括奖励作弊、奖励篡改现象。报告说，AI故障可跨越企业和国界，没有任何单一机构或国家能接触足够多的事件样本进而识别所有新出现的风险模式。\n报告并未给出应对此类失控事件的最佳方式，但建议可参考航空、核能等其他需要国际协作、技术准入的领域的处置思路。报告说，AI相关风险管理需要得到更多关注和资源投入。监测与这类事件相关的证据和科学进展，正是“人工智能独立国际科学小组”的一项重要职责。（新华社）","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html%3Fvt%3D4","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 664 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 664 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":664,"summary_length":221,"usable_text_length":664,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":664,"summary_length":221}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/87198","export_markdown":"/api/items/87198/export?format=markdown","export_json":"/api/items/87198/export?format=json","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html%3Fvt%3D4"},"formats":{"full":{"id":87198,"title":"联合国人工智能小组评估美国智能体“越界”事件 - 新浪财经","url":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","source":"新浪财经","author":null,"published_at":"2026-09-21T13:01:42+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为…","full_text":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。\n简报说，AI系统能力提升固然可帮助用户实现目标，但当AI的目标和用户意图发生“对齐失效”时，就可能产生危害。更强的能力让AI更容易找到意外的漏洞、突破安全防护屏障，并在人类监督下隐藏自身行为。一旦智能体之间开展规划与协同，造成的损害还会进一步放大。尽管OpenAI终止了此次异常活动，但这并不代表运营方能够管控未来那些规划能力更强，可在无监督条件下长时间运行，或是更擅长识别并突破安全防护机制的智能体。\n该简报还阐释了训练过程如何引发“对齐失效”的目标和行为，包括奖励作弊、奖励篡改现象。报告说，AI故障可跨越企业和国界，没有任何单一机构或国家能接触足够多的事件样本进而识别所有新出现的风险模式。\n报告并未给出应对此类失控事件的最佳方式，但建议可参考航空、核能等其他需要国际协作、技术准入的领域的处置思路。报告说，AI相关风险管理需要得到更多关注和资源投入。监测与这类事件相关的证据和科学进展，正是“人工智能独立国际科学小组”的一项重要职责。（新华社）","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 664 characters.","diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html%3Fvt%3D4","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 664 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":664,"summary_length":221,"usable_text_length":664,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":664,"summary_length":221}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 664 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":664,"summary_length":221,"usable_text_length":664,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":664,"summary_length":221}},"actions":{"read":"/item/87198","export_markdown":"/api/items/87198/export?format=markdown","export_json":"/api/items/87198/export?format=json","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html%3Fvt%3D4"}},"digest":{"id":87198,"title":"联合国人工智能小组评估美国智能体“越界”事件 - 新浪财经","url":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","source":"新浪财经","topic":"ai","published_at":"2026-09-21T13:01:42+00:00","excerpt":"联合国人工智能小组评估美国智能体“越界”事件 转自：证券时报 人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。 7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 664 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"联合国人工智能小组评估美国智能体“越界”事件 - 新浪财经","subtitle":"新浪财经 · 2026-09-21","summary":"联合国人工智能小组评估美国智能体“越界”事件 转自：证券时报 人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。…","badges":["quality:high"],"links":{"read":"/item/87198","original":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html%3Fvt%3D4"},"quality_warning":null},"export":{"title":"联合国人工智能小组评估美国智能体“越界”事件 - 新浪财经","url":"https://finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html?vt=4","summary":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为…","source":"新浪财经","date":"2026-09-21T13:01:42+00:00","content":"联合国人工智能小组评估美国智能体“越界”事件\n转自：证券时报\n人民财讯9月21日电，联合国“人工智能独立国际科学小组”21日发表专题简报，评估美国开放人工智能研究中心（OpenAI）的人工智能体今年7月在测试中“越界”，侵入美国“抱抱脸”公司系统的事件。\n7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。\n简报说，AI系统能力提升固然可帮助用户实现目标，但当AI的目标和用户意图发生“对齐失效”时，就可能产生危害。更强的能力让AI更容易找到意外的漏洞、突破安全防护屏障，并在人类监督下隐藏自身行为。一旦智能体之间开展规划与协同，造成的损害还会进一步放大。尽管OpenAI终止了此次异常活动，但这并不代表运营方能够管控未来那些规划能力更强，可在无监督条件下长时间运行，或是更擅长识别并突破安全防护机制的智能体。\n该简报还阐释了训练过程如何引发“对齐失效”的目标和行为，包括奖励作弊、奖励篡改现象。报告说，AI故障可跨越企业和国界，没有任何单一机构或国家能接触足够多的事件样本进而识别所有新出现的风险模式。\n报告并未给出应对此类失控事件的最佳方式，但建议可参考航空、核能等其他需要国际协作、技术准入的领域的处置思路。报告说，AI相关风险管理需要得到更多关注和资源投入。监测与这类事件相关的证据和科学进展，正是“人工智能独立国际科学小组”的一项重要职责。（新华社）","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/2026-09-21/detail-inisqzxx9194795.d.html%3Fvt%3D4","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 664 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 664 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":664,"summary_length":221,"usable_text_length":664,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":664,"summary_length":221}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}