{"id":86227,"topic":"ai","source":"环球网","title":"微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术 - 环球网","url":"https://tech.huanqiu.com/article/4THkYEiHmvs","url_hash":"d4021afa5316cd70d50cbecc3b5302e1d64f20fb","author":"","summary":"<a href=\"https://news.google.com/rss/articles/CBMiV0FVX3lxTFBrcklTdkJ5ZnZ4VFRfZUxZYnQzTEVPSUdITWlqVVZrdndvdEVZZks0SU9NYjRPTnQ3d1hZa3M1VmdOcDlrWFhub2RSWW42TmdRY3drU0hLNA?oc=5\" target=\"_blank\">微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术</a>&nbsp;&nbsp;<font color=\"#6f6f6f\">环球网</font>","content":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","image_url":"https://rs2.huanqiucdn.cn/huanqiu/image/www/common/200.jpg","lang":"zh","published_at":"2026-09-19T13:39:00+00:00","fetched_at":"2026-09-20T05:15:08+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://tech.huanqiu.com/article/4THkYEiHmvs","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1358 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1358,"summary_length":1358,"usable_text_length":1358,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1358,"summary_length":1358}},"news_item":{"id":86227,"canonical_url":"https://tech.huanqiu.com/article/4THkYEiHmvs","source_url":"https://tech.huanqiu.com/article/4THkYEiHmvs","title":"微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术 - 环球网","source_name":"环球网","author":null,"published_at":"2026-09-19T13:39:00+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"<a href=\"https://news.google.com/rss/articles/CBMiV0FVX3lxTFBrcklTdkJ5ZnZ4VFRfZUxZYnQzTEVPSUdITWlqVVZrdndvdEVZZks0SU9NYjRPTnQ3d1hZa3M1VmdOcDlrWFhub2RSWW42TmdRY3drU0hLNA?oc=5\" target=\"_blank\">微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术</a>&nbsp;&nbsp;<font color=\"#6f6f6f\">环球网</font>","full_text":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","excerpt":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 1358 characters.","diagnostics_url":"/api/diagnose?url=https%3A//tech.huanqiu.com/article/4THkYEiHmvs","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1358 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1358,"summary_length":1358,"usable_text_length":1358,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1358,"summary_length":1358}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术 - 环球网","url":"https://tech.huanqiu.com/article/4THkYEiHmvs","summary":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","source":"环球网","date":"2026-09-19T13:39:00+00:00","content":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//tech.huanqiu.com/article/4THkYEiHmvs","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 1358 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1358 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1358,"summary_length":1358,"usable_text_length":1358,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1358,"summary_length":1358}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/86227","export_markdown":"/api/items/86227/export?format=markdown","export_json":"/api/items/86227/export?format=json","diagnose":"/api/diagnose?url=https%3A//tech.huanqiu.com/article/4THkYEiHmvs"},"formats":{"full":{"id":86227,"title":"微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术 - 环球网","url":"https://tech.huanqiu.com/article/4THkYEiHmvs","source":"环球网","author":null,"published_at":"2026-09-19T13:39:00+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","full_text":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 1358 characters.","diagnostics_url":"/api/diagnose?url=https%3A//tech.huanqiu.com/article/4THkYEiHmvs","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1358 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1358,"summary_length":1358,"usable_text_length":1358,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1358,"summary_length":1358}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1358 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1358,"summary_length":1358,"usable_text_length":1358,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1358,"summary_length":1358}},"actions":{"read":"/item/86227","export_markdown":"/api/items/86227/export?format=markdown","export_json":"/api/items/86227/export?format=json","diagnose":"/api/diagnose?url=https%3A//tech.huanqiu.com/article/4THkYEiHmvs"}},"digest":{"id":86227,"title":"微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术 - 环球网","url":"https://tech.huanqiu.com/article/4THkYEiHmvs","source":"环球网","topic":"ai","published_at":"2026-09-19T13:39:00+00:00","excerpt":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\"…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 1358 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术 - 环球网","subtitle":"环球网 · 2026-09-19","summary":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business…","badges":["quality:high"],"links":{"read":"/item/86227","original":"https://tech.huanqiu.com/article/4THkYEiHmvs","diagnose":"/api/diagnose?url=https%3A//tech.huanqiu.com/article/4THkYEiHmvs"},"quality_warning":null},"export":{"title":"微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术 - 环球网","url":"https://tech.huanqiu.com/article/4THkYEiHmvs","summary":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","source":"环球网","date":"2026-09-19T13:39:00+00:00","content":"4THkYEiHmvs tech.huanqiu.comarticle微软AI负责人苏莱曼：发展人工智能不应创造人类无法控制的技术/e3pmh164r/e3pmtmdvg<article><section data-type=\"rtext\"><p>【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。</p><p><i class=\"pic-con\"><img data-alt=\"\" src=\"//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png?imageView2/2/w/1260\" /></i></p><p>苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。</p> <adv-loader __attr__inner=\"7004636\" __attr__style=\"width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;\"></adv-loader> <p>他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。</p><p>苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。</p><p>针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）</p></section></article>1789879176334环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网178987917633411[]//img.huanqiucdn.cn/dp/api/files/imageDir/0e10fb9484924a73829b66640b55ce8bu1.png{\"email\":\"qiner@huanqiu.com\",\"name\":\"秦耳\"}","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//tech.huanqiu.com/article/4THkYEiHmvs","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 1358 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 1358 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":1358,"summary_length":1358,"usable_text_length":1358,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":1358,"summary_length":1358}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}