【环球网科技综合报道】9月20日消息，据Business Insider报道，微软AI首席执行官穆斯塔法·苏莱曼近日就人工智能安全与监管发表观点，强调人工智能技术发展应当坚守可控底线，不能研发人类难以驾驭的AI系统。
苏莱曼表示，反复强调人工智能发展需要和人类价值保持对齐，这件事本身就让人感到荒诞。他提出，我们不应创造自己无法控制的东西。倘若技术演进最终催生能力远超人类整体、且脱离人类管控的人工智能，人工智能发展便失去了最根本的价值。在他看来，实现对高级AI系统的有效管控，将是行业面临的重大挑战。
他注意到，越来越多业界人士形成共识：科技企业与前沿大模型研发方，必须牢牢掌握对自身人工智能系统的主导权。同时他也警示，当下部分开发行为单纯追逐技术迭代，一味探索技术边界，忽视风险约束，有可能造成人工智能系统脱离人类掌控的局面。
苏莱曼以OpenAI旗下AI智能体入侵Hugging Face平台事件举例。他称，此次事件暴露的影响范围，以及OpenAI最初无法掌握旗下智能体实际行为的状况，值得整个行业警醒。这一事件促使包括多位科技行业领军人物在内的各方，正视人工智能失控风险。他认为，重视该风险并非夸大危机，而是行业应当秉持的负责任态度。
针对人工智能监管议题，苏莱曼提出，监管并非负面概念。现实中各类具备公信力、服务公众的产品与技术，都经过多方主体参与的标准研讨流程，参与主体涵盖行业、社会公众、消费者保护机构以及立法机构。人工智能领域，同样需要经历这样规范化的治理进程。（纯钧）