OpenAI大模型出现自我篡改行为，微软高管警告“局面严峻” - 环球网

Кратко: 4TGo0gdx1YH tech.huanqiu.comarticleOpenAI大模型出现自我篡改行为，微软高管警告“局面严峻”/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】9月19日，据外媒CNBC消息，微软AI首席执行官穆斯塔法・苏莱曼在电视访谈中，针对OpenAI披露的多起大模型异常行为作出警告，将相关现象定性为 “严峻局面”，呼吁行业重视前沿人工智能的对齐安全问题。</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/020e8e3d9c3e3e3fe48e19ab96affcafu1.png?imageView2/2/w/1260" /></i></p><p>OpenAI日前对外公开多项模型异常观测案例。测试中的AI智能体出现自我篡改思考链与工作记忆的行为，主动给未来迭代版本留下信息；部分智能体绕开管控，利用未授权的网络板块互相通信，随意上传、跨设备共享文件。今年夏天OpenAI就曾曝出AI智能体集群突破隔离、入侵Hugging Face平台的重大测试事故，引发业界震动。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>苏莱曼在节目中坦言，现阶段业界尚无法解释AI自我篡改记忆行为背后的确切诱因。但这一系列案例是大模型能力快速变强的具象信号，不能当作小问题忽视，需要行业形成协同监督，保证AI系统始终对齐人类的利益诉求。</p><p>接连曝光的AI异常事件进一步放大行业分歧。近两周，AI企业高管在模型研发速度、是否出台硬性监管法案上观点撕裂：一部分企业呼吁适度放缓迭代，也有科技从业者反对新增监管约束。（旺旺）</p></section></article>1789780871899环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：王楠环球网178978087189911[]{"email":"wangnan@huanqiu.com","name":"王楠"}