浙大版人工智能法专家建议稿发布 对话孙笑侠：人工智能的风险或来源于能、智、事三方错配，但并非简单限制 - 新浪财经

Кратко: 浙大版人工智能法专家建议稿发布 对话孙笑侠：人工智能的风险或来源于能、智、事三方错配，但并非简单限制 （来源：红星新闻） 建议稿共八章九十九条，自研究团队成立以来历经近半年、五轮集中修订，由初稿一百七十四条逐步凝练形成。起草工作与杭州人工智能产业发展、创新活力之城两部地方条例草案研究同步推进，实地调研20余家杭州人工智能企业及互联网头部企业，并经之江立法论坛研讨、与相关部委交流及多轮专家论证，持续吸收各方意见。 浙江大学数字法治研究院院长孙笑侠教授围绕“能-智-事适配治理”作专题报告。他告诉红星新闻，“能-智-事适配”原理将系统执行能力、认知可靠性与任务性质联系起来，为分级监管、场景准入和责任分配提供共同依据。 风险可能来自“能、智、事”之间的错配 孙笑侠认为，当前我国加快人工智能立法研究，从分散性立法向综合性立法转型，核心瓶颈在于缺乏一个能将价值理念与治理工具箱从结构上贯通统合的规范原理。 “我们认为，人工智能的风险并不来源于机器有多强，而来源于能、智、事三方的错配。”孙笑侠表示，基于人工智能风险来源的重新认知，团队提出“能—智—事适配”理论，这是指人工智能系统的执行能力（能）、认知成熟度（智）和任务性质及其影响（事）相适应。 具体而言，“能”指人工智能系统的执行能力，应当根据其自主程度、决策影响范围、工具调用权限、连续运行能力以及改变数字或者物理环境的能力，划分为辅助处理、有限自动化、高度自动化和自主执行四级。 “智”指人工智能系统的认知成熟度，应当根据预定用途，综合评估输出准确性与一致性、置信度校准、稳健性、异常输入识别与纠错能力、关键输出可解释性、网络安全、人工接管条件、行为边界控制以及可追溯性。认知成熟度划分为基础、一般、较高和高度受控四级。 “事”指人类给出的任务性质和影响，根据受影响权益的重要性、损害发生的可能性和严重程度、影响人数与范围及持续时间、结果可逆性、受影响者脆弱性以及救济可获得性，划分为低影响、一般影响和高影响三级。 孙笑侠进一步解释，风险还可能来自“能、智、事”之间的错配。例如系统可以连续执行操作，却不能可靠识别异常，而任务又直接关系人身安全；即使它被列入某个固定类别，仅查类别仍不足以判断能否投入该任务。 要求适配不同于简单的限制 “要求适配不同于简单的限制，而是寻求‘能力—认知—任务’之间的最优匹配。”孙笑侠告诉红星新闻，人工智能适配原理强调，AI影响不纯是负面的，同时包含机遇和中间层次。 他提出，“能—智—事适配”作为治理基准，可应用于人工智能治理的八个主要方面，并直接转换为立法条文。这八个方面包括：适配性分类分级、义务分配、适配评估、高影响认定、监管强度、风险控制措施、法律责任和分阶段动态调整。 在孙笑侠看来，建议稿以“适配原理”取代粗放管控，既为创新留空间，又为风险划红线。 他以医学影像和病理数据分析为例说明。人工智能能够快速分析大量医学影像与病理数据，这是其强项。但其“智”有一定限度，对于某些疑难杂症，推理能力有限。 因此，他认为，赋予人工智能的“事”须有分寸，即应根据任务的难易程度进行分配。倘若将疑难杂症完全交由它处理、过度信任它，便会导致错配。 对于表现不佳的系统，孙笑侠提出，将其废弃不是上策，而是可以降低档次地用于复杂程度较低的任务上。他强调，人工智能的适配程度之高低，才是监管的核心。 AI变化很快，分级也不能僵化 适配原理如何转换成制度？孙笑侠以分级准入为例，提出先分类、再分级、匹配管控，并嵌入生命周期、动态调整。 分类不是简单贴标签，而是把AI按不同维度拆开看，包括应用场景、智能水平、应用规模、自主度、数据敏感度等。分级不是看技术多先进，而是看可能造成的最大危害。不同等级对应不同门槛，分级之后，最关键的是每一级对应什么具体义务。 在任务影响的判断上，建议稿提出，涉及生命健康、人身自由、人格尊严、平等机会、重大财产、教育就业、社会保障、司法和行政执法、公共安全，或者可能对大量自然人产生显著影响的，推定为高影响任务。禁止性人工智能应用不受任务影响等级的限制，一律不得开发、部署或者使用。 孙笑侠表示，分级准入不能只做一次“准入考试”，因为AI会迭代、会漂移、会被新数据污染。落地时要覆盖全生命周期，包括研发、测试、部署、运行、迭代、退出六个阶段。 “AI变化很快，分级也不能僵化。”他提出，落地时通常需要动态机制：模型能力升级后，可能从低风险变成中风险；应用场景扩大后，可能从中风险变成高风险。 孙笑侠介绍，建议稿要求在具体版本、用途和环境中作适配评估，并随系统或任务变化重新判断。后续最需细化的，则是如何测试“认知成熟度”、何种差距构成“不适配”，以及评估结论怎样与既有侵权责任规则衔接。 任务可能是新任务，也可能是对既有任务的改造 谈及任务变化，孙笑侠提出，这种任务可能是新的任务，也可能是对既有任务的改造，交给它一个旧任务，它可能将其改造为新任务。 他认为，从代际关系上看，不必担心人工智能到来之后会取代人类的所有就业岗位，但短期内如果不加强学习和培训，就业会变得困难甚至出现失业。 对于更长时期的变化，孙笑侠表示，他相信，在一个较长培训更新周期内，新任务会不断产生，人类会引导人工智能为人类创造更高级的劳动就业岗位。 目前发布的浙大1.0版是一份专家建议稿，为我国人工智能立法提供可供讨论、持续完善的学术方案。研究团队将吸收本次会议意见，持续打磨建议稿内容，推进后续版本迭代。 红星新闻记者 陈卿媛 编辑 张莉 审核 官莉