{"id":45038,"topic":"ai","source":"信息化观察网","title":"人工智能拟人化表述的治理风险与规范路径 - 信息化观察网","url":"https://www.infoobs.com/article/20260724/71697.html","url_hash":"77f213e4b8ebb98af13a2ade74dc94bec4a4e34d","author":"","summary":"人工智能拟人化表述的治理风险与规范路径 信息化观察网","content":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","image_url":null,"lang":"zh","published_at":"2026-07-24T02:21:25+00:00","fetched_at":"2026-07-24T04:15:06+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://www.infoobs.com/article/20260724/71697.html","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3221 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3221,"summary_length":3221,"usable_text_length":3221,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3221,"summary_length":3221}},"news_item":{"id":45038,"canonical_url":"https://www.infoobs.com/article/20260724/71697.html","source_url":"https://www.infoobs.com/article/20260724/71697.html","title":"人工智能拟人化表述的治理风险与规范路径 - 信息化观察网","source_name":"信息化观察网","author":null,"published_at":"2026-07-24T02:21:25+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"人工智能拟人化表述的治理风险与规范路径 信息化观察网","full_text":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","excerpt":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 3221 characters.","diagnostics_url":"/api/diagnose?url=https%3A//www.infoobs.com/article/20260724/71697.html","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3221 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3221,"summary_length":3221,"usable_text_length":3221,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3221,"summary_length":3221}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"人工智能拟人化表述的治理风险与规范路径 - 信息化观察网","url":"https://www.infoobs.com/article/20260724/71697.html","summary":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","source":"信息化观察网","date":"2026-07-24T02:21:25+00:00","content":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//www.infoobs.com/article/20260724/71697.html","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 3221 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3221 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3221,"summary_length":3221,"usable_text_length":3221,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3221,"summary_length":3221}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/45038","export_markdown":"/api/items/45038/export?format=markdown","export_json":"/api/items/45038/export?format=json","diagnose":"/api/diagnose?url=https%3A//www.infoobs.com/article/20260724/71697.html"},"formats":{"full":{"id":45038,"title":"人工智能拟人化表述的治理风险与规范路径 - 信息化观察网","url":"https://www.infoobs.com/article/20260724/71697.html","source":"信息化观察网","author":null,"published_at":"2026-07-24T02:21:25+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","full_text":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 3221 characters.","diagnostics_url":"/api/diagnose?url=https%3A//www.infoobs.com/article/20260724/71697.html","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3221 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3221,"summary_length":3221,"usable_text_length":3221,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3221,"summary_length":3221}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3221 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3221,"summary_length":3221,"usable_text_length":3221,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3221,"summary_length":3221}},"actions":{"read":"/item/45038","export_markdown":"/api/items/45038/export?format=markdown","export_json":"/api/items/45038/export?format=json","diagnose":"/api/diagnose?url=https%3A//www.infoobs.com/article/20260724/71697.html"}},"digest":{"id":45038,"title":"人工智能拟人化表述的治理风险与规范路径 - 信息化观察网","url":"https://www.infoobs.com/article/20260724/71697.html","source":"信息化观察网","topic":"ai","published_at":"2026-07-24T02:21:25+00:00","excerpt":"本文来自微信公众号“启元洞见”。 导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 3221 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"人工智能拟人化表述的治理风险与规范路径 - 信息化观察网","subtitle":"信息化观察网 · 2026-07-24","summary":"本文来自微信公众号“启元洞见”。 导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in…","badges":["quality:high"],"links":{"read":"/item/45038","original":"https://www.infoobs.com/article/20260724/71697.html","diagnose":"/api/diagnose?url=https%3A//www.infoobs.com/article/20260724/71697.html"},"quality_warning":null},"export":{"title":"人工智能拟人化表述的治理风险与规范路径 - 信息化观察网","url":"https://www.infoobs.com/article/20260724/71697.html","summary":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","source":"信息化观察网","date":"2026-07-24T02:21:25+00:00","content":"本文来自微信公众号“启元洞见”。\n导语：2026年5月20日，美国布鲁金斯学会发表评论文章《拟人化人工智能术语引发问责机制缺失》（Anthropomorphic AI terms create gaps in accountability），系统分析了人工智能系统在公共讨论、商业营销乃至政策文本中被赋予人类特质的现象及其治理风险。文章指出，将人工智能描述为“相信”“决定”“欺骗”等拟人化语言，会模糊开发者、部署者与机构之间的责任边界，强化公众对系统自主性的错误认知，从而削弱透明度、影响监管执行，并可能被企业利用以逃避应有的审查。\n一、为何拟人化会成为治理难题\n人类总是倾向于将类人品质赋予机器。20世纪60年代提出的“伊莉莎效应”（Eliza effect）表明，用户会对简单的模式匹配对话程序产生共情联想。后续关于“计算机是社会行动者”（CASA）范式的研究发现，即使人们明知自己在与软件交互，仍会像对待他人一样使用同样的社交线索来回应数字系统。\n这种拟人化框架可能导致人们将人工智能系统视为独立的决策者，而非由人和机构构建、优化和部署的工具。实际上，大语言模型及相关系统的输出，是基于训练数据中的模式以及模型训练和系统设置，生成下一个最可能的输出或行动。这些系统并不具备意图、物理意识或理解能力。人们常将错误输出称为“幻觉”，但这一标签将多种性质迥异的问题混为一谈，例如源材料缺失、提示词不清晰、训练数据被操纵，或是模型生成了听起来合理但未经验证的文本。开发者通常在海量数据集上训练模型，这些数据可能包含错误、戏仿、垃圾信息、刻板印象以及过时内容。\n此外，设计选择同样至关重要。逼真的语音、命名的人格角色、个性提示以及情感丰富的聊天输出界面，都会显著提升用户感知到的“类人感”和信任度，鼓励用户将人类特质——包括性别刻板印象投射到数字助理上。这些功能会让系统显得更加有用和可信，但也可能诱使用户过度分享信息、过度依赖系统，甚至形成情感依恋。\n二、常见拟人化术语及其技术含义\n在人工智能政策讨论乃至立法或监管文本中，经常出现以下拟人化术语，它们深刻影响政策制定者描述系统的方式，进而塑造定义、职责与执法义务。\n（1）智能体/聊天机器人：拟人化含义暗示一个拥有自身目标和自主权的实体。技术含义则是：智能体是一个为实现开发者设定的目标而采取行动的系统；聊天机器人是生成文本、音频以回应用户提示的软件。\n（2）人工智能听到/识别/聆听/阅读/认出/看到：拟人化暗示像人类一样的感知理解。技术含义则是：模型将输入转换为内部表征，并根据训练期间拟合的参数生成内容。\n（3）人工智能偏见：拟人化暗示偏见是系统的内在特质或意图。技术含义则是：模型输出表现出差异化的比率或影响，这是由于训练数据和部署环境的选择所致。\n（4）人工智能学习/训练：拟人化暗示自主成长或独立的自我改进。技术含义则是：开发者使用数据和优化方法训练、微调模型参数，这涉及一系列工程选择。\n（5）人工智能决策：拟人化暗示系统本身就是决策者。技术含义则是：系统输出的是推荐、评分或分类，真正做决定的是人或机构。\n（6）人工智能记忆：拟人化暗示人类的记忆与回忆。技术含义则是：服务存储交互日志、缓存上下文、配置文件数据，并可以检索这些信息。\n（7）人工智能幻觉：拟人化暗示心智正在经历错觉。技术含义则是：系统生成了错误、编造或未经证实的内容，因为生成过程默认未锚定于权威来源。\n三、拟人化框架的政策影响\n第一，类人框架会通过将输出描述为系统的“判断”而非人类在数据、目标、阈值、界面和部署方面所做选择的结果，从而稀释问责。当政策条文写道“人工智能做出决定”时，这种措辞模糊了输出生成与使用模型输出进行决策之间的区别。实际上，是人类选择了训练数据、目标、阈值、模型部署环境以及输出使用方式。人工智能系统不会选择目标、设计优化函数或权重，也不会决定部署环境。这些选择由人和机构完成，而这正是责任与治理的核心所在。\n第二，拟人化语言给政策实施带来了风险。将系统描述为能够“看到”或“识别”，并不能告诉监管者系统应该做什么，也无法说明这些功能可能如何失效。一份采购说明要求系统“看到苹果”，远不如明确定义图像条件、性能阈值和容错范围来得有用。当法律条文依赖以人类为中心的动词时，就增加了政策意图与技术执行之间出现偏差的风险。这类描述还可能通过鼓励对“理解”做出无法证伪的宣称，而非对模型能力和局限性进行可测试的描述，从而削弱透明度。\n第三，拟人化可能强化行业的叙事。科技公司有强烈的动机将产品营销为“智能”“对话式”或“具有能动性”，以推动用户采用。“人工智能”和“机器学习”等术语可能成为更精确描述计算过程的占位符，使企业能够将常规的数据处理技术包装为自主智能。然而，这种框架也可能将能动性归属于“自主”系统而非公司本身，从而稀释对商业实践、数据集来源和利润动机的审查。如果一个系统“做出了决定”，责任就显得模棱两可；而如果一家公司配置、测试并部署了一个已知局限性的模型，责任则清晰得多。同时，这种语言也助长了公众的误解，认为人工智能系统具有可与人类相比的、可衡量的智能，或认为这些系统已超出人类控制。\n第四，拟人化语言可能与既有的治理原则相悖。经济合作与发展组织（OECD）的人工智能原则强调以人为本的价值观、透明度和问责制。同样，美国国家标准与技术研究院（NIST）人工智能风险管理框架的生成式人工智能配置文件也强调准确描述系统能力、局限性和故障模式。当企业选择拟人化语言或设计时，它们可能正在破坏这些广泛认同的系统透明度原则。\n四、人工智能法律法规表述与权责规范\n法律法规应优先使用操作性动词。人工智能系统应被描述为检测、分类、聚类、评分、排名和优化。“决定”一词应保留用于产生法律或实际效果的人类或机构行为。法律条文应明确将能动性归属于开发者、部署者和运营者，规定由哪个实体确定系统目的、设定决策阈值，并决定输出是否以及如何影响重大决策，同时应为民间社会监督建立渠道。\n政策应以具体的、非拟人化的术语规定透明度，涉及数据来源、模型架构和已知局限性。当由于不透明性或商业机密而无法进行全面技术解释时，法律可以强制要求记录训练数据类别、评估基准和性能差异。立法者应明确点名供应链中的各类行为者，而非将其抽象为对人工智能的泛指。与其说“人工智能验证身份”，不如具体指明某个承包商部署了由特定开发者基于特定数据集训练、在特定阈值下运行的人脸匹配算法。\n此外，政策制定者应审视在特定用例中，类人设计是否真的必要。美国加利福尼亚州和纽约州的法律已经开始通过要求披露用户与模拟人格交互时的信息，以及将聊天机器人作为设计选择和部署环境受到治理的产品来应对情感依赖和过度信任问题。在心理健康、就业、教育或公共福利等风险较高的领域，减少拟人化线索可能有助于缓解过度依赖和操纵风险。\n五、结论\n立法语言的精确性并不能解决所有治理问题，但它可以在边际上改善制度性结果。在人工智能领域，拟人化术语使得问责和执行变得模糊不清。更具操作性的语言则能够阐明是谁构建和部署了系统、系统如何运作、风险发生在何处，以及哪些行为者负有文档记录、测试、监控和问责义务，它有助于强化采购流程、执法行动和公众理解。人工智能系统或许是通用技术，但它们仍然是嵌入在组织决策链条中的工程产品，政策应当以相应的方式描述技术。\n（本文内容系“启元洞见”公众号原创编译，转载时请务必标明来源及作者）\n参考来源：美国布鲁金斯学会\n参考题目：Anthropomorphic AI terms create gaps in accountability\n参考链接：https://www.brookings.edu/articles/anthropomorphic-ai-terms-create-gaps-in-accountability/","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//www.infoobs.com/article/20260724/71697.html","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 3221 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 3221 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":3221,"summary_length":3221,"usable_text_length":3221,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":3221,"summary_length":3221}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}