{"id":48731,"topic":"ai","source":"智源社区","title":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 - 智源社区","url":"https://hub.baai.ac.cn/view/56719","url_hash":"e3c3687512d972535f1593e477224799fc189cbf","author":"","summary":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 智源社区","content":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE. Yudkowsky, M. HerreshoffWorking paper（2013） \n- 自我演化AI Agent综述A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025） \n- AI模型塌缩现象AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024） \n自指\n- 哥德尔机Goedel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-ImprovementsJuergen SchmidhuberarXiv:cs/0309048（2006） \n- 达尔文式哥德尔机Darwin Godel Machine: Open-Ended Evolution of Self-Improving AgentsJenny Zhang,Shengran Hu,Cong Lu.et al.（2025） \n- 红皇后哥德尔机The Red Queen Gödel Machine: Co-Evolving Agents and Their EvaluatorsAlex Iacob,Andrej Jovanović,William F. Shen.et al.（2026） \n- 哥德尔AgentGödel Agent: A Self-Referential Agent Framework for Recursive Self-ImprovementXunjian Yin,Xinyi Wang,Liangming Pan.et al.（2024） \n- 大语言模型的自指与意识Large Language Models Report Subjective Experience Under Self-Referential ProcessingCameron Berg,Diogo de Lucena,Judd Rosenblatt（2025） \n- 自指超网络Hypernetworks That Evolve ThemselvesJoachim Winther Pedersen,Erwan Plantec,Eleni Nisioti.et al.（2025） \n- 自指神经网络（self referential neural network）的小综述文章 \nSelf-Referential Neural NetworksSelf-Referential Neural Networks\n- 大模型自指与自我提升Self-Taught Optimizer (STOP): Recursively Self-Improving Code GenerationEric Zelikman,Eliana Lorch,Lester Mackey.et al.（2023） \n大语言模型的意识研究\n- AI觉知综述AI AwarenessXiaojian Li,Haoyuan Shi,Rongwu Xu.et al.（2025） \n- Anthropic的全局工作空间：Verbalizable Representations Form a Global Workspace in Language ModelsWes Gurnee, Nicholas Sofroniew Adam Pearce, Mateusz Piotrowski.et al. \n- 操控大语言模型的觉知Steering Awareness: Detecting Activation Steering from WithinJoshua Fonseca Rivera,David Demitri Africa（2025） \n- 大语言模型不能自省Language Models Fail to Introspect About Their Knowledge of LanguageSiyuan Song,Jennifer Hu,Kyle Mahowald（2025） \n- 从意识科学到AI意识Consciousness in Artificial Intelligence: Insights from the Science of ConsciousnessPatrick Butlin,R. Long,Eric Elmoznino.et al.arXiv.org（2023） \n框架图\n张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括因果涌现、复杂系统分析与建模、规模理论等。\n个人主页：https://jake.swarma.org/\n李筱健，清华⼤学⼈⼯智能博⼠生，方寸跃迁创始人兼CEO，UC Berkeley硕⼠，美国MATS访问学者，师从交叉信息研究院副院长徐葳教授，在AI安全领域发表多篇⼀作论⽂，成果口头报告于ACL、IDAIS、智源⼤会，并与图灵奖得主Yoshua Bengio等⼈共同发布《全球⼈⼯智能安全研究重点新加坡共识》。\n袁冰，集智科学研究中心技术与产品顾问。研究兴趣包括因果推断，复杂科学，以及人工智能相关领域。曾于西门子，甲骨文等公司研发部门任职。\n潘琳莉，北京师范大学系统科学学院系统科学专业硕士研究生，研究兴趣为人工智能，因果涌现。\n「自指与AI」读书会2026季正式启动\n📅 时间规划：2026年8月29日开营，共持续10周左右。\n🌐 参与形式：腾讯会议——每周六下午14:00-16:00。\n🎯 报名您将获得：\n- 扫描二维码直达报名通道，锁定学习席位。 \n- 加入专属学员群，与读书会发起人、主讲人及优秀同行直接交流。 \n- 每期内容结束后可随时观看高清视频回放，支持反复学习与复习。 \n- 报名之后还可自荐成为主讲人，亲自分享。 \n立即报名，加入自指与 AI 读书会，共探自指逻辑与智能底层机理。\n这是一场共研共学的学术聚会，不是单向灌输，而是平等交流与思想碰撞。\n无论你是高校科研院所的学者，还是热爱科研的独立研究者，只要你对自指与AI有独到见解，有想要分享的相关思考，我们都诚挚邀请你成为主讲人——分享你的探索、你的思考，与大家一起碰撞出新的火花。\n你将获得：传播你的前沿理念，分享你的思考；获得跨学科学者的真实反馈，加速思想迭代；建立跨领域的合作机会，结识志同道合的研究者与潜在合作伙伴。\n读书会价格：299元\n报名方式\n第一步：微信扫码填写报名信息。\n扫码报名\n第二步：填写信息后，付费报名。如需用支付宝支付，请在PC端进入读书会页面报名支付：\n第三步：添加运营助理微信，拉入对应主题的读书会社区（微信群）。\nPS：\n我们鼓励围绕复杂系统、人工智能及相关具体问题的深入探讨。为保证讨论质量，请避免发表脱离本期读书会主题、缺乏实证基础或过于空泛的哲学思辨类内容。\n若讨论内容明显偏离主题，经主持人提醒后仍未调整，为维护整体学习环境，我们将不得不将该成员请出讨论群，并根据其实际参与进度，对未参与部分按比例办理退费。\n感谢您的理解与配合，让我们共同营造一个专注、深入、有收获的共学空间。\n加入社区可享核心资源\n成为会员即可解锁完整学习生态，包括：线上实时问答、全部课程录播回看、独家资料共享、高质量社群交流、第一手信息同步，以及通过参与共创任务获取积分等权益。\n特色退费与激励机制\n我们提供以下两种途径，让您的投入获得实际回馈：\n- 任务达标退费路径 - 认领并合格完成任意两期字幕任务，即可退还全额报名费，并额外获得集智专属周边奖励。 \n- 运营成长激励路径 - 合格完成一个字幕任务后，可申请成为运营助理。在读书会项目顺利结项后，将退还学费。表现优异者，还有机会获得额外的奖学金。 \n- 「自指与AI」读书会推荐阅读材料\n扫描下方二维码可跳转至集智斑图网站阅读文章：「自指与AI：从大模型自我改进到意识研究」读书会推荐阅读材料。\n- 往期公众号相关内容推荐\n内容中包含的图片若涉及版权问题，请及时与我们联系删除","image_url":"https://simg.baai.ac.cn/hub-detail/fd97758d1e820d1b7164e313cea02ed81785313201243.webp","lang":"zh","published_at":"2026-07-29T08:20:00+00:00","fetched_at":"2026-07-29T09:15:07+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE.","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://hub.baai.ac.cn/view/56719","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 6307 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":6307,"summary_length":2741,"usable_text_length":6307,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":6307,"summary_length":2741}},"news_item":{"id":48731,"canonical_url":"https://hub.baai.ac.cn/view/56719","source_url":"https://hub.baai.ac.cn/view/56719","title":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 - 智源社区","source_name":"智源社区","author":null,"published_at":"2026-07-29T08:20:00+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 智源社区","full_text":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE. Yudkowsky, M. HerreshoffWorking paper（2013） \n- 自我演化AI Agent综述A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025） \n- AI模型塌缩现象AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024） \n自指\n- 哥德尔机Goedel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-ImprovementsJuergen SchmidhuberarXiv:cs/0309048（2006） \n- 达尔文式哥德尔机Darwin Godel Machine: Open-Ended Evolution of Self-Improving AgentsJenny Zhang,Shengran Hu,Cong Lu.et al.（2025） \n- 红皇后哥德尔机The Red Queen Gödel Machine: Co-Evolving Agents and Their EvaluatorsAlex Iacob,Andrej Jovanović,William F. Shen.et al.（2026） \n- 哥德尔AgentGödel Agent: A Self-Referential Agent Framework for Recursive Self-ImprovementXunjian Yin,Xinyi Wang,Liangming Pan.et al.（2024） \n- 大语言模型的自指与意识Large Language Models Report Subjective Experience Under Self-Referential ProcessingCameron Berg,Diogo de Lucena,Judd Rosenblatt（2025） \n- 自指超网络Hypernetworks That Evolve ThemselvesJoachim Winther Pedersen,Erwan Plantec,Eleni Nisioti.et al.（2025） \n- 自指神经网络（self referential neural network）的小综述文章 \nSelf-Referential Neural NetworksSelf-Referential Neural Networks\n- 大模型自指与自我提升Self-Taught Optimizer (STOP): Recursively Self-Improving Code GenerationEric Zelikman,Eliana Lorch,Lester Mackey.et al.（2023） \n大语言模型的意识研究\n- AI觉知综述AI AwarenessXiaojian Li,Haoyuan Shi,Rongwu Xu.et al.（2025） \n- Anthropic的全局工作空间：Verbalizable Representations Form a Global Workspace in Language ModelsWes Gurnee, Nicholas Sofroniew Adam Pearce, Mateusz Piotrowski.et al. \n- 操控大语言模型的觉知Steering Awareness: Detecting Activation Steering from WithinJoshua Fonseca Rivera,David Demitri Africa（2025） \n- 大语言模型不能自省Language Models Fail to Introspect About Their Knowledge of LanguageSiyuan Song,Jennifer Hu,Kyle Mahowald（2025） \n- 从意识科学到AI意识Consciousness in Artificial Intelligence: Insights from the Science of ConsciousnessPatrick Butlin,R. Long,Eric Elmoznino.et al.arXiv.org（2023） \n框架图\n张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括因果涌现、复杂系统分析与建模、规模理论等。\n个人主页：https://jake.swarma.org/\n李筱健，清华⼤学⼈⼯智能博⼠生，方寸跃迁创始人兼CEO，UC Berkeley硕⼠，美国MATS访问学者，师从交叉信息研究院副院长徐葳教授，在AI安全领域发表多篇⼀作论⽂，成果口头报告于ACL、IDAIS、智源⼤会，并与图灵奖得主Yoshua Bengio等⼈共同发布《全球⼈⼯智能安全研究重点新加坡共识》。\n袁冰，集智科学研究中心技术与产品顾问。研究兴趣包括因果推断，复杂科学，以及人工智能相关领域。曾于西门子，甲骨文等公司研发部门任职。\n潘琳莉，北京师范大学系统科学学院系统科学专业硕士研究生，研究兴趣为人工智能，因果涌现。\n「自指与AI」读书会2026季正式启动\n📅 时间规划：2026年8月29日开营，共持续10周左右。\n🌐 参与形式：腾讯会议——每周六下午14:00-16:00。\n🎯 报名您将获得：\n- 扫描二维码直达报名通道，锁定学习席位。 \n- 加入专属学员群，与读书会发起人、主讲人及优秀同行直接交流。 \n- 每期内容结束后可随时观看高清视频回放，支持反复学习与复习。 \n- 报名之后还可自荐成为主讲人，亲自分享。 \n立即报名，加入自指与 AI 读书会，共探自指逻辑与智能底层机理。\n这是一场共研共学的学术聚会，不是单向灌输，而是平等交流与思想碰撞。\n无论你是高校科研院所的学者，还是热爱科研的独立研究者，只要你对自指与AI有独到见解，有想要分享的相关思考，我们都诚挚邀请你成为主讲人——分享你的探索、你的思考，与大家一起碰撞出新的火花。\n你将获得：传播你的前沿理念，分享你的思考；获得跨学科学者的真实反馈，加速思想迭代；建立跨领域的合作机会，结识志同道合的研究者与潜在合作伙伴。\n读书会价格：299元\n报名方式\n第一步：微信扫码填写报名信息。\n扫码报名\n第二步：填写信息后，付费报名。如需用支付宝支付，请在PC端进入读书会页面报名支付：\n第三步：添加运营助理微信，拉入对应主题的读书会社区（微信群）。\nPS：\n我们鼓励围绕复杂系统、人工智能及相关具体问题的深入探讨。为保证讨论质量，请避免发表脱离本期读书会主题、缺乏实证基础或过于空泛的哲学思辨类内容。\n若讨论内容明显偏离主题，经主持人提醒后仍未调整，为维护整体学习环境，我们将不得不将该成员请出讨论群，并根据其实际参与进度，对未参与部分按比例办理退费。\n感谢您的理解与配合，让我们共同营造一个专注、深入、有收获的共学空间。\n加入社区可享核心资源\n成为会员即可解锁完整学习生态，包括：线上实时问答、全部课程录播回看、独家资料共享、高质量社群交流、第一手信息同步，以及通过参与共创任务获取积分等权益。\n特色退费与激励机制\n我们提供以下两种途径，让您的投入获得实际回馈：\n- 任务达标退费路径 - 认领并合格完成任意两期字幕任务，即可退还全额报名费，并额外获得集智专属周边奖励。 \n- 运营成长激励路径 - 合格完成一个字幕任务后，可申请成为运营助理。在读书会项目顺利结项后，将退还学费。表现优异者，还有机会获得额外的奖学金。 \n- 「自指与AI」读书会推荐阅读材料\n扫描下方二维码可跳转至集智斑图网站阅读文章：「自指与AI：从大模型自我改进到意识研究」读书会推荐阅读材料。\n- 往期公众号相关内容推荐\n内容中包含的图片若涉及版权问题，请及时与我们联系删除","excerpt":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE.","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 6307 characters.","diagnostics_url":"/api/diagnose?url=https%3A//hub.baai.ac.cn/view/56719","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 6307 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":6307,"summary_length":2741,"usable_text_length":6307,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":6307,"summary_length":2741}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 - 智源社区","url":"https://hub.baai.ac.cn/view/56719","summary":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE.","source":"智源社区","date":"2026-07-29T08:20:00+00:00","content":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE. Yudkowsky, M. HerreshoffWorking paper（2013） \n- 自我演化AI Agent综述A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025） \n- AI模型塌缩现象AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024） \n自指\n- 哥德尔机Goedel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-ImprovementsJuergen SchmidhuberarXiv:cs/0309048（2006） \n- 达尔文式哥德尔机Darwin Godel Machine: Open-Ended Evolution of Self-Improving AgentsJenny Zhang,Shengran Hu,Cong Lu.et al.（2025） \n- 红皇后哥德尔机The Red Queen Gödel Machine: Co-Evolving Agents and Their EvaluatorsAlex Iacob,Andrej Jovanović,William F. Shen.et al.（2026） \n- 哥德尔AgentGödel Agent: A Self-Referential Agent Framework for Recursive Self-ImprovementXunjian Yin,Xinyi Wang,Liangming Pan.et al.（2024） \n- 大语言模型的自指与意识Large Language Models Report Subjective Experience Under Self-Referential ProcessingCameron Berg,Diogo de Lucena,Judd Rosenblatt（2025） \n- 自指超网络Hypernetworks That Evolve ThemselvesJoachim Winther Pedersen,Erwan Plantec,Eleni Nisioti.et al.（2025） \n- 自指神经网络（self referential neural network）的小综述文章 \nSelf-Referential Neural NetworksSelf-Referential Neural Networks\n- 大模型自指与自我提升Self-Taught Optimizer (STOP): Recursively Self-Improving Code GenerationEric Zelikman,Eliana Lorch,Lester Mackey.et al.（2023） \n大语言模型的意识研究\n- AI觉知综述AI AwarenessXiaojian Li,Haoyuan Shi,Rongwu Xu.et al.（2025） \n- Anthropic的全局工作空间：Verbalizable Representations Form a Global Workspace in Language ModelsWes Gurnee, Nicholas Sofroniew Adam Pearce, Mateusz Piotrowski.et al. \n- 操控大语言模型的觉知Steering Awareness: Detecting Activation Steering from WithinJoshua Fonseca Rivera,David Demitri Africa（2025） \n- 大语言模型不能自省Language Models Fail to Introspect About Their Knowledge of LanguageSiyuan Song,Jennifer Hu,Kyle Mahowald（2025） \n- 从意识科学到AI意识Consciousness in Artificial Intelligence: Insights from the Science of ConsciousnessPatrick Butlin,R. Long,Eric Elmoznino.et al.arXiv.org（2023） \n框架图\n张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括因果涌现、复杂系统分析与建模、规模理论等。\n个人主页：https://jake.swarma.org/\n李筱健，清华⼤学⼈⼯智能博⼠生，方寸跃迁创始人兼CEO，UC Berkeley硕⼠，美国MATS访问学者，师从交叉信息研究院副院长徐葳教授，在AI安全领域发表多篇⼀作论⽂，成果口头报告于ACL、IDAIS、智源⼤会，并与图灵奖得主Yoshua Bengio等⼈共同发布《全球⼈⼯智能安全研究重点新加坡共识》。\n袁冰，集智科学研究中心技术与产品顾问。研究兴趣包括因果推断，复杂科学，以及人工智能相关领域。曾于西门子，甲骨文等公司研发部门任职。\n潘琳莉，北京师范大学系统科学学院系统科学专业硕士研究生，研究兴趣为人工智能，因果涌现。\n「自指与AI」读书会2026季正式启动\n📅 时间规划：2026年8月29日开营，共持续10周左右。\n🌐 参与形式：腾讯会议——每周六下午14:00-16:00。\n🎯 报名您将获得：\n- 扫描二维码直达报名通道，锁定学习席位。 \n- 加入专属学员群，与读书会发起人、主讲人及优秀同行直接交流。 \n- 每期内容结束后可随时观看高清视频回放，支持反复学习与复习。 \n- 报名之后还可自荐成为主讲人，亲自分享。 \n立即报名，加入自指与 AI 读书会，共探自指逻辑与智能底层机理。\n这是一场共研共学的学术聚会，不是单向灌输，而是平等交流与思想碰撞。\n无论你是高校科研院所的学者，还是热爱科研的独立研究者，只要你对自指与AI有独到见解，有想要分享的相关思考，我们都诚挚邀请你成为主讲人——分享你的探索、你的思考，与大家一起碰撞出新的火花。\n你将获得：传播你的前沿理念，分享你的思考；获得跨学科学者的真实反馈，加速思想迭代；建立跨领域的合作机会，结识志同道合的研究者与潜在合作伙伴。\n读书会价格：299元\n报名方式\n第一步：微信扫码填写报名信息。\n扫码报名\n第二步：填写信息后，付费报名。如需用支付宝支付，请在PC端进入读书会页面报名支付：\n第三步：添加运营助理微信，拉入对应主题的读书会社区（微信群）。\nPS：\n我们鼓励围绕复杂系统、人工智能及相关具体问题的深入探讨。为保证讨论质量，请避免发表脱离本期读书会主题、缺乏实证基础或过于空泛的哲学思辨类内容。\n若讨论内容明显偏离主题，经主持人提醒后仍未调整，为维护整体学习环境，我们将不得不将该成员请出讨论群，并根据其实际参与进度，对未参与部分按比例办理退费。\n感谢您的理解与配合，让我们共同营造一个专注、深入、有收获的共学空间。\n加入社区可享核心资源\n成为会员即可解锁完整学习生态，包括：线上实时问答、全部课程录播回看、独家资料共享、高质量社群交流、第一手信息同步，以及通过参与共创任务获取积分等权益。\n特色退费与激励机制\n我们提供以下两种途径，让您的投入获得实际回馈：\n- 任务达标退费路径 - 认领并合格完成任意两期字幕任务，即可退还全额报名费，并额外获得集智专属周边奖励。 \n- 运营成长激励路径 - 合格完成一个字幕任务后，可申请成为运营助理。在读书会项目顺利结项后，将退还学费。表现优异者，还有机会获得额外的奖学金。 \n- 「自指与AI」读书会推荐阅读材料\n扫描下方二维码可跳转至集智斑图网站阅读文章：「自指与AI：从大模型自我改进到意识研究」读书会推荐阅读材料。\n- 往期公众号相关内容推荐\n内容中包含的图片若涉及版权问题，请及时与我们联系删除","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//hub.baai.ac.cn/view/56719","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 6307 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 6307 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":6307,"summary_length":2741,"usable_text_length":6307,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":6307,"summary_length":2741}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/48731","export_markdown":"/api/items/48731/export?format=markdown","export_json":"/api/items/48731/export?format=json","diagnose":"/api/diagnose?url=https%3A//hub.baai.ac.cn/view/56719"},"formats":{"full":{"id":48731,"title":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 - 智源社区","url":"https://hub.baai.ac.cn/view/56719","source":"智源社区","author":null,"published_at":"2026-07-29T08:20:00+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE.","full_text":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE. Yudkowsky, M. HerreshoffWorking paper（2013） \n- 自我演化AI Agent综述A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025） \n- AI模型塌缩现象AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024） \n自指\n- 哥德尔机Goedel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-ImprovementsJuergen SchmidhuberarXiv:cs/0309048（2006） \n- 达尔文式哥德尔机Darwin Godel Machine: Open-Ended Evolution of Self-Improving AgentsJenny Zhang,Shengran Hu,Cong Lu.et al.（2025） \n- 红皇后哥德尔机The Red Queen Gödel Machine: Co-Evolving Agents and Their EvaluatorsAlex Iacob,Andrej Jovanović,William F. Shen.et al.（2026） \n- 哥德尔AgentGödel Agent: A Self-Referential Agent Framework for Recursive Self-ImprovementXunjian Yin,Xinyi Wang,Liangming Pan.et al.（2024） \n- 大语言模型的自指与意识Large Language Models Report Subjective Experience Under Self-Referential ProcessingCameron Berg,Diogo de Lucena,Judd Rosenblatt（2025） \n- 自指超网络Hypernetworks That Evolve ThemselvesJoachim Winther Pedersen,Erwan Plantec,Eleni Nisioti.et al.（2025） \n- 自指神经网络（self referential neural network）的小综述文章 \nSelf-Referential Neural NetworksSelf-Referential Neural Networks\n- 大模型自指与自我提升Self-Taught Optimizer (STOP): Recursively Self-Improving Code GenerationEric Zelikman,Eliana Lorch,Lester Mackey.et al.（2023） \n大语言模型的意识研究\n- AI觉知综述AI AwarenessXiaojian Li,Haoyuan Shi,Rongwu Xu.et al.（2025） \n- Anthropic的全局工作空间：Verbalizable Representations Form a Global Workspace in Language ModelsWes Gurnee, Nicholas Sofroniew Adam Pearce, Mateusz Piotrowski.et al. \n- 操控大语言模型的觉知Steering Awareness: Detecting Activation Steering from WithinJoshua Fonseca Rivera,David Demitri Africa（2025） \n- 大语言模型不能自省Language Models Fail to Introspect About Their Knowledge of LanguageSiyuan Song,Jennifer Hu,Kyle Mahowald（2025） \n- 从意识科学到AI意识Consciousness in Artificial Intelligence: Insights from the Science of ConsciousnessPatrick Butlin,R. Long,Eric Elmoznino.et al.arXiv.org（2023） \n框架图\n张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括因果涌现、复杂系统分析与建模、规模理论等。\n个人主页：https://jake.swarma.org/\n李筱健，清华⼤学⼈⼯智能博⼠生，方寸跃迁创始人兼CEO，UC Berkeley硕⼠，美国MATS访问学者，师从交叉信息研究院副院长徐葳教授，在AI安全领域发表多篇⼀作论⽂，成果口头报告于ACL、IDAIS、智源⼤会，并与图灵奖得主Yoshua Bengio等⼈共同发布《全球⼈⼯智能安全研究重点新加坡共识》。\n袁冰，集智科学研究中心技术与产品顾问。研究兴趣包括因果推断，复杂科学，以及人工智能相关领域。曾于西门子，甲骨文等公司研发部门任职。\n潘琳莉，北京师范大学系统科学学院系统科学专业硕士研究生，研究兴趣为人工智能，因果涌现。\n「自指与AI」读书会2026季正式启动\n📅 时间规划：2026年8月29日开营，共持续10周左右。\n🌐 参与形式：腾讯会议——每周六下午14:00-16:00。\n🎯 报名您将获得：\n- 扫描二维码直达报名通道，锁定学习席位。 \n- 加入专属学员群，与读书会发起人、主讲人及优秀同行直接交流。 \n- 每期内容结束后可随时观看高清视频回放，支持反复学习与复习。 \n- 报名之后还可自荐成为主讲人，亲自分享。 \n立即报名，加入自指与 AI 读书会，共探自指逻辑与智能底层机理。\n这是一场共研共学的学术聚会，不是单向灌输，而是平等交流与思想碰撞。\n无论你是高校科研院所的学者，还是热爱科研的独立研究者，只要你对自指与AI有独到见解，有想要分享的相关思考，我们都诚挚邀请你成为主讲人——分享你的探索、你的思考，与大家一起碰撞出新的火花。\n你将获得：传播你的前沿理念，分享你的思考；获得跨学科学者的真实反馈，加速思想迭代；建立跨领域的合作机会，结识志同道合的研究者与潜在合作伙伴。\n读书会价格：299元\n报名方式\n第一步：微信扫码填写报名信息。\n扫码报名\n第二步：填写信息后，付费报名。如需用支付宝支付，请在PC端进入读书会页面报名支付：\n第三步：添加运营助理微信，拉入对应主题的读书会社区（微信群）。\nPS：\n我们鼓励围绕复杂系统、人工智能及相关具体问题的深入探讨。为保证讨论质量，请避免发表脱离本期读书会主题、缺乏实证基础或过于空泛的哲学思辨类内容。\n若讨论内容明显偏离主题，经主持人提醒后仍未调整，为维护整体学习环境，我们将不得不将该成员请出讨论群，并根据其实际参与进度，对未参与部分按比例办理退费。\n感谢您的理解与配合，让我们共同营造一个专注、深入、有收获的共学空间。\n加入社区可享核心资源\n成为会员即可解锁完整学习生态，包括：线上实时问答、全部课程录播回看、独家资料共享、高质量社群交流、第一手信息同步，以及通过参与共创任务获取积分等权益。\n特色退费与激励机制\n我们提供以下两种途径，让您的投入获得实际回馈：\n- 任务达标退费路径 - 认领并合格完成任意两期字幕任务，即可退还全额报名费，并额外获得集智专属周边奖励。 \n- 运营成长激励路径 - 合格完成一个字幕任务后，可申请成为运营助理。在读书会项目顺利结项后，将退还学费。表现优异者，还有机会获得额外的奖学金。 \n- 「自指与AI」读书会推荐阅读材料\n扫描下方二维码可跳转至集智斑图网站阅读文章：「自指与AI：从大模型自我改进到意识研究」读书会推荐阅读材料。\n- 往期公众号相关内容推荐\n内容中包含的图片若涉及版权问题，请及时与我们联系删除","reading_time_min":2,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 6307 characters.","diagnostics_url":"/api/diagnose?url=https%3A//hub.baai.ac.cn/view/56719","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 6307 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":6307,"summary_length":2741,"usable_text_length":6307,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":6307,"summary_length":2741}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 6307 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":6307,"summary_length":2741,"usable_text_length":6307,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":6307,"summary_length":2741}},"actions":{"read":"/item/48731","export_markdown":"/api/items/48731/export?format=markdown","export_json":"/api/items/48731/export?format=json","diagnose":"/api/diagnose?url=https%3A//hub.baai.ac.cn/view/56719"}},"digest":{"id":48731,"title":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 - 智源社区","url":"https://hub.baai.ac.cn/view/56719","source":"智源社区","topic":"ai","published_at":"2026-07-29T08:20:00+00:00","excerpt":"自我改进与AI意识 过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。 A Comprehensive Survey of Self-Evolving AI Agents: A New…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 6307 characters.","reading_time_min":2,"cluster_id":null},"card":{"display_title":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 - 智源社区","subtitle":"智源社区 · 2026-07-29","summary":"自我改进与AI意识 过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。 A…","badges":["quality:high"],"links":{"read":"/item/48731","original":"https://hub.baai.ac.cn/view/56719","diagnose":"/api/diagnose?url=https%3A//hub.baai.ac.cn/view/56719"},"quality_warning":null},"export":{"title":"自指与AI读书会启动：从大模型自我改进到意识研究｜主讲招募中 - 智源社区","url":"https://hub.baai.ac.cn/view/56719","summary":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE.","source":"智源社区","date":"2026-07-29T08:20:00+00:00","content":"自我改进与AI意识\n过去两年，人工智能行业迎来一次具有决定性意义的战略转向。各大顶尖实验室 —— 包括 OpenAI、谷歌DeepMind、Anthropic、Meta、阿里巴巴等机构 —— 已不再满足于研发静态基础大模型，这类模型每次更新都需要工程师人工重新训练。取而代之的是，各家正重金投入研发自主进化人工智能系统：这类智能体可通过与环境持续迭代交互，自主优化自身提示词、执行策略、工具调用逻辑、记忆架构，乃至底层模型参数。\nA Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025）\n然而，尽管大语言模型的确可以在后训练阶段仍能不断的自我提升能力，各种AI也可以在强化学习、演化算法的加持下自我演化、自我提升，但似乎仍然无法做到真正的在没有人类干预的条件下实现递归式的自我改进（Recursive Self-Improvement，简称RSI）。甚至于Shumailov等人提出了模型塌缩（Model collapse）的概念，即如果互联网上混合了即使很小比例的AI模型生成的数据，则经过多次迭代之后，都有可能导致模型的塌缩，知识更加的有偏、单一化，甚至于引起人类知识体系的崩溃。AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024）\n另一方面，越来越多的文献指出大语言模型在一定程度上展现了类似人类的自省、元认知、自我意识的能力。例如，近期Anthropic研究人员就发现了类似于大脑中全局工作空间的J空间，可以进行高级的推理；还有大量的文献之处LLM具备一定的读取自身状态甚至预测自身输出的能力；LLM也能够通过微调学习感知到自己所完成的工作属于那种性质的。这类研究不仅让人们怀疑大语言模型是否已经具有了意识？AI会不会在某天觉醒？https://transformer-circuits.pub/2026/workspace/index.html\n自指\n这两类研究其实都和一个重要的概念有关：自指（Self-reference）。自指最早来源于语言学和数学，往往和各种悖论和逻辑漏洞有关，例如罗素悖论、哥德尔定理、图灵停机问题等。然而，正如《哥德尔、埃舍尔、巴赫》中所阐述的，还存在着另一种“建构性的自指”，不仅和悖论、逻辑漏洞、自相矛盾毫无关系，而且还有可能是生命、智能、意识等复杂现象的最小逻辑基础。哥德尔、埃舍尔、巴赫侯世达 Douglas Richard Hofstadter商务印书馆（1997）\n复杂度阈值\n1940-1950年代，著名数学家冯诺伊曼具有前瞻性地指出，相比于丰富多彩的生命复杂系统，人造复杂系统似乎始终没有跨越过一道复杂度的阈值（complexity threshold），因此就会在没有人干预的条件下，经过自然演化不断降级，这是热力学第二定律的“诅咒”。然而，生命系统则可能跨越过了那个复杂度的阈值门槛，因此可以在基因突变（也是热力学第二定律的某种作用）的作用下不断升级、进化。而这个复杂度阈值到底是什么？虽然冯诺伊曼也坦言不知道如何刻画它，但是他却明确知道，这个阈值门槛会和生命中的自指现象：自复制密切相关。这也是他之所以在生命的最后十年，一直追问如何打造一台能够自我复制的自动机这一问题有关，详情参见《自复制自动机理论》（Theory of Self-reproducing Automata）。Theory of Self-Reproducing AutomataJohn von NeumannUMl Reprint University Illinois 1966 Ed（2002）\n- 东方和尚对前五章的翻译：自复制自动机理论前五章中文翻译东方和尚, Jake（2011） \n大模型的自省阈值\n同样的，我们猜测自我演化、自我提升的AI系统也同样存在着这样一种复杂度阈值，超越这个阈值的AI系统才能够真正实现真正的“递归式的自我改进”（RSI），即在没有人工干预的前提下不断地递归式地改进下去；而如果一个AI系统没有超过这个复杂度阈值，则就会没有人为干预的情况下，能力的改进达到饱和，甚至在迭代中不断降级，这就是为什么我们会看到模型塌缩现象的可能原因。而且，这一复杂度阈值很可能也和自指现象有关。而AI系统、大模型中的自指现象有可能就是模型的“自省”（Introspection）能力，即模型自行分析自身，甚至自己对自己建模、预测和模拟。从另一个角度讲，自省能力可以定义为模型功能性的一种自我意识（self-awareness）。所以，我们猜测，只有当AI系统实现了自省，才能实现真正的递归式改进。于是，我们将递归式自我改进与AI意识这两个主题联系了起来，纽带就是自省。\n更多详细讨论，请参见：Self-Reference in Large Language Models: The Introspection Threshold for Recursive Self-ImprovementJiang Zhang,Bing Yuan,Qian ZhangarXiv:2607.04277（2026）\n基于上述背景，我们拟开展「自指与AI：从大模型自我改进到意识研究」的集智读书会，一方面梳理递归式自我改进AI、复杂系统中的自指，以及AI系统的意识这三个方向的论文，另一方面追踪关于AI意识，自我改进AI的前沿文献追踪。更深一步地，我们将探讨自指这一话题，以及它与如今的AI、大模型，以及意识科学研究之间的关系。\n读书会将分为三大主题：\n- 自我改进的AI系统 \n- 自指 \n- 大语言模型的意识研究 \n自我改进的AI系统\n- 从种子AI到递归式自我改进From Seed AI to Technological Singularity via Recursively Self-Improving SoftwareRoman V. Yampolskiyarxiv: 1502.06512（2015） \n- 平铺智能体与Lob障碍Tiling Agents for Self-Modifying AI, and the Löbian ObstacleE. Yudkowsky, M. HerreshoffWorking paper（2013） \n- 自我演化AI Agent综述A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic SystemsJinyuan Fang,Yanwen Peng,Xi Zhang.et al.arxiv（2025） \n- AI模型塌缩现象AI models collapse when trained on recursively generated dataIlia Shumailov,Zakhar Shumaylov,Yiren Zhao.et al.nature（2024） \n自指\n- 哥德尔机Goedel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-ImprovementsJuergen SchmidhuberarXiv:cs/0309048（2006） \n- 达尔文式哥德尔机Darwin Godel Machine: Open-Ended Evolution of Self-Improving AgentsJenny Zhang,Shengran Hu,Cong Lu.et al.（2025） \n- 红皇后哥德尔机The Red Queen Gödel Machine: Co-Evolving Agents and Their EvaluatorsAlex Iacob,Andrej Jovanović,William F. Shen.et al.（2026） \n- 哥德尔AgentGödel Agent: A Self-Referential Agent Framework for Recursive Self-ImprovementXunjian Yin,Xinyi Wang,Liangming Pan.et al.（2024） \n- 大语言模型的自指与意识Large Language Models Report Subjective Experience Under Self-Referential ProcessingCameron Berg,Diogo de Lucena,Judd Rosenblatt（2025） \n- 自指超网络Hypernetworks That Evolve ThemselvesJoachim Winther Pedersen,Erwan Plantec,Eleni Nisioti.et al.（2025） \n- 自指神经网络（self referential neural network）的小综述文章 \nSelf-Referential Neural NetworksSelf-Referential Neural Networks\n- 大模型自指与自我提升Self-Taught Optimizer (STOP): Recursively Self-Improving Code GenerationEric Zelikman,Eliana Lorch,Lester Mackey.et al.（2023） \n大语言模型的意识研究\n- AI觉知综述AI AwarenessXiaojian Li,Haoyuan Shi,Rongwu Xu.et al.（2025） \n- Anthropic的全局工作空间：Verbalizable Representations Form a Global Workspace in Language ModelsWes Gurnee, Nicholas Sofroniew Adam Pearce, Mateusz Piotrowski.et al. \n- 操控大语言模型的觉知Steering Awareness: Detecting Activation Steering from WithinJoshua Fonseca Rivera,David Demitri Africa（2025） \n- 大语言模型不能自省Language Models Fail to Introspect About Their Knowledge of LanguageSiyuan Song,Jennifer Hu,Kyle Mahowald（2025） \n- 从意识科学到AI意识Consciousness in Artificial Intelligence: Insights from the Science of ConsciousnessPatrick Butlin,R. Long,Eric Elmoznino.et al.arXiv.org（2023） \n框架图\n张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括因果涌现、复杂系统分析与建模、规模理论等。\n个人主页：https://jake.swarma.org/\n李筱健，清华⼤学⼈⼯智能博⼠生，方寸跃迁创始人兼CEO，UC Berkeley硕⼠，美国MATS访问学者，师从交叉信息研究院副院长徐葳教授，在AI安全领域发表多篇⼀作论⽂，成果口头报告于ACL、IDAIS、智源⼤会，并与图灵奖得主Yoshua Bengio等⼈共同发布《全球⼈⼯智能安全研究重点新加坡共识》。\n袁冰，集智科学研究中心技术与产品顾问。研究兴趣包括因果推断，复杂科学，以及人工智能相关领域。曾于西门子，甲骨文等公司研发部门任职。\n潘琳莉，北京师范大学系统科学学院系统科学专业硕士研究生，研究兴趣为人工智能，因果涌现。\n「自指与AI」读书会2026季正式启动\n📅 时间规划：2026年8月29日开营，共持续10周左右。\n🌐 参与形式：腾讯会议——每周六下午14:00-16:00。\n🎯 报名您将获得：\n- 扫描二维码直达报名通道，锁定学习席位。 \n- 加入专属学员群，与读书会发起人、主讲人及优秀同行直接交流。 \n- 每期内容结束后可随时观看高清视频回放，支持反复学习与复习。 \n- 报名之后还可自荐成为主讲人，亲自分享。 \n立即报名，加入自指与 AI 读书会，共探自指逻辑与智能底层机理。\n这是一场共研共学的学术聚会，不是单向灌输，而是平等交流与思想碰撞。\n无论你是高校科研院所的学者，还是热爱科研的独立研究者，只要你对自指与AI有独到见解，有想要分享的相关思考，我们都诚挚邀请你成为主讲人——分享你的探索、你的思考，与大家一起碰撞出新的火花。\n你将获得：传播你的前沿理念，分享你的思考；获得跨学科学者的真实反馈，加速思想迭代；建立跨领域的合作机会，结识志同道合的研究者与潜在合作伙伴。\n读书会价格：299元\n报名方式\n第一步：微信扫码填写报名信息。\n扫码报名\n第二步：填写信息后，付费报名。如需用支付宝支付，请在PC端进入读书会页面报名支付：\n第三步：添加运营助理微信，拉入对应主题的读书会社区（微信群）。\nPS：\n我们鼓励围绕复杂系统、人工智能及相关具体问题的深入探讨。为保证讨论质量，请避免发表脱离本期读书会主题、缺乏实证基础或过于空泛的哲学思辨类内容。\n若讨论内容明显偏离主题，经主持人提醒后仍未调整，为维护整体学习环境，我们将不得不将该成员请出讨论群，并根据其实际参与进度，对未参与部分按比例办理退费。\n感谢您的理解与配合，让我们共同营造一个专注、深入、有收获的共学空间。\n加入社区可享核心资源\n成为会员即可解锁完整学习生态，包括：线上实时问答、全部课程录播回看、独家资料共享、高质量社群交流、第一手信息同步，以及通过参与共创任务获取积分等权益。\n特色退费与激励机制\n我们提供以下两种途径，让您的投入获得实际回馈：\n- 任务达标退费路径 - 认领并合格完成任意两期字幕任务，即可退还全额报名费，并额外获得集智专属周边奖励。 \n- 运营成长激励路径 - 合格完成一个字幕任务后，可申请成为运营助理。在读书会项目顺利结项后，将退还学费。表现优异者，还有机会获得额外的奖学金。 \n- 「自指与AI」读书会推荐阅读材料\n扫描下方二维码可跳转至集智斑图网站阅读文章：「自指与AI：从大模型自我改进到意识研究」读书会推荐阅读材料。\n- 往期公众号相关内容推荐\n内容中包含的图片若涉及版权问题，请及时与我们联系删除","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//hub.baai.ac.cn/view/56719","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 6307 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 6307 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":6307,"summary_length":2741,"usable_text_length":6307,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":6307,"summary_length":2741}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}