{"id":81181,"topic":"ai","source":"新浪财经","title":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 - 新浪财经","url":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","url_hash":"5a853c78f67d357d77bda7393292fa5b3f5af153","author":"","summary":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 新浪财经","content":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","image_url":"https://n.sinaimg.cn/spider20260913/680/w640h840/20260913/fba6-8549faae5cf522845f84fca945b64fd8.jpg","lang":"zh","published_at":"2026-09-13T09:14:30+00:00","fetched_at":"2026-09-13T10:15:07+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2679 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2679,"summary_length":2679,"usable_text_length":2679,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2679,"summary_length":2679}},"news_item":{"id":81181,"canonical_url":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","source_url":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","title":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 - 新浪财经","source_name":"新浪财经","author":null,"published_at":"2026-09-13T09:14:30+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 新浪财经","full_text":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","excerpt":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 2679 characters.","diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html%3Fvt%3D4%26cid%3D76993%26node_id%3D76993","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2679 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2679,"summary_length":2679,"usable_text_length":2679,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2679,"summary_length":2679}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 - 新浪财经","url":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","summary":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","source":"新浪财经","date":"2026-09-13T09:14:30+00:00","content":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html%3Fvt%3D4%26cid%3D76993%26node_id%3D76993","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 2679 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2679 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2679,"summary_length":2679,"usable_text_length":2679,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2679,"summary_length":2679}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/81181","export_markdown":"/api/items/81181/export?format=markdown","export_json":"/api/items/81181/export?format=json","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html%3Fvt%3D4%26cid%3D76993%26node_id%3D76993"},"formats":{"full":{"id":81181,"title":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 - 新浪财经","url":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","source":"新浪财经","author":null,"published_at":"2026-09-13T09:14:30+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","full_text":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 2679 characters.","diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html%3Fvt%3D4%26cid%3D76993%26node_id%3D76993","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2679 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2679,"summary_length":2679,"usable_text_length":2679,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2679,"summary_length":2679}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2679 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2679,"summary_length":2679,"usable_text_length":2679,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2679,"summary_length":2679}},"actions":{"read":"/item/81181","export_markdown":"/api/items/81181/export?format=markdown","export_json":"/api/items/81181/export?format=json","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html%3Fvt%3D4%26cid%3D76993%26node_id%3D76993"}},"digest":{"id":81181,"title":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 - 新浪财经","url":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","source":"新浪财经","topic":"ai","published_at":"2026-09-13T09:14:30+00:00","excerpt":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 （来源：封面新闻） 封面新闻记者 边雪 AI狂飙的路上，突然亮起了红灯。 当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 2679 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 - 新浪财经","subtitle":"新浪财经 · 2026-09-13","summary":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 （来源：封面新闻） 封面新闻记者 边雪 AI狂飙的路上，突然亮起了红灯。 当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说…","badges":["quality:high"],"links":{"read":"/item/81181","original":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","diagnose":"/api/diagnose?url=https%3A//finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html%3Fvt%3D4%26cid%3D76993%26node_id%3D76993"},"quality_warning":null},"export":{"title":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察 - 新浪财经","url":"https://finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html?vt=4&cid=76993&node_id=76993","summary":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","source":"新浪财经","date":"2026-09-13T09:14:30+00:00","content":"“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察\n（来源：封面新闻）\n封面新闻记者 边雪\nAI狂飙的路上，突然亮起了红灯。\n当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说\n对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。\n作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？\n“拿人类做赌注是不可接受的”\n奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”\n这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。\n真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？\nOpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”\n数学家们在气什么？\n当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。\n导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。\n封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。\n公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。\n信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。\n年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”\nAI风险 从“口号”到“越界”\n当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。\n今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。\n英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。\n这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。\n行业共识与“囚徒困境”\n奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”\n这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。\n但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//finance.sina.cn/stock/jdts/2026-09-13/detail-inirsqpw7735422.d.html%3Fvt%3D4%26cid%3D76993%26node_id%3D76993","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 2679 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2679 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2679,"summary_length":2679,"usable_text_length":2679,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2679,"summary_length":2679}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}