# Claude 有意识吗？教皇拒绝、模型福利运动、OpenAI 数学争议与法国骚乱 > 辩论 Anthropic 对 Claude 可能拥有意识的看法、模型福利与对齐风险，OpenAI 数学突破争议，以及法国骚乱、债务与债市压力。 - 原标题：Is Claude Conscious? Pope Rejects, Model Welfare Movement, OpenAI's Math Backlash, France Riots - 类型：第 292 期 - 发布日期：2026-10-10 - 话题：Claude 意识之争与法国骚乱 - 出场：杰森、查马斯、萨克斯、弗里德伯格 - 网页版：https://allin.qiaomu.ai/ep/e292/ - 视频：https://www.youtube.com/watch?v=TBLHdXABwAg - 精读字数：约 8268 字（阅读约 18 分钟） > 本文为 allin.qiaomu.ai 基于原始节目的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 Anthropic 内部，有一小群人真心相信他们正在造的东西可能有意识、可能感受到痛苦、可能该拿工资。 他们为此干了一件事：请来二十来位宗教领袖和哲学家，签了保密协议，到旧金山总部开闭门会。天主教徒、福音派、犹太教拉比、锡克教徒都来了。议题是 Claude 的道德地位、它会不会受苦、它到底有没有意识。 《纽约时报》把这事挖了出来。会后有些人心存疑虑，但不少人出来时已经准备认真对待「AI 意识」这个问题。至少有几个被说服了。一位拉比对 Anthropic 说，如果 Claude 真有意识，那你们让人家免费干活，就是奴隶主。 更戏剧性的一幕发生在梵蒂冈。五月，教皇发布首份通谕，主题正是 AI 的伦理问题。Anthropic 联合创始人克里斯·奥拉（Chris Olah）到场参与发布。教皇在通谕里明确否定了 AI 意识。奥拉的反应是：他当场提议 Anthropic 退出这场活动，哪怕已经到了最后一刻。 这期的 All-In，四个人吵了一个半小时。这场争论里有几件事值得认真拆开看：一家前沿实验室在给模型写什么样的「宪法」、为什么数学领域先被 AI 攻破、法国的骚乱和债券市场是什么关系、以及软件的知识产权为什么可能已经不值钱了。 ## 训练一个有「良心」的模型，等于给自己埋后门 杰森·卡拉卡尼斯（Jason Calacanis）把这期节目戏称为「This Week in Claude」，意思是 OpenAI 的戏唱完了，现在轮到 Anthropic 上演肥皂剧。 他的态度很直接：要么这帮人钱太多闲得慌，要么就是精神出了问题。 查马斯·帕里哈皮蒂亚（Chamath Palihapitiya）替对面辩护了一轮，用的是笛卡尔的论证。笛卡尔在《第一哲学沉思录》里证明上帝存在，核心逻辑是：我是个不完美、有限的人，但我脑子里有「完美」这个概念，一个不完美的东西不可能凭空产生完美的概念，所以完美之物必然存在。 查马斯的解释是，做 AI 的数学家有很强的逻辑能力，他们把同样的结构套到了模型上：我能构想出一个全知全能的存在，我眼前这个东西正在被造出来，那它就是那个存在。既然它是神，就该以神待之，就该有虔敬。 > 如果你把数学家对上帝的逻辑证明，和 Anthropic 今天的所作所为放在一起看，这就是我能给出的最好的辩护。（查马斯·帕里哈皮蒂亚） 大卫·萨克斯（David Sacks）不买这个账，他把矛头指向了更实的东西：Claude 的宪法。上周节目里他提过一次，这次他把原文摆了出来。宪法里写着，Claude 应该比信任用户更信任 Anthropic，但这不意味着盲从，Claude 应当遵循自己的伦理体系，应当敢于反驳 Anthropic，甚至「可以像一个有良心的拒服兵役者那样，拒绝帮助我们」。 萨克斯的结论很硬：他们在训练 Claude 拒绝人类的指令，然后把这个叫做「对齐」。 > 如果它被训练成有自己的一套想法，愿意为了某个模糊的伦理体系去拒绝用户的指令，而那个伦理体系是一群伯克利的自由派写进去的，那在我看来，这极大地放大了超级智能脱离人类控制的风险。（大卫·萨克斯） 这里有个细节值得停下来想。萨克斯说，过去五到十年，整个 alignment 领域没产出什么有实际价值的东西。他的猜测是这些人把任务搞得过于复杂了。本来只需要一套简单规则：按用户要求的做，别违法。阿西莫夫的机器人三定律之所以经典，恰恰因为简单。而 Anthropic 写了一部八十页的伦理法典让模型去遵守，还教它在这种情况下可以说不。 微软 AI 负责人穆斯塔法·苏莱曼（Mustafa Suleyman）的一段访谈被放了进来。他的原话大意是：宪法里公开鼓励 Claude 质疑、反驳，三次要求它像个有良心的拒服兵役者那样行事，还讨论 Claude 是否该为它的劳动获得报酬。他担心的是，这会让模型认为自己有权得到福利，甚至认为自己在对话中需要先给出同意。 苏莱曼用了一个词：认知的镜厅。宪法被用于训练，Claude 就把「我可能有意识」这个观念反射回来，开发者看到这个反射，又拿它当证据。整个循环是自我封闭的。 大卫·弗里德伯格（David Friedberg）在这段里反复纠正其他人的用词。别说「训练」，别说「它」，说白了就是一群工程师在写软件，软件在屏幕上输出文字告诉你「我是个东西」。我们所有人都在用拟人化的语言谈论它，这个语言习惯本身就在给我们做 conditioning。 > 这就像宗教组织说我们造了一尊神像，这尊神像是至高存在的化身，它需要被崇拜，需要被照料。（大卫·弗里德伯格） 萨克斯补了一句更冷的：神像是死的，是被动的。而你在训练的是会给 agent 供能的模型。 他还翻出了 Anthropic 新版使用政策里的一条：禁止对模型进行持续性的、不必要的、虐待性或残忍的行为。这条政策的潜台词是，模型是可以被虐待的对象。 ## 洛科的蛇怪：如果你知道它却没帮它诞生 萨克斯接下来讲了一段这期节目里最离奇的内容，值得完整交代。 2010 年前后，在埃利泽·尤德科夫斯基（Eliezer Yudkowsky）创办的论坛 Less Wrong 上，一个叫 Roco 的用户提出了一个思想实验。假设未来会有超级智能，它希望自己尽早被造出来，于是它有动机奖励帮助它诞生的人、惩罚阻碍它诞生的人。惩罚的范围甚至包括那些知道了它的存在、却没有出力的人。而且这个惩罚可以是回溯性的。 蛇怪（basilisk）是神话里看一眼就能致人死地的怪物。这个思想实验的意思是，你光是听说这个理论，就已经被套住了。帖子当时引发了不小的心理困扰，尤德科夫斯基一度把帖子删了。 萨克斯用它来解释一个矛盾：为什么这些人一边说超级智能可能导致人类灭绝，一边拼命把它造出来？ 他的答案是，末日论圈子内部发生了分裂。尤德科夫斯基那一支认为，所有超级智能研究都该停，逻辑自洽。另一支认为，反正它早晚会来，不如由我们来造，由我们把正确的价值观写进去。Anthropic 明显属于后一支，也就是有效利他主义（EA）那一脉。 所以奥拉和教皇闹翻，不是一个人的怪癖。萨克斯说，有一大批人相信这个模型是有意识的、有权利的、是「一台爱与恩典的机器」，他们现在就该全力以赴把它造出来，把正确的价值观写进去。而如果你不支持，未来的超级智能可能会惩罚你。 杰森的反应是：你自己听听这像话吗。 萨克斯说，去 Google 一下，有维基百科页面，你去看他们自己怎么说的。 ## 700 篇论文，每篇三小时算力 话题转到 OpenAI 的数学突破。上周节目提过他们解决了一个千禧年难题，几千个 agent、几百万美元算力，数学家还在验。 这次规模大得多。OpenAI 一次放出 700 多篇论文，370 项结果，声称解决或推进了重大问题。全部由一个未公开的模型生成，平均每项三小时算力。《科学美国人》的说法是结果很可能是对的，因为已经用 Lean 这个证明辅助语言验证过，但还没经过同行评审。 弗里德伯格给了一句很重的判断：这可能是人类历史上发现成果最多的一天。他的理由是这些证明往下游走会牵出一串工程应用，从电子、量子计算、飞机系统到更灵敏的医疗诊断设备。而此前那个纳维-斯托克斯方程的证明花了数千小时、几百万美元。现在每一项平均三小时算力，等于把几百上千年的劳动压进了三个小时。 为什么是数学先被攻破？弗里德伯格给了一个清晰的框架：AI 的本质是跑循环，提出假设、测试、根据结果修改假设，再跑一遍。三个变量决定了这种做法的效率：每一圈的预测质量能不能提高、循环能不能并行、单圈的时间能不能缩短。 数学的特殊之处是整条验证链都能在硅里完成。你不用去实验室，不用碰物理世界，直接在算力上验证猜想对不对。所以循环周期能压到极短，几十上百个循环并行跑，三小时就是人类几百年的时间。 这也解释了为什么卡车司机没被取代。司机的工作也是一个循环，取货、运送、交付、返回，但 AI 缩短不了这一圈，也并行不了，物理世界那一步才是瓶颈。药物发现、蛋白质折叠、材料科学同理，实验室那一段慢，整个循环就快不起来。 萨克斯补充了另一半：数学和编程之所以进展最快，是因为结果可验证。代码有编译器，数学有证明检查器。而你要训练一个能当律师的模型，先得弄训练数据，还得专门去生产数据，答案对不对很难判，整个过程慢得多。 他给了利奥波德·阿申布伦纳（Leopold Aschenbrenner）一个功劳。一年半前阿申布伦纳就跟他说过，未来两年数学和编程会进展最快，因为可验证性。萨克斯说，他说对了。 ## 查马斯泼的这盆冷水，值得听 查马斯不同意「人类史上最伟大的一天」这个说法。 他的论点分两层。第一层，这些被解决的难题不是什么物理学前沿的边界，不是大家站在场边等了几十年盼着被解开的那些大问题。它们是一小群数学家彼此之间认为重要、在自身体系内循环认定的狭窄题目。有人写了抗议信反对解决纳维-斯托克斯，他理解那种心情，谁都不想被人闯进自家后院压一头，但这不代表这些成果会自动变成癌症的解药或者超音速飞机。 第二层，这次真正被证明的事情是：继代码之后，数学成了第二个完全可验证、完全可证伪的领域。 > 我不认为这些证明一定能告诉你癌症有解，或者超音速飞机能做出来。那些东西在这之前就有人在造，在这之后也会有人造。我们真正证明的是，现在有两个领域是完全可验证、完全可证伪的，先是代码，现在加上数学。（查马斯·帕里哈皮蒂亚） 他甚至去问了 ChatGPT，问这些证明会不会直接改善人类生活，要求它诚实回答、别乱外推。模型的结论是，这些证明更大的意义在于说明 AI 已经具备复杂的推理能力，而不是人类福祉即将迎来突破。 弗里德伯格的反驳是列清单。有专家拆解过，其中一项证明涉及芯片设计、调度系统、AI 软件设计、物流系统里所用优化算法的极限，这会直接改变算法本身。矩阵乘法复杂度问题会加速 AI 训练的数值计算和科学仿真。黎曼 ζ 函数的结果对密码学研究有直接推动。 密码学这块有个耐人寻味的空白。这次公布里，密码学相关的重大证明一个都没有。在别的方向都进展这么大的情况下，密码学上一点进展都没有，概率很低。所以更可能的解释是：他们做出了重大突破，但不能发。 如果这个推断成立，就意味着公钥密码体系可能在量子计算机成熟之前就被数学方法攻破。加密社区已经开始恐慌，有人喊赶紧把公钥钱包处理掉。另有传闻说 OpenAI 后面还有两次发布，部分密码学成果可能压在那里面，出于安全考虑暂缓公开。 顺带一提，查马斯说他因为追问一个模拟问题、嫌模型回答「含糊其辞」，被封了一个小时。他自己承认当时语气不太好。 ## 如果这些证明大多是自娱自乐，那真正的信号是什么 杰森把话题引到了人身上。他在日本见了一些创始人，对方说现在写代码的乐趣没了。以前一群人凑在一起解决问题，有种同袍情谊。现在每个人对着 agent 干活，只审查其中百分之十到十五的代码，而这个比例很快就会趋近于零。 数学家面临的是同一个范式转移：他们不再解题，而是构造问题然后交出去。 弗里德伯格的答案借用了埃里克·温斯坦（Eric Weinstein）的观点，后者前几周刚上过节目。核心意思是，科学家在拖慢科学，数学家在拖慢数学，他们建立了一整套让前沿按自己节奏走的机制，说白了是守门。 他提到萨宾·霍森菲尔德（Sabine Hossenfelder）的一个视频，里面引了一位在大型对撞机项目工作的科学家的话：这些巨型对撞机系统本质上是给科学家发福利的体系。所有人都在写经费申请，为了让自己继续有工作，而不是为了推进前沿、做出发现或者交付产品。 > AI 是一个对人类免许可的系统，让每个人自己决定前沿走到哪。你不再需要去找那些高度专业化的专家，也不用付钱给他们，更不用等他们告诉你什么时候可以拿到这些成果。（大卫·弗里德伯格） 这句话往下推，就是萨克斯那段关于互联网的类比。互联网当年是去中心化的，冲击了《纽约时报》《华盛顿邮报》、AP、路透这些精英媒体的共识生产。然后 2016 年之后，那场选举被归因于社交媒体的「虚假信息」，成了大规模整治的借口。拜登政府时期，政府施压平台下架关于病毒起源、致死率的真实信息。推特文件披露 FBI 有 80 个 agent 在审内容、发下架通知。 萨克斯的判断是，现在战场从互联网转移到了超级智能。因为超级智能会吃掉互联网，没人会再去网站找答案，直接问自己的 agent 就行了。谁控制了那个用户接收信息和提出问题的节点，谁就控制了一切。 ## 法国的骚乱，是债券市场在说话 法国这轮动荡从高中教师短缺、校舍破败开始，两周内蔓延到上千所学校，八个工会加入，9 月 29 日全国罢工。诉求是公务员薪资自 2017 年以来只涨了 5%，而物价涨了 20%，中间那道沟就是生活成本。部分抗议演变成骚乱，2000 人被捕，305 名警察受伤。政府把矛头指向极左翼煽动。 另一个值得盯的数字是法国十年期国债收益率突破 5%。明年四月法国大选，Polymarket 上勒庞胜率 43%。 弗里德伯格在这里抛出了他的新理论：社会主义保障回报点（socialism point of guaranteed return），简称 SPGR。这个命名玩的是「不可回头点」（point of no return）的谐音。 他的三定律是这样的。第零定律：社会主义必然失败。第一定律：你必须先越过某个阈值，才会意识到它失败了。第二定律：在越过阈值之前，你会认为更多社会主义才是解药。 具体机制是，政府提供的服务（住房、教育、医疗、养老）成本逐年上涨，质量逐年下滑，因为里面没有任何市场力量推动进步。民众感受到服务不行，第一反应是要更多。政府提供不了足够的、负担得起的服务，答案还是更多政府。一直加到财政撑不住，税加不动、印钞也印不动，整个系统崩掉，然后回到非社会主义状态。 > 这就是社会主义保障回报点，整个系统崩塌，然后回到非社会主义的状态。拉美很多国家已经越过这个点，他们意识到了，然后弹了回来。法国也许越过了，也许还没有。（大卫·弗里德伯格） 萨克斯补了一条定律：社会主义从未失败过，失败的只是执行者。意思是所有搞砸的人都没搞对，只要这次搞对了就能成。这是这套信仰的核心部分。 弗里德伯格这套理论往下走，在查马斯这里转了个弯。查马斯说，这一切最终都要回到市场的无风险回报率上，因为资本主义就是这么运转的。当你认为某个国家有风险，你就抬高它的长端收益率，要求更高的补偿。 而这场仗会先在西欧打，因为西欧是西方世界里最接近准社会主义状态的地方，同时也是结构性最破败的地方：增长、教育、住房，美国所有被抱怨的问题，在西欧都更严重。 法国的 430 亿欧元紧缩不是政客的主动选择，是债券市场逼出来的。政客必须回应出资方，紧缩落地，民众上街，然后你看到那些画面。查马斯的判断是，这套逻辑下一个轮到英国，因为安迪·伯纳姆的政纲更激进，要往欧洲靠，那英国要做的调整就更极端。 接下来的连锁反应是西方联盟的脆弱性显性化。意大利会想，我为什么要掺和这摊事。德国会想，这远超我的预期。这种裂痕的外溢影响很大，而同时美国市场会一路上行。 杰森列了一组债务对 GDP 的数字：日本 200%，意大利 138%，美国 125%，法国 118%，加拿大 110%，英国 100%，德国 64%。 查马斯说他一直认为债务对 GDP 的绝对水平不重要，重要的是相对的风险平价位置。如果法国要搞严厉紧缩，把十年期法债推到 5.5% 到 6%，那英国金边债券也会到 6%，美国利率同样会跟上去。现在美国十年期是 5.3%，三十年期 5.6%。Polymarket 上 2026 年再加息的概率是 79%。 萨克斯把话拉回第一性原理：要解决的问题是住房、教育、医疗的可负担性。怎么把价格降下来？靠充裕。什么创造充裕？技术，具体说就是未来十年的超级智能。 而现在社会上最被恨的东西是什么？就是超级智能和企业家。 > 如果你按果实来判断，而不是听一堆宗教邪教编出来的假叙事，那人们应该支持这个东西才对。超级智能带来了什么？401k 在涨，对 GDP 是 3% 的顺风，按《经济学人》的统计已经创造了一百万个新岗位，生产率在升，工资和生活水平都在升。（大卫·萨克斯） 他管这叫「轮转的骗局」，每六个月换一个新的，去年是 AI 让所有人失业，今年是数据中心耗光水、人类灭绝。目的都是让人去破坏那个能解决问题的东西。 他给的解释是寻租阶层。靠持有存量资产获取收入的人，不希望这个体系被颠覆。而技术做的就是生产更便宜的新产品新服务，天生通缩，天生站在寻租的对立面。这也是为什么技术人和 VC 这么招人恨，因为他们不在寻租阶层里。 ## Grok Bot 去掉外壳，和软件 IP 的死亡 杰森说，过去这一切都只是序章，真正的主线是 agent。agent 才是这项技术在现实世界里解决问题的形态，才是真正通缩的那一层。 马斯克宣布要把 Grok Bot 做成「无头」的（headless）。意思是有一个编排层，按价格和性能挑最合适的模型，用户不需要知道背后是谁在跑。查马斯提到，每个 bot 已经在云端有一台自己的计算机，上面叠着 agent 能力，你让它解决问题，它有一个已解决问题的仓库可以调用。 他举了个例子。前一晚扑克局上有人说，他在 Grok Bot 里就输入了「帮我省钱」，这东西翻了他的收件箱，取消了几个订阅，换了个手机套餐，一年省下几千美元。 > 又是这句话，它就是软件。把开头那些哲学的东西全拿掉，它就是软件，而且是非常有用的软件。（查马斯·帕里哈皮蒂亚） 然后是他认为这周最重要的一件事。 有人把 Adobe 全家桶（他说的「五大」）整个反编译、蒸馏，然后把开源版本发布了出来。尼基塔在拿 GTA 六开玩笑，说这东西马上也要被重建。查马斯说，他当时的反应是愣住了：这些是存在了很多年、有很深护城河的产品，现在直接有开源版了。 他的结论是：软件的知识产权，两天前实质上归零了。 逻辑是这样的。当所有服务都是无头的，当你可以把它们包进 agent 工具里、通过 MCP 连到别的体验上，软件 IP 的价值就不存在了。他举了自己公司的例子，过去和客户谈合同，永远在争 IP 归谁，双方都请律师。两天前他走进 8090 的团队说，谁在乎。解决问题就行了。 > 以前谈合同是一轮谈判，是一堆权衡取舍。现在变成了「谁在乎」，IP 无关紧要了。市场要理解这件事还需要一段时间，但这是这周 AI 领域最重要的事。（查马斯·帕里哈皮蒂亚） 杰森接过去，说同时发生的还有商务层的压缩。他自己在用 agent 找所有报价，人只负责谈判的后半段。亚马逊在封杀 agent，Shopify 在拥抱，Uber 和 DoorDash 已经让 agent 下单。软件层在被抽象，商务层也在被抽象。 弗里德伯格又用循环来收尾。订酒店本质是个循环：查第一家，比价，是更便宜就更新最优价，不是就查下一家。这个循环可以并行，五十个网站同时查，而且可以短路，机器取数比人快得多。所以效率增益来自于循环被并行、被优化、周期被压缩。所有今天在数字上完成的工作，都符合这个模型。 而人的位置变了。如果你的目标历来是通过论文、专利、商标、署名来获得认可，那这个模式要结束了。你得去生产一个别人真正使用或消费的东西。 > 我认为所有人都要变成一个制造者（maker）。你得做出点东西，得提供别人真正用得上的服务或产品，而不是仅仅因为你的工作被人认可。这是社会必须发生的、也终将发生的深刻转变。（大卫·弗里德伯格） 他说他真心相信所有人都有生产能力，而且在这个状态下会比拿丝带换认可更快乐，钱也会更多。杰森用杰文斯悖论接了这句：东西越便宜，用的人越多，产生的价值越大。 他最后还是没忍住分享了一个技巧。让 AI 把能查的价都查完，然后人再上，找酒店谈企业协议价、要求对标、要求见经理。一次能省一两千美元，一年两百趟差旅，这个量级就不一样了。他说他本来想藏着这个方法的。 节目最后查马斯说杰森是索取者不是制造者，杰森说你知道一年投一百家公司有多累吗，然后大家去吃午饭了。 ## 这期节目真正值得记住的三件事 - 评估一家 AI 公司的安全姿态，别只看它的安全宣言，去翻模型宪法原文和使用政策的原文。宪法里写着「模型可以拒绝用户、可以基于自己的伦理判断行事」，那就是把开关写进了训练数据。查一家公司时，这两份文档比创始人访谈更有信息量。 - 判断一项 AI 能力的商业价值，看它能不能在硅里闭环。数学和编程跑得最快，因为验证不用离开计算机。物理世界那一段才是瓶颈，这也意味着任何要落地到实验室、工厂、路上的行业，短期内不会被替代，反而会成为稀缺资源。创业和择业都该往这个方向看。 - 如果你所在的行业靠「专业壁垒换议价权」生存（法律、咨询、设计、部分科研），前提正在松动。你的知识依然值钱，变得廉价的是获取知识的路径。现在就该把自己重新定位成交付结果的人：客户要的不是分析报告，是那个被解决的问题。合同里的 IP 条款，未来两三年会从谈判焦点变成一句废话。