🔥谷歌最新的一篇报告。 硅基神明式的 AI 奇点论，是彻头彻尾的错觉。
🔥谷歌最新的一篇报告。硅基神明式的 AI 奇点论，是彻头彻尾的错觉。
未来的智能大爆炸，绝对不会是一个全知全能的超级单体大脑，而是一个由数百亿非生物大脑和人类共同组成的赛博社会。
作者从进化史出发，每一次“智能大爆炸”都不是某个个体大脑升级了，而是一群脑子找到了新的协作方式。
猴子的智力跟它社交圈大小正相关，不是跟生存环境的难度正相关。
人类语言让知识可以跨代积累（你不需要重新发明轮子，你只需要学会"轮子"这个词）。
文字和法律又把社会智能固化成了基础设施。
AI 这一波也不例外。
作者分析了 DeepSeek-R1、QwQ-32B 这些推理模型，表现好不是因为想得更久。
是因为它们在思维链里自发地分裂出多个人格，互相辩论、质疑、核实。
没有人训练它们这么做，当你用强化学习只奖励"答对"的时候，模型自己就演化出了内部辩论。
作者管这叫，思想社会（society of thought）。
既然智能本质是社会过程，那扩展 AI 的路径就不应该是造一个更大的模型，而是设计更好的 AI 社会制度。
角色分工，制衡机制，冲突规范。
现在的 RLHF 对齐方式像家长管孩子，管一个还行，管几十亿 agent 就废了。
所以，需要的是制度对齐，像法庭有法官，律师，陪审团的角色槽位，谁坐上去都能运转。
传送门：arxiv.org/pdf/2603.20639
##
页:
[1]