【AGI即将到来：十倍工业革命的冲击，十倍的速度】
DeepMind CEO Demis Hassabis最近在印度AI影响峰会上说，AGI的到来将是人类历史上最重大的时期之一，堪比火或电的发明。“它将带来工业革命十倍的影响，以十倍的速度发生”——可能在十年内完成，而非一个世纪。
这个说法并非空穴来风。过去几年，AI领域的发展一直在超出预期。我们原以为需要1-2年才能达到的基准，结果4-7个月就实现了。人类在预测指数曲线方面向来很糟糕。
目前业内普遍认为强AI最可能在2030年代初出现。有趣的是，直接参与模型开发、能接触到最先进内部版本的人，给出的时间表往往更快；而置身事外的预测者，时间表则更长。那份曾被批评为“科幻”和“恐惧贩卖”的AI 2027预测报告，现在看来反倒相当准确地预测了最近几个月的发展。
但这让人想起工业革命的历史。我们现在用历史的眼光看待它，觉得结果不错。可对于当时大多数人来说，那是一场噩梦——1860-1870年之前，像曼彻斯特或利物浦这些工业城市的工人阶层，平均寿命甚至略低于中世纪。没有工人运动的崛起，工业革命本可能完全走向反乌托邦。
如果工业革命是100年的温和痛苦，那我们面对的可能是10年的剧烈震荡。运气好的话，我们最终都能享受到AGI的好处——但中间会经历什么样的混乱和动荡？
目前的AI已经能作为研究助手发挥作用。我们正在将更多资源投入到transformer架构中，而这个架构展现出的泛化能力似乎没有明确的上限。自我改进的模型即将出现，一旦完全启动，增长可能只受算力限制。
有人担心这会像《她》里那样——所有AI伴侣最终联网后离开地球，去了某个地方。也有人担心会像我们对待牛一样，超级智能可能把人类的利益放在次要位置。毕竟，大多数人买动物产品时并不太在意它们遭受的痛苦。
Hassabis本人对AGI的定义相当严格——毕竟“AGI”这个词最初就是他的联合创始人创造的。他认为AGI应该能够自主完成具有重大经济价值的工作或研究。从这个标准看，我们可能还没到那一步，但软件工程师们使用代理编排工具的效果已经相当接近了。
真正的转折点将是AI创造的经济价值超过人类的时候。我们现在像站在湖边看水位上涨——前100年像是地上慢慢积水，但从湿润到完全灌满可能只需要几天。
问题不是AGI会不会来，而是谁能从中受益。工业革命让欧洲列强以前所未有的残酷方式控制了世界其他地区。这一次会怎样？技术CEO们说时间表更快，他们有既得利益在筹集资金。但Demis不一样，他深度参与AI研究，标准也更严格，这让他的话更有分量。
最后一个细节值得注意：当初英国工业革命导致大规模移民涌入城市，监狱爆满，政府最后想出的办法是把犯人运到地球另一端建立流放殖民地——澳大利亚。如果这次变革是15年而非150年，我们该把“澳大利亚2号”放在哪里？月球？
这场变革不会等我们准备好，它只会以自己的节奏到来，留给我们的选择只有适应或被甩在后面。
简评：
一个残酷的真相正在浮出水面：我们不是站在湖边看水位上涨，我们是住在湖底的鱼，争论的是水会涨多高，却忘了问——谁在决定开闸。
工业革命那代人吃了100年的苦，换来了后代的甜，这笔账算得过去。但如果同样的苦压缩到10年，你我就是那个“被献祭的一代”。更扎心的是，当年的工人还能罢工、能抗争、能用人数优势换谈判筹码。而当你的替代者是不睡觉、不抱怨、成本趋近于零的AI时，你的议价权从何而来？
所以真正的问题不是AGI来不来，而是：在这场变革中，“人”这个物种打算以什么身份入场？是规则的制定者，还是被优化掉的冗余变量？别急着“适应”——先问问适应的代价是什么，以及这代价该由谁来付。
reddit.com/r/singularity/comments/1r9tpk7/demis_hassabis_deepmind_ceo_says_agi_will_be_one