AX 严选 · 2026-08-11

Ryan Greenblatt 和 Dwarkesh Patel 的这场辩论，核心是“递归自我改进”到底靠不靠谱。Greenblatt 的逻辑链很清晰：AI 研发本身是个高度可验证的任务，一旦 AI 在这件事上达到人类顶级专家水平，就能自己迭代出更强的 AI，形成闭环。他给了一个很具体的量化判断：这个闭环一旦启动，一年内能跑出正常需要四到五年的 AI 进步。这个速度有多夸张？他拿 GPT-3 到 Mythos 5 的跨越来类比，相当于把好几年的技术代差压缩进一年。 但这里有几个关键前提需要打折。首先，这个判断高度依赖“AI 研发完全可验证”的假设，但现实中很多前沿突破并非简单的指标爬山，而是需要范式转换，正文里没有给出 AI 如何自主完成这种跳跃的证据。其次，Dwarkesh 也质疑了人类专家数据是否会成为瓶颈，毕竟现在的进步很大程度上还建立在人类已有的知识上。Greenblatt 的 2031 年自动化研发中位数预测，听起来很激进，但文章没披露这个预测背后的具体模型或依据，更像是一个基于趋势的直觉判断。 最后，他们讨论了对齐问题，但没给出解决方案。如果真到了那个阶段，谁来定义这些超级智能的忠诚对象？文章只提出了担忧，比如现有的“宪法式”规范可能不足以让 AI 成为个人的守护者。整体来看，Greenblatt 描绘了一个逻辑上可能但证据链不完整的未来，最大的信息缺口在于，我们完全不知道从“擅长做 AI 研发”到“能独立做出颠覆性突破”之间的工程鸿沟到底有多宽。