FEATUREDHacker News 首页· rssEN00:20 · 09·02
Scott Aaronson:大语言模型不需要内置自指,智能是训练时顺带冒出来的
Scott Aaronson 写了篇个人随笔,核心观点很直接:像 GPT 5.6 Pro 和 Fable 这些模型,聊哥德尔定理、聊自己都聊得很溜,但整个技术栈里没人刻意往里面塞“自指”或“奇怪循环”的设计。这些能力纯粹是预训练时“什么都学”顺带出来的副产品。他认为《哥德尔、埃舍尔、巴赫》那套把自指当成智能秘密的旧观念,该跟地心说、燃素论一起埋了。文章...
#Reasoning#Scott Aaronson#Douglas Hofstadter#Roger Penrose
精选理由
精选 · 重要度 72 · 吸引力 + 知识量 + 共鸣
一句话点评
Scott Aaronson 认为,大模型能聊哥德尔、聊自己,纯粹是预训练“什么都学”顺带出来的副产品,不是有人刻意往技术栈里塞了“自指”设计。
锐评
Scott Aaronson 这篇个人随笔的核心判断很直接:GPT 5.6 Pro 和 Fable 这些模型聊自指、聊哥德尔定理比大多数人都溜,但整个技术栈里没人刻意设计“奇怪循环”。这些能力是预训练时海量学习自然涌现的副产品,就像学会了说话就自然能聊自己一样。他因此认为,《哥德尔、埃舍尔、巴赫》那套把自指当成智能秘密的旧观念,该和地心说、燃素论一起埋了。
文章没有提供任何基准测试或量化证据,完全是作者的个人反思。他承认意识问题依然神秘,自指或许在那方面还有用,但在“造出能聊天的智能”这件事上,自指不是前提条件。
缺的东西很明显:没有实验对比,没有模型内部表征分析,也没有讨论强化学习微调阶段是否放大了这种自指能力。如果是真的,那说明智能的关键更接近“预测即压缩”那条路,而不是自指结构。这点可以先打折看,毕竟只是一个人的事后总结。
HKR 分解
hook ✓knowledge ✓resonance ✓