全部 · 2026-08-30

Sander Dieleman 这篇回顾讲了一个技术路线的轮回：2022 年有人试着把词嵌入加高斯噪声，用连续扩散做语言模型，但 2023 年后几乎被离散扩散全面取代。现在连续方法重新受关注，核心原因很实际——图像和音频扩散那边积累了大量采样加速、模型蒸馏的成熟方案，离散扩散在这块一直比较吃力，直接复用能省不少事。 文章没给出任何新模型的名字或具体性能数字，更像一份主观的技术路线梳理。作者自己也说这是个人视角，欢迎不同意见。所以这条信息更适合当背景补充，而不是拿来判断哪条技术路线会赢。 还缺什么：连续方法在语言任务上的实际效果对比、推理成本、以及有没有团队已经跑出有竞争力的模型。如果只是能复用工具但效果打不过离散方案，那这轮回潮可能还是热得快凉得也快。

今天最值得关注的是 OpenAI 对 Cursor 的断供通知。起因是 SpaceX 收购了 Cursor，OpenAI 立刻翻出合同条款，宣布 11 月 12 日起停止提供模型访问，连未来的 Astra 模型也不给用。OpenAI 的声明很直白：信不过 Musk 旗下公司会守规矩。Musk 则在 X 上回骂 Altman 是骗子。这对 Cursor 用户来说不是看戏，是实打实的工具链风险，得开始琢磨替代方案了。 另外几个信息也值得留意。OpenAI 的收入结构图显示，API 销售只占一成，约 35 亿美元，大头是 ChatGPT 订阅。这解释了为什么他们敢对 Cursor 下狠手——API 客户粘性本就不高。AWS Bedrock 因为上亿美元的欺诈坏账，现在申请模型权限必须财务和 L10 业务负责人双审批，没 L10 签字直接打回，薅羊毛的门槛被焊死了。Sol 模型的质量下降已经持续两到三周，多个用户确认文字处理水平明显回调，这不是个别体感。 工具方面，WorkBuddy 体验好的秘密被点破：内置了大量精心编排的引导提示词，普通用户觉得好用，但懂行的人知道这背后是 prompt engineering 的功劳。Codex 新增了跨 session 的任务编排功能，能指定某个任务在另一个完成后自动启动，这个能力 Claude Code 目前还不支持。还有群友用四张 RTX 5060 Ti 组了本地推理集群，总花费不到两千元，跑 Qwen 模型时 PCIe 带宽不是瓶颈，这对想低成本玩本地部署的人是个参考。

Uber 这篇技术长文抛出的数字挺猛：全公司 70% 的代码 PR 由 AI Agent 处理，半年调用量涨了近 10 倍，但总 AI 账单没涨，单次会话成本还降了 52%。如果属实，说明他们在模型选型、缓存策略或 prompt 压缩上做了不少工程优化，让用量暴涨的同时把单价压下来了。 但正文没披露几个关键信息：这 70% 是指最终合并进主干的 PR，还是只要 Agent 参与过生成就算？前者说明代码质量过了人工审查关，后者可能只是生成量大但实际采纳率不高。也没说用了哪些模型、Agent 怎么接入代码审查流程——是自动修 bug、写测试，还是只补文档注释，差别很大。 另外，调用量涨 10 倍但总花费持平，可能意味着他们从大模型切到了更便宜的小模型，或者大量用了缓存命中。没有模型名称和延迟数据，很难判断代码质量有没有跟着成本一起打折。

这篇文章抓到了一个很关键的范式转移：多模态模型的价值正从“看懂图”转向“会自己去看”。8月 Meta、Z.ai 和 DeepSeek 不约而同展示的案例，都是模型先观察输入，调用工具生成网页或幻灯片，再回头审视渲染结果并修正。这跟 2023 年 RAG 从静态检索变成模型主动搜索的转折很像，但方向反了——这次是模型先产出，再自己看一遍来验证，形成从模型到世界再回到模型的闭环。 评测和训练方法也跟着变了。Meta 的 WildArtifactBench 不再用标准答案打分，而是让裁判对模型做出的完整产物进行两两比较，用 Elo 分来排名，AI 裁判和人类裁判各做了约 2000 次对比来相互印证。训练上，GLM 和 Meta 都把“生成-审视-修改”的完整交互轨迹当成训练数据，让模型在推理时能自主重复这套动作。 对开发者来说，选型重点得从静态看图准确率，转向模型能不能在真实环境里跑通观察-生成-检查的完整闭环。不过正文没给出这套新评测方式下各模型的具体 Elo 分数和成本数据，也没说明在复杂、长步骤任务里，模型自我修正的成功率和卡住的情况，这些缺口让“会自己去看”的实际可靠性还得打个问号。

这篇论文最值得看的地方，是把“没存进去”和“存了没取出来”这两种失败干净地分开了。作者用贴着原文往下接的方式测存储，前沿模型能拿到95–98%的编码率，说明货架基本是满的。但一换成闭卷、换着说法正问反问，失败率立刻跳到26–34%。这个缺口的大小有尺子松紧的人为因素，但缺口的形状是硬的：冷门事实和热门事实存进去的差距只有5个点，取出来的差距却拉到20个点以上，说明瓶颈卡在提取通路，不是语料覆盖。 另一个反直觉的发现是思考的作用。面对毫无推理链路的单跳事实，开启思考能救回40–65%已编码但没取出的答案，而对根本没存进去的事实只能救回5–15%。这说明思考在这里不是逻辑推演，更像在权重里翻找记忆。对做系统的人来说，这直接给出了成本账本：思考是药，但只对存进去的内容有效，盲目全量开启就是浪费算力。 论文的局限也得说清楚。测试只用了2150条维基百科事实，全是公开的单跳知识，结论能不能迁移到多跳推理或私有数据上，正文没给出验证。另外，模型能不能自己判断“这次能不能取出来”，也就是元认知能力，论文也没答案，而这恰恰是线上精准触发思考或检索的关键。