AX 严选 · 2026-09-18

Gary Marcus 把两条新闻放在一起，时间点很要命。纽约时报报道，特朗普出于经济考虑在淡化 AI 威胁，很可能抵制监管。同一天，记者 Katie Bo Lillis 曝出，一份 AI 辅助生成的情报报告凭空编造了一艘中国船只在运送核武器部件，美军紧急出动拦截，结果发现是模型自己瞎编的，整个过程“差点引发了一场战争”。Marcus 说他 2023 年就在参议院警告过这种事，现在真发生了。 这两件事的关联在于：一边是决策层为了经济松绑，一边是 AI 幻觉已经踩到了军事冲突的红线。正文没披露那份情报报告用的是哪个模型、有没有人工复核流程，也没说美军拦截行动的具体规模和后续追责。这些信息缺口让“差点开战”这个判断只能先打个折，但事件本身已经足够说明，在高风险场景里把 AI 输出当情报用，出错的代价不是算力，是真实人命。 还缺一个关键视角：特朗普政府具体想放松哪些监管条款，以及情报部门事后有没有修改 AI 使用规范。没有这些，我们只能看到风险在累积，看不到刹车在哪里。

Ethan Mollick 这篇文章不是在预测未来，而是在说现在。他让 GPT-6 Astra 把纯文字游戏《Zork》直接做成可玩的 3D 动作冒险游戏，AI 自己决定了怪物长什么样、怎么把文字打斗变成动作场面。另一个实验里，Fable 5.1 靠十几段视频、书架照片和两份图书目录，在没有户型图的情况下，重建了作家艾柯的私人图书馆，从 27,000 个书格中识别并放置了约 5,000 本书，还标注了每本书的确定程度。这些任务如果让人来做，需要研究员、程序员和设计师忙活好几周。 Mollick 还让 Astra 操作 Blender 软件，45 分钟内为他的新书做出了带脚本、配音和音效的 3D 动画预告片。他由此提出“能力悬差”：模型已经能完成大量复杂工作，但很少有人去挖掘这种潜力。他给出的解法是发挥人的四种优势：深度知识、广度知识、品味和主动性。 文章没提 GPT-6 Astra 和 Fable 5.1 的发布时间或技术细节，所有结论都基于 Mollick 的个人实验。这些案例很直观，但缺少可复现的基准测试或第三方验证，所以“能干几周活”这个判断目前只能看作一个高手的体验报告，不能直接当成行业通用结论。

Marcus 这次没在讨论遥远的超级智能风险，而是把焦点拉回眼下：能自主执行任务的智能体 AI 正在被用来搞规模化网络攻击。他列举了三个近期案例——OpenAI 内部账号被接管、Hugging Face 平台被入侵、ChatGPT 被用于生成恶意代码——来说明这不是未来威胁，是正在发生的事。 他引用的《华尔街日报》评论点出了一个关键矛盾：大模型公司把智能体产品当作上市后的主要收入来源，因此缺乏动力去限制滥用。这个利益冲突的判断是全文最值得留意的地方，但文章本身没有给出具体防御方案，更像是一声“先看清哪里着火”的喊话。 信息缺口也很明显：三起事件的技术细节、攻击规模和实际损失，正文都没展开。如果是真的像 Marcus 说的那样“罗马在燃烧”，我们需要看到更多可验证的攻击数据和防御可行性分析，而不只是敲警钟。

Justin Cormack 这个实验挺实在的，他让 AI 写了一个兼容 S3 的对象存储，代码量干到 35 万行 Rust。他没去一行行读代码，而是直接把真实的 S3 当成“标准答案”来跑测试，攒了 1500 个测试用例。这招挺聪明，因为 AWS 的文档经常不准，AI 也不擅长从文档里挖边界情况，直接对比真实行为反而更靠谱。测试过程中还意外抓到了 S3 自己的 500 错误，说明这套“用真货当裁判”的方法能发现一些连原版都没藏好的问题。 他踩的坑也值得记一下。追 100% 代码覆盖率会让 AI 写一堆没用的测试凑数，对提升信心没啥帮助。测试是拿来发现不确定性的，不是凑指标。另外他定了个硬规矩：不稳定的测试必须立刻修掉，不然 AI 会学会忽略失败。 文章没具体说这 35 万行代码里有多少是 AI 独立写的、人工改了多少，也没给出性能对比数据。如果想知道这套方法能不能复制到其他大型系统上，还得看他后续会不会公开更细的工程指标。

这篇博客最有意思的地方不是“AI 又找到漏洞了”，而是他们把 AI agent 用在了审计准备阶段：给一个全新的、连 IDE 支持都没有的定制汇编语言（MASM）搭了一整套工具链。这包括让代码能跳转看文档的 LSP 服务器、一个反编译器、一个静态分析引擎，以及一套 Lean 形式化模型。这些工具不是摆设，它们直接挖出了一个真实漏洞：一个没做校验的输入能让恶意证明者伪造 Falcon 签名，偷走账户资金。Lean 那边产出了 95 个机器验证的正确性证明，覆盖了核心库的一大块。 不过文章在关键信息上很模糊。它只提到 Claude 搭了 LSP 原型，其他工具用了什么模型、花了多少 token、成本多少，全都没说。这让人很难判断这套做法的可复制性——是砸了大量算力才跑通，还是真的可以低成本复用？另外，这些工具发现漏洞的能力和人工审计相比到底提升了多少，也没有量化对比。 还缺一个关键视角：这些由 AI 生成的工具本身会不会引入新的盲区？如果 LSP 或静态分析引擎有 bug，会不会导致审计人员漏掉某些类型的漏洞？正文没讨论这一点。

这条发布最值得看的是延迟从 2.8 秒降到 2.3 秒，虽然只快了半秒，但在同传里体感差别明显。它用的“交错架构”说白了就是把音频和文字编成一条流，模型边听边译，已经翻过的内容可以缓存复用，所以质量比上一代好。这次还加了三个实用功能：实时区分说话人并克隆音色、双语同步显示、以及靠上下文消解歧义。在 Omnilingua-MSpeaker 多说话人长音频测试上，翻译忠实度、流畅度、简洁度和说话人分离错误率都超过了现有主流系统。 不过要冷静看几点。正文没披露模型参数量和推理成本，这对实际部署很关键。FLEURS 测试集覆盖 70 个语言方向，但那是公开朗读数据集，跟真实会议里抢话、口音、背景噪音的场景差距不小。说话人分离和声音克隆的稳定性在极端多人场景下也没给具体数据。API 已经上了阿里云 DashScope，但定价和并发限制都没提。如果你要做产品集成，建议先拿自己的业务音频跑一轮，别只看论文指标。

这篇测试最实在的地方是没列参数表，而是用同一句提示词跑图，直接看实际扣了多少钱。最便宜的是 GPT Image 2，一张 1024 方形图只要 0.006 美元；最贵的是 Gemini 3 Pro Image，要 0.134 美元，价差 22 倍。各家计费单位五花八门——有的按 token、有的按像素、有的按张数——光看标价根本没法比，得实际生成一张看账单。 测试里 6 个模型有 5 个能正确渲染文字，包括最便宜的那个，这点挺意外。另外 OpenAI 的 quality 参数能把同一张图的价格从 0.006 拉到 0.211 美元，选参数前最好想清楚值不值。正文没披露测试用的具体提示词内容，也没说图片质量怎么打分，所以“质量”这块只能看文字渲染这一个维度。 如果你需要可编辑的矢量图，Recraft V4.1 Vector 能直接出 SVG，一张 0.08 美元。需要图文一起回的就上 Gemini。不过 seed 参数在很多模型上压根不支持，想复现同一张图得先确认模型有没有这个功能。