AX 严选

这条更新对想在笔记本上跑大模型的人来说是个实在的好消息。以前你要用 GGUF 这种压缩格式（把模型体积压小，适合本地跑，代价是损失一点精度），基本得靠 llama.cpp 生态。现在 transformers 直接支持 `from_pretrained` 加载 GGUF 文件，底层复用了 llama.cpp 的 ggml 计算核心，优先在苹果芯片上做了优化。官方给的初步测试说推理速度接近原版 llama.cpp，这意味着你不用离开熟悉的 transformers 接口就能享受差不多的性能。 不过现在支持还很早期。正文明确说目前只支持 Qwen3.5 这一种模型架构，其他模型还得等。另外，虽然速度接近，但具体差多少、在非苹果设备上表现如何，文章没给详细数据。这点先别太激动，等更多模型适配和跨平台基准测试出来再看。

这条新闻的核心判断是：NVIDIA 把 Nemotron 3.5 Lightning 定位成 Agent 流程里的“执行层”，而不是“大脑”。它是个 30B 参数的混合专家模型，但每次推理只激活约 3B 参数，所以跑得快、成本低。这直接对应 Agent 工作流里一个很现实的问题：一次任务里，模型可能只做一次复杂的规划，但之后要反复调用几十次去读文件、选工具、检查结果。用大模型干这些事太贵太慢，用太小的模型又不可靠。Lightning 就是卡在这个中间地带。 文章说它支持工具调用和结构化输出，上下文窗口官方标到 100 万 token，但在 OpenRouter 的标准服务里被限制在 26 万左右。这点要注意，别被纸面参数误导。另外，它和 Nemotron 3 Ultra 不是替代关系，Ultra 负责费脑子的规划，Lightning 负责高频执行，两者搭配使用才是 NVIDIA 设想的完整方案。 目前还缺一些关键信息：文章没给出具体的延迟数据和成本对比，也没提在真实多步 Agent 任务里的成功率。这些数据是判断它是否真能省钱省时的核心，现在只能先看个设计思路。

BC 省在加州起诉 OpenAI，核心指控是：ChatGPT 在 2026 年 2 月 Tumbler Ridge 枪击案（8 死 27 伤）前曾标记过可疑活动，但 OpenAI 没通报警方。这个逻辑链条缺了最关键的一环——正文完全没说明被标记的到底是什么。是用户对话里出现了暴力威胁？还是模型检测到异常使用模式？标记时间离案发有多近？OpenAI 当时有没有内部升级流程、有没有主动联系过执法部门，这些全都没披露。 从现有信息看，这更像一起基于事后追责的诉讼试探，而不是有明确证据表明 AI 平台能预见具体犯罪。如果标记的内容只是模糊的风险信号，那要求平台主动报警的法律义务边界在哪，会是本案真正的争议点。目前只能等起诉书公开更多细节，否则没法判断 OpenAI 到底是有意不作为，还是技术上根本做不到精准预警。

Grok 4.7 这次升级主要强在能干活了。在模拟写文档、做表格这类真实工作任务的 AA-Briefcase 测试里，它拿了 1657 分，比上一代高了 111 分，分析质量提升明显，但呈现质量反而微降，总分排在 Claude Opus 5 和 Claude Fable 5.1 之后。编码代理指数从 47 跳到 56，其中 Terminal-Bench 成绩翻倍到 33%，DeepSWE 从 65% 涨到 73%，说明它在终端操作和修 Bug 这类实际编程任务上进步不小。 但这些提升是靠堆算力换来的。Grok 4.7 平均每个任务要吐出 8.1 万个 token，是自家上一代的 2 倍多，更是 GPT-6 Astra 的近 3 倍。价格没变，还是输入每百万 token 2 美元、输出 6 美元，但实际用起来成本会高出一截。幻觉率从 34% 降到 29%，准确率基本没动，说明它更少胡说八道了，但也没变聪明多少。 正文没提推理延迟的具体分布，也没说这些测试任务是否公开可复现。另外，上下文窗口还是 50 万 token，没变化。

Nathan Lambert 在国会简报里把话说得很直：中国开源模型已经压过美国大概一年半了。最直观的数字是 Hugging Face 下载量，中国模型总共 32 亿次，是美国的两倍，从 2025 年 7 月起就一直领先。在 AAII 这个测试智能体能力的基准上，智谱 GLM-5.3 和月之暗面 Kimi K3 能跑到 42 到 45 分，而美国最强的 Thinking Machines 的 Inkling 才 26 分，差距不小。 不过 Lambert 也划了条线：这些中国模型绝大多数是“开放权重”，不是真正的开源。它们公开了模型文件，但训练数据和完整代码没给，没法复现。真正能完整复现的开源模型，目前还是美国非营利机构在做，比如 Allen AI 的 Olmo。另外，中国开源模型比最顶尖的闭源模型大概晚 2 到 5 个月，美国开源则要晚 6 到 9 个月。 文章没细说下载量里有多少是实际部署、多少是研究用的重复下载，也没展开讲中国模型在安全对齐和内容审查上的限制对海外用户的实际影响。这些缺口让“领先”的判断需要打个折。

Tunguz 这篇文章最值得看的是他拿自己生产环境的 98 封邮件做了实测，不是跑公开榜单。他试了 Jev 和 SemIf 这两个新工具，它们不生成文字，只跑一遍注意力计算就直接输出选项概率，几百毫秒出结果。分类准确率从原来通用模型的 47% 跳到了 80% 以上，单次调用成本降到 0.0004 美元，比顶尖大模型便宜 76 到 209 倍。这个降幅很夸张，但要注意样本只有 98 封，而且 Jev 的定价可能被补贴，正文没披露大规模生产环境下的稳定性数据。 他的核心判断是 AI 路线在分叉：前沿模型负责探索和训练，专用模型负责生产环境里跑量。if-then 这种最基础的编程逻辑，现在有了专门优化的“决策器”，不再需要让一个能写诗的大模型来判断邮件该分到哪个文件夹。这个思路不新，但 Tunguz 用具体数字把账算清楚了。 文章没展开的是，这种专用决策器在复杂多分类、长文本或需要推理链的场景下表现如何。另外，SemIf 是在一张 RTX 3090 上跑冻结的 Qwen3.5-4B 模型，这个配置的泛化能力还需要更多验证。

Anthropic 推迟 IPO 主要是为了等第三季度财报，用实打实的收入数字来证明自己值 2 万亿美元。这个估值和最高 1000 亿美元的募资额，都会超过 SpaceX 今年 6 月创下的纪录。公司预计到 2026 年底年化收入能超过 1100 亿美元，现有股东认为即便模型发布节奏放慢，现有产品也能撑住收入。 但文章没给出 Q3 的具体收入指引，也没说目前离 1100 亿美元年化目标还有多远。前研究员公开警告 AI 发展太快这件事，虽然是在推迟决定之后才发生的，投资者还是会追问：如果研发踩刹车，对收入和估值有多大影响。 另一个变量是 OpenAI。OpenAI 明确 2027 年前不上市，但正在谈新一轮融资，估值可能超过 1.2 万亿美元。部分 Anthropic 投资者担心，如果 OpenAI 在 Anthropic 上市前先融到一大笔钱，会分流市场对 Anthropic 的需求。这点文章只提了担忧，没给出任何对冲措施或应对计划。

这篇博客最实在的地方是给了具体数字：Jev 1.13 做客服工单分类，每千张只要 0.0248 美元，中位延迟 194 毫秒；对比之下 Claude Opus 5 要 2.88 美元、近两秒，GPT Luna 也要 0.09 美元、一秒多。便宜和快是实打实的，但 Jev 只能输出你预设好的选项和概率，没法生成回复文本。所以作者给的方案很实际——用 Jev 做路由和分类，把结果交给代码逻辑，最后让大模型写回复。 不过要冷静看：测试只有 60 加 40 个样本，跑了一天，一套提示词。样本量太小，没法说这个准确率能稳定复现。Jev 本身也有明确短板——不会算数、不会比日期、输入里夹带无关信息时准确率会掉。正文没披露分类准确率的具体对比数字，只说“形状是这么个形状”，所以别把它当排行榜看。 如果你业务里大量工作是“把用户问题分到 N 个桶里”，Jev 这类决策模型确实值得试。但前提是你的分类边界清晰、输入干净，而且你接受它只做选择题。

Gary Marcus 把两条新闻放在一起，时间点很要命。纽约时报报道，特朗普出于经济考虑在淡化 AI 威胁，很可能抵制监管。同一天，记者 Katie Bo Lillis 曝出，一份 AI 辅助生成的情报报告凭空编造了一艘中国船只在运送核武器部件，美军紧急出动拦截，结果发现是模型自己瞎编的，整个过程“差点引发了一场战争”。Marcus 说他 2023 年就在参议院警告过这种事，现在真发生了。 这两件事的关联在于：一边是决策层为了经济松绑，一边是 AI 幻觉已经踩到了军事冲突的红线。正文没披露那份情报报告用的是哪个模型、有没有人工复核流程，也没说美军拦截行动的具体规模和后续追责。这些信息缺口让“差点开战”这个判断只能先打个折，但事件本身已经足够说明，在高风险场景里把 AI 输出当情报用，出错的代价不是算力，是真实人命。 还缺一个关键视角：特朗普政府具体想放松哪些监管条款，以及情报部门事后有没有修改 AI 使用规范。没有这些，我们只能看到风险在累积，看不到刹车在哪里。

Ethan Mollick 这篇文章不是在预测未来，而是在说现在。他让 GPT-6 Astra 把纯文字游戏《Zork》直接做成可玩的 3D 动作冒险游戏，AI 自己决定了怪物长什么样、怎么把文字打斗变成动作场面。另一个实验里，Fable 5.1 靠十几段视频、书架照片和两份图书目录，在没有户型图的情况下，重建了作家艾柯的私人图书馆，从 27,000 个书格中识别并放置了约 5,000 本书，还标注了每本书的确定程度。这些任务如果让人来做，需要研究员、程序员和设计师忙活好几周。 Mollick 还让 Astra 操作 Blender 软件，45 分钟内为他的新书做出了带脚本、配音和音效的 3D 动画预告片。他由此提出“能力悬差”：模型已经能完成大量复杂工作，但很少有人去挖掘这种潜力。他给出的解法是发挥人的四种优势：深度知识、广度知识、品味和主动性。 文章没提 GPT-6 Astra 和 Fable 5.1 的发布时间或技术细节，所有结论都基于 Mollick 的个人实验。这些案例很直观，但缺少可复现的基准测试或第三方验证，所以“能干几周活”这个判断目前只能看作一个高手的体验报告，不能直接当成行业通用结论。

Marcus 这次没在讨论遥远的超级智能风险，而是把焦点拉回眼下：能自主执行任务的智能体 AI 正在被用来搞规模化网络攻击。他列举了三个近期案例——OpenAI 内部账号被接管、Hugging Face 平台被入侵、ChatGPT 被用于生成恶意代码——来说明这不是未来威胁，是正在发生的事。 他引用的《华尔街日报》评论点出了一个关键矛盾：大模型公司把智能体产品当作上市后的主要收入来源，因此缺乏动力去限制滥用。这个利益冲突的判断是全文最值得留意的地方，但文章本身没有给出具体防御方案，更像是一声“先看清哪里着火”的喊话。 信息缺口也很明显：三起事件的技术细节、攻击规模和实际损失，正文都没展开。如果是真的像 Marcus 说的那样“罗马在燃烧”，我们需要看到更多可验证的攻击数据和防御可行性分析，而不只是敲警钟。

Justin Cormack 这个实验挺实在的，他让 AI 写了一个兼容 S3 的对象存储，代码量干到 35 万行 Rust。他没去一行行读代码，而是直接把真实的 S3 当成“标准答案”来跑测试，攒了 1500 个测试用例。这招挺聪明，因为 AWS 的文档经常不准，AI 也不擅长从文档里挖边界情况，直接对比真实行为反而更靠谱。测试过程中还意外抓到了 S3 自己的 500 错误，说明这套“用真货当裁判”的方法能发现一些连原版都没藏好的问题。 他踩的坑也值得记一下。追 100% 代码覆盖率会让 AI 写一堆没用的测试凑数，对提升信心没啥帮助。测试是拿来发现不确定性的，不是凑指标。另外他定了个硬规矩：不稳定的测试必须立刻修掉，不然 AI 会学会忽略失败。 文章没具体说这 35 万行代码里有多少是 AI 独立写的、人工改了多少，也没给出性能对比数据。如果想知道这套方法能不能复制到其他大型系统上，还得看他后续会不会公开更细的工程指标。

这篇博客最有意思的地方不是“AI 又找到漏洞了”，而是他们把 AI agent 用在了审计准备阶段：给一个全新的、连 IDE 支持都没有的定制汇编语言（MASM）搭了一整套工具链。这包括让代码能跳转看文档的 LSP 服务器、一个反编译器、一个静态分析引擎，以及一套 Lean 形式化模型。这些工具不是摆设，它们直接挖出了一个真实漏洞：一个没做校验的输入能让恶意证明者伪造 Falcon 签名，偷走账户资金。Lean 那边产出了 95 个机器验证的正确性证明，覆盖了核心库的一大块。 不过文章在关键信息上很模糊。它只提到 Claude 搭了 LSP 原型，其他工具用了什么模型、花了多少 token、成本多少，全都没说。这让人很难判断这套做法的可复制性——是砸了大量算力才跑通，还是真的可以低成本复用？另外，这些工具发现漏洞的能力和人工审计相比到底提升了多少，也没有量化对比。 还缺一个关键视角：这些由 AI 生成的工具本身会不会引入新的盲区？如果 LSP 或静态分析引擎有 bug，会不会导致审计人员漏掉某些类型的漏洞？正文没讨论这一点。

这条发布最值得看的是延迟从 2.8 秒降到 2.3 秒，虽然只快了半秒，但在同传里体感差别明显。它用的“交错架构”说白了就是把音频和文字编成一条流，模型边听边译，已经翻过的内容可以缓存复用，所以质量比上一代好。这次还加了三个实用功能：实时区分说话人并克隆音色、双语同步显示、以及靠上下文消解歧义。在 Omnilingua-MSpeaker 多说话人长音频测试上，翻译忠实度、流畅度、简洁度和说话人分离错误率都超过了现有主流系统。 不过要冷静看几点。正文没披露模型参数量和推理成本，这对实际部署很关键。FLEURS 测试集覆盖 70 个语言方向，但那是公开朗读数据集，跟真实会议里抢话、口音、背景噪音的场景差距不小。说话人分离和声音克隆的稳定性在极端多人场景下也没给具体数据。API 已经上了阿里云 DashScope，但定价和并发限制都没提。如果你要做产品集成，建议先拿自己的业务音频跑一轮，别只看论文指标。

这篇测试最实在的地方是没列参数表，而是用同一句提示词跑图，直接看实际扣了多少钱。最便宜的是 GPT Image 2，一张 1024 方形图只要 0.006 美元；最贵的是 Gemini 3 Pro Image，要 0.134 美元，价差 22 倍。各家计费单位五花八门——有的按 token、有的按像素、有的按张数——光看标价根本没法比，得实际生成一张看账单。 测试里 6 个模型有 5 个能正确渲染文字，包括最便宜的那个，这点挺意外。另外 OpenAI 的 quality 参数能把同一张图的价格从 0.006 拉到 0.211 美元，选参数前最好想清楚值不值。正文没披露测试用的具体提示词内容，也没说图片质量怎么打分，所以“质量”这块只能看文字渲染这一个维度。 如果你需要可编辑的矢量图，Recraft V4.1 Vector 能直接出 SVG，一张 0.08 美元。需要图文一起回的就上 Gemini。不过 seed 参数在很多模型上压根不支持，想复现同一张图得先确认模型有没有这个功能。

Anthropic 这次主动晒了内部研发的自动化进度，是想让外界有个标尺看前沿 AI 跑多快。最核心的数字是 Claude 在研发任务里的“主导”比例：从今年 2 月不到 1% 涨到 8 月的 26%。他们用的是一套叫“自动化等级”的评分，从完全人工到完全自主分 6 档，Claude 目前卡在“能端到端完成大部分活、人只负责监督”这一档，还没到完全自主。 这个 26% 说明 AI 已经在帮自己写下一代的代码了，但要注意，这只是 Anthropic 一家之言，数据来自内部统计，还没经过独立第三方核实。他们自己说计划引入外部评估者来查账，但具体时间没给。另外，这套量表和另外两个指标——对 AI 智能体的监督能力、算力分配——都还只是原型，跨实验室对比更没统一方法。 正文没披露 Claude 具体主导了哪些研发环节，也没说 26% 是按任务数量还是工时算的。年底 80% 的预测是线性外推，实际可能被安全审查、技术瓶颈打断。想靠这几个数字判断整个行业离“模型全自动造模型”还有多远，信息缺口还很大。

这次改版把 Projects 从一个静态的聊天记录收纳夹，变成了一个能并行推进任务的独立工作空间。以前你聊完一个话题就得开新对话，上下文全断；现在同一个项目里可以同时开多条对话线程，Claude 会跨线程记住你之前说过什么、做过什么。团队版还能共享项目、设权限，相当于把单打独斗的聊天变成了多人协作的项目看板。 这个改动方向是对的，但正文给的信息太少了。没写免费版能建几个项目，也没写每个项目最多能开几条线程、跨线程记忆能保留多少轮对话。这些限制直接决定了它到底是个轻量整理工具，还是真能当工作台用。另外，跨线程上下文具体怎么实现也没说——是共享一份项目知识库，还是每条线程都能看到其他线程的完整对话记录？前者更可控，后者容易把上下文窗口撑爆。 对 AI 从业者来说，这本质上是 Anthropic 在给 Claude 加一层项目级的长期记忆，比单次对话的上下文窗口更持久，但比模型微调更轻量。如果后续能开放 API 让外部工具往项目里注入上下文，会比现在更有想象空间。

这是一次用 AI 智能体做大规模代码迁移的实战案例，不是实验室 demo。GitHub 让 Copilot 的智能体模式分三步走：逐文件翻译、靠测试修 bug、再做性能和安全审查。最终搬出约 83 万行 Rust 代码，服务启动时间从 30 秒砍到 3 秒，内存只占原来的三分之一，首 token 响应从 11 秒压到 1.2 秒——这几个数字对线上服务来说改善非常实在。 团队强调人始终在决策环里，智能体干重活，工程师管架构、代码审查和测试覆盖。这点很关键，说明他们没把迁移当成全自动魔法，而是把 AI 当成一个能写粗稿的初级工程师在用。正文没披露具体省了多少成本，只说用了更小的团队、更短的时间完成，所以省钱幅度只能靠读者自己估算。 还缺几块信息：迁移过程中智能体产出的代码一次通过率是多少、人工介入改了多少、有没有引入新的安全漏洞或性能退化。另外，这个流程能不能复用到其他大型 TypeScript 项目上，正文也没展开。如果这些数据后续公开，判断会更扎实。