AX 严选 · 2026-08-10

a16z 这篇博客给了一个很直观的进度条：一年前最好的模型在 OSWorld-Verified 这个“让 AI 操作真实电脑界面”的测试里只能完成大约 30% 的任务，现在 Claude Fable 5 做到了 85%，已经比人类 72% 的基线高出一截。这个数字说明，单看模型能力，让它点按钮、填表单、在老旧系统里搬运数据，已经不是最大的卡点了。 但文章自己也打了预防针。现在的智能体只能在高度标准化的后台流程里跑得稳，比如更新记录、处理工单。一旦任务偏离操作手册，或者遇到没法做缓存的场景，成本就会高到不划算。正文没给出具体的单次任务成本数字，只说“数学上不是处处都成立”，这点先别太激动。 真正的战场已经从“能不能操作电脑”转移到了“能不能在真实公司里可靠地干活”。这背后缺的不是更强的模型，而是权限怎么给、流程知识怎么喂、出错后怎么自己修、以及怎么把成本压到比人力外包更低。文章没展开讲这些工程细节，但点出了方向：谁先搞定这些脏活累活，谁才能把 85% 的测试分数变成能收钱的生意。

这条消息的核心是：Meta 把能跑智能体工作流的多模态模型压到了单张消费级显卡上，SGLang 推理框架第一时间做了深度适配。在 RTX 5090 上，用 NVFP4 量化加 DFlash 投机解码，单用户解码速度能到每秒 236 个 token，总吞吐冲到每秒 1452 个 token。这个数字说明在本地跑复杂智能体任务，延迟和并发都到了一个可用的水平。 模型结构上，它用滑动窗口注意力混搭全序列注意力，上下文窗口拉到 128k 以上，这是为了在长链条智能体任务里不丢上下文。不过文章没给出任何基准测试分数，只说“有竞争力的表现”，这点先别太激动。另外，Apple Silicon 那边虽然支持 MLX 后端，但投机解码还没跟上，意味着 Mac 上的速度会打折扣。 还缺什么：没有披露智能体任务的具体评测集和对比对象，也没说量化后模型能力掉多少。这些缺口让“本地跑智能体”的实际效果还悬着。

这条更新最实在的地方是路由逻辑变了：不再靠人写死规则，而是看过去 7 天社区里大家处理类似任务时实际用了哪个模型，然后画一条帕累托最优曲线来选。默认档位下，MMLU Pro 得分 85.2%，成本从 393 美元降到 141 美元，省了六成多。最高档位下，SWE-Atlas QnA 得分从 2.4% 跳到 60.7%，但成本也飙到 1325 美元，说明要追前沿性能还是得烧钱。 不过这篇公告缺了几个关键信息。第一，它没讲清楚怎么判断“类似任务”——是看 prompt 的语义、长度还是别的特征？任务分类错了，路由就全歪了。第二，路由曲线多久刷新一次也没提，只说基于过去 7 天数据，如果新模型刚上线还没被社区大量用过，它可能根本不会被选到。第三，它加了一个“粘性”机制避免对话中途换模型，但没说明粘性持续多久、什么条件下会打破。 整体看，这个思路挺聪明——用真金白银的用量数据代替人工评测来选模型，比跑 benchmark 更贴近实际使用。但“市场智慧”也有盲区：社区偏好可能滞后，或者被价格和营销影响，不一定等于最优选择。建议先用默认档位试试，别一上来就拉满。