全部 · 2026-07-07

这条更新解决了一个很实际的痛点：你用 SkyPilot 在不同云上调度 GPU 跑模型，数据如果存在某朵云的对象存储里，往外读要交一笔出站流量费。现在 Hugging Face 的存储成了 SkyPilot 的原生后端，数据直接挂载，跨云读取免出站费。对经常在 AWS、GCP、Lambda Labs 之间切换算力的团队，这是个直接省钱的改动。 目前信息来自一篇 Hugging Face 官方博客和一条摘要，正文没披露具体实现细节，比如挂载后的 IO 延迟、并发吞吐量，也没给出实际节省成本的对比案例。这点先别太激动——免出站费是 Hugging Face 那边的政策，SkyPilot 这边只是打通了接口，实际体验还要看网络状况和任务类型。 还缺一个关键信息：这种挂载方式在训练场景下是否稳定，读写小文件时会不会拖慢速度。如果后续有实测数据，才能判断它是不是真能替代本地缓存方案。

过去12个月，头部AI公司总共承诺了97.5亿美元，用来组建“前线部署工程”团队，也就是把自家工程师直接塞进客户公司里，手把手教他们用AI。这笔钱相当于埃森哲一年人力成本的21%，规模不小。 目前分三种玩法：微软和亚马逊直接从现有员工里调人，不额外融资，图的是快和可控；OpenAI和Anthropic则拉上TPG、黑石等私募成立独立公司，OpenAI为此还收购了一家150人的咨询公司，用外部资金把盘子做大，同时避免稀释母公司股权；Google Cloud选了第三条路，掏7.5亿美元建合作伙伴基金，自己不直接养人，靠系统集成商去铺。 作者的核心判断是，这种驻场部署正在变成一种护城河。驻场工程师教客户用熟了一家模型厂的工具链和套路，客户再换别家，技术上不难，但组织内部阻力很大。而且工程师能接触到API调用看不到的真实工作流、数据结构和失败场景，这些信息会反哺模型调优。不过正文没披露这97.5亿美元具体能养多少工程师，也没给出客户留存或切换成本的实际数据，护城河到底多深还不好说。

OpenRouter 拿五款模型在 MMMU-Pro Vision 上实测，结论很直接：给推理模型压画质省钱，往往既亏效果又亏钱。gpt-5.5 用低清图准确率从 79% 掉到 65.2%，但每题成本反而从 4.5 美分涨到 5.1 美分——模型看不清图，推理 token 多烧了 1.6 倍，输出端多花的钱直接吞掉了输入端省下的那点。gemini-3.5-flash 也是类似趋势，低清图成本 2.96 美分，自动档反而只要 2.80 美分。 非推理模型倒是另一回事。gpt-5.4-mini 和 gpt-4.1 用低清图确实省钱，但准确率分别掉了 9.7 和 17.4 个百分点，相当于用精度换成本，值不值看场景。图表类问题对清晰度最敏感，gemini-3.1-pro 从低清切到自动档，准确率从 78.6% 跳到 91.7%。 正文没披露测试的题目分布和错误类型细项，也没说低清图具体在哪些题型上翻车最严重。另外，推理强度（reasoning effort）这个 knob 怎么调能兼顾成本和效果，文章只提了方向，没给具体参数建议。

这篇文章把AI成本拆成内部效率和客户交付两类，这个框架比“总token花了多少”有用得多。内部效率型成本，大头往往不是模型单价，而是没人用的seat授权、agent无限重试的自循环，以及没有归属的测试环境。招行的例子很说明问题：日均330亿token，但AI编程只占算力的5%，真正烧钱的地方可能在客服和运营。客户交付型成本更危险，盲目换便宜模型可能导致客户重复提问、转人工率上升，省下的token钱被人工升级和工单成本吃掉。Duolingo的财报直接显示，Video Call这类AI功能拉低了毛利率约100个基点。 文章引用的数字需要打折。豆包日均180万亿token调用量，分析师质疑其中有多少是免费测试额度。招行的数据来自媒体转述管理层发言，不是监管公告。这些数字能说明规模，但不能直接当降本依据。 真正缺的是企业内部的四张表：按团队拆、按技术浪费拆、按业务结果拆、按生产与测试拆。没有这些归因，AI降本大概率变成拍脑袋砍预算。最后才谈模型议价和替换，这个顺序是对的。

这篇论文放出了一个叫 Nemotron-Labs-Diffusion 的模型，最大卖点是把自回归、扩散和“自我推测解码”三种模式做进了同一个架构里。你可以把它理解成：平时用自回归逐字写，需要快的时候让扩散一次性生成整段草稿，再由自回归校验，相当于自己给自己当校对。训练时两个目标一起上，扩散负责往前多看几步做规划，自回归提供从左到右的语言习惯，两者互补。 数字上，8B 版本一次前向传播能解码的 token 数是 Qwen3-8B 的 6 倍，在 GB200 GPU 上用 SGLang 跑 SPEED-Bench 吞吐量高出 4 倍，精度还差不多。论文还做了一个“光速分析”，说在理想采样器下扩散比自我推测模式还能再多出 76.5% 的 token 产出，说明天花板还没到。模型覆盖 3B、8B、14B 三个尺寸，有基础版、指令版和视觉语言版。 不过这篇是纯论文，正文没披露任何开源权重计划或发布时间线。所有性能数据都来自论文自报，没有第三方复现验证。如果是真的，这个吞吐提升挺省钱，但在看到实际跑分和开放模型之前，我会先打个折。