AX 严选 · 2026-08-07

腾讯混元AI Infra团队把他们在生产环境里用的Attention、Router GEMM和MoE算子打包成HPC-Ops开源，直接合进了SGLang主分支。这件事的价值在于，这些优化不是实验室跑分，而是已经在混元线上推理里验证过，Hy3模型的TPOT最高降了48.8%。 具体看三个算子：Attention算子用动态调度解决了解码时不同请求上下文长度差异大导致GPU空等的问题，在H20上平均比FlashInfer和FlashAttention里表现最好的那个还快2.25倍。Router GEMM用BF16精度做路由计算，比FP32 cuBLAS快1.30到3.22倍，同时最大误差只有0.00177，远低于TF32 cuBLAS的0.06464，说明它算得快还不容易选错专家。MoE算子把专家计算的小矩阵乘法开销压下来，在H200上用Qwen3跑，比Triton快4.21倍。 不过要注意，这些数据主要来自H20和H200的Hopper架构GPU，正文没提在其他卡上的表现。端到端测试用的是Hy3-FP8和LongCat-Flash-Lite-FP8，不同模型和精度下的收益会有差异。另外，Router GEMM的精度对比只给了最大绝对误差，没给分布情况，实际路由质量的影响还需要更多验证。

Seedance 2.5 这次更新最实在的地方是角色参考数量从之前几个直接跳到 50 个，意味着你可以用一段提示词同时控制几十个角色的外观一致性，不用再分多次生成然后拼起来。单次能出 30 秒带音效和对白的片段，生成后还能继续剪辑延长，这对做故事板和短剧的人比较实用。 不过官方公告里完全没提生成速度——50 个角色参考对算力要求肯定不低，排队时间可能很长。也没说这功能是包含在现有订阅里还是额外收费，Runway 的定价一直不便宜。另外，角色多了之后彼此互动是否自然、会不会出现穿模或变形，这些都没给样片验证。 整体看，上限拉高是实打实的进步，但实际能用多顺、花多少钱，还得等用户上手之后才知道。

这次更新解决的是一个上线时留下的“宁可错杀”问题。Fable 5 刚发布时，Anthropic 担心模型在生物领域的强能力被滥用，几乎把所有生物相关提问都拦截并降级到能力更弱的 Opus 5 去回答。现在他们找了内外专家重新梳理规则，把无害的日常健康、教育类问题从拦截名单里仔细抠了出来，效果很直接：生物相关的降级减少了大约 85%。 不过别误会，这不是全面放开。病毒学、毒理学、分子设计这些“双重用途”领域依然被卡死，Fable 5 目前还是不能用于专业生物研究和药物开发。Anthropic 自己也在正文里承认，区分善意研究和恶意用途很难——比如研发降压药卡托普利时，科学家就是从蛇毒里分离有毒成分的。他们引用美国情报界 2026 年威胁评估，指出有国家行为体在维持进攻性生物武器计划，所以对前沿模型的能力释放很谨慎。 正文没披露这次重训分类器具体用了多少专家样本、误拦率下降后有没有新的漏网案例，也没说“可信访问通道”什么时候能落地。所以这次进步值得肯定，但离“让生物学家用上最前沿模型”还有不小距离。