FEATUREDAI HOT 精选· aihot-apiZH15:45 · 06·01
JetBrains 发布 Mellum2:一个 12B 参数的混合专家模型,每次推理只激活 2.5B 参数
JetBrains 在 Hugging Face 上开源了 Mellum2,一个从零开始训练的混合专家模型。它总共有 120 亿参数,但每次计算只激活其中的 25 亿,这让它跑起来比同尺寸模型快了一倍多,适合对延迟和吞吐量要求高的场景。模型专门处理文本和代码,不做多模态,主要用在路由分发、外挂资料库检索、摘要和子智能体这些需要频繁调用模型但不必上大模型...
#JetBrains#Hugging Face#Mellum2#Research release
精选理由
精选 · 重要度 76 · 吸引力 + 知识量 + 共鸣
一句话点评
JetBrains 开源了一个 120 亿参数的混合专家模型,每次只激活 25 亿参数,推理速度比同级模型快一倍多,适合跑在需要快速响应的代码和文本任务上。
锐评
Mellum2 的定位很清晰:不做全能选手,专攻高频、低延迟的文本和代码任务,比如路由分发、外挂资料库检索和子智能体。120 亿总参数但每次只叫醒 25 亿干活,这个设计让它的推理速度比同尺寸模型快了一倍多,对在乎响应时间和吞吐量的场景是个实打实的优势。JetBrains 把它放在 Apache 2.0 协议下开源,商用门槛很低。
不过,这篇发布博客没给出具体的跑分对比、训练数据构成,也没提在自家 IDE 里实际落地的延迟数据。技术报告链接指向 arXiv,但正文没披露关键细节。所以“快一倍多”这个结论目前只能先打个折看,等看到它在真实业务里的表现再下判断。另外,模型只处理文本和代码,不做多模态,这意味着它不会去抢通用大模型的风头,而是老老实实当个高效的执行层。
HKR 分解
hook ✓knowledge ✓resonance ✓