AI HOT 精选· aihot-apiZH00:00 · 06·18
Hugging Face 扫了 2 万多张模型卡,98% 只用 LoRA,但其他微调方法可能被低估了
Hugging Face 在 Hub 上扫了 20,834 张模型卡,其中 20,509 张只用了 LoRA,占比 98.4%;外部站点的 10,000 个检查点里也有 95% 是 LoRA;GitHub 上搜 `from peft import` 的代码片段,71.3% 都在调 LoRA。LoRA 确实是绝对主流,但 Hugging Face 认为这...
#Fine-tuning#Reasoning#Hugging Face
一句话点评
Hugging Face 扫了自家 Hub 上两万多张模型卡,98.4% 只用 LoRA,外部检查点也差不多 95%。LoRA 确实是绝对主流,但论文里说别的方法更好,往往只是没给 LoRA 调好学习率。PEFT 库现在统一了 40 多种方法,正在用数学推理任务做基准测试,帮大家别再盲选。
HKR 分解
hook ✓knowledge ✓resonance —