← 返回 AIRadar 首页

Hugging Face 提出小模型词表特化方案：定向剪裁词表使实际推理成本骤降 77%

Hugging Face 探索针对特定垂直业务场景特化与压缩小语言模型（SLM）词表，有效缩减模型 Embedding 与输出层开销，实测可削减最高达 77% 的推理成本。