Hugging Face Blog·· 4 天前精选
Dharma-AI 提出 VocabX：专用词表使推理成本降 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
事实摘要
Dharma-AI 在 Hugging Face 博客中预告即将发表的 VocabX 论文，提出按 token 成本而非出现频次重建领域专用词表，在基于 Qwen3-4B 的葡萄牙语作文评分器上将实测推理成本降低 77.0%，平均回复从 350 个 token 降至 101 个。
原文与核验
这条信号在站内保留事实摘要与战略研判。完整内容和上下文请以原文为准；融资、并购与技术效果以原始披露为准。
战略研判
基于公开信息为什么值得关注
VocabX 在保持基座模型与训练配方不变的前提下，通过按成本而非频次重建词表，把生产环境作文评分器的实测推理成本降低 77%，说明小模型在单一领域部署时词表是可独立调节的成本杠杆。
后续关注
论文尚未正式发表，77% 成本降幅与 bench 分数从 0.703 升至 0.810 需独立复现；在 RTX 5090 与 vLLM 之外硬件和更大批量下的收益是否保持。
来源：Hugging Face Blog · huggingface.co