跳到正文
Hugging Face Blog·· 1 天前AI 评分37

Hugging Face 的 VocabX:如何通过专业化 SLM 词汇将推理成本降低 77%

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

AI 导读

Hugging Face 提出 VocabX 方法,通过为小型语言模型构建领域特定词汇,在实际应用中将推理成本降低 77%。以基于 Qwen3-4B 的葡萄牙语作文评分器为例,该方法将词汇表从约 151,669 条目缩减至约 65,000 条。VocabX 论文即将发布,相关结果仍在审核中。

来源:Hugging Face Blog · huggingface.co