LLM 蒸馏

LLM 蒸馏

LLM 蒸馏是把大模型能力普惠化的关键技术：通过蒸馏，小模型可以在多数任务上逼近教师大模型，同时推理成本降低一个数量级。它让端侧 LLM、AI PC、边缘计算 设备、低成本企业 AI 服务成为可能，是大模型从「云端集中」走向「端云协同」的关键技术，也是 Reasoning 模型走向普惠的核心路径。