摩尔线程助力DeepSeek，在国产 GPU 上实现高性能推理

dingyan1314

2月4日消息，摩尔线程智能科技（北京）有限责任企业今日发文宣布，摩尔线程实现了对 DeepSeek 蒸馏模型推理服务部署。
通过 DeepSeek 提供的蒸馏模型，能够将大规模模型的能力迁移至更小、更高效的版本，在国产 GPU 上实现高性能推理。通过 DeepSeek 提供的蒸馏模型，能够将大规模模型的能力迁移至更小、更高效的版本，在国产 GPU 上实现高性能推理。
另外，用户也可以基于 MTT S80 和 MTT S4000 进行 DeepSeek-R1 蒸馏模型的推理部署，此前已有用户在 MTT S80 上手动完成实践。