DeepSeek开源内部推理框架DeepInfer并同步开源编解码组件

10月20日，DeepSeek开源内部推理框架DeepInfer，称希望分享内部部署经验，帮助开发者与企业优化大规模推理的吞吐与延迟，支持私有化及公有云部署，降低算力成本与能源消耗。

信源原题：DeepSeek又放大招！降低算力成本，实现大模型普惠

阅读来源原文 ↗