FinHotFINHOT / 资讯
DeepSeek全面开源推理框架DeepInfer，兼容英伟达与华为昇腾
DeepSeek宣布全面开源内部推理框架DeepInfer，兼容英伟达与华为昇腾平台，集成高性能算子与优化推理引擎，支持分布式推理、推测解码、结构化输出等。基于该框架，DeepSeek已实现DeepSeek V4.1 Flash的高吞吐、低延迟大规模推理服务。
信源原题：DeepSeek全面开源推理框架：兼容英伟达、华为昇腾芯片，单集群日吞吐155万亿Token，每卡每小时收入38美元
摘要供资讯阅读参考，请核对原文。反馈与更正 →