The Decoder· Matthias Bastian·· 2 小时前同新闻AI 评分77
DeepSeek 开源支撑 V4.1-Flash 的推理引擎 DeepInfer
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
AI 导读
DeepSeek 以 Apache 2.0 协议开源了内部推理框架 DeepInfer，该框架基于 vLLM 构建并带有优化的计算内核、多芯片分布式处理和更快的文本生成技术，可支撑 V4.1-Flash 模型快速生成回答。同时，DeepSeek 还发布了 deepseek-recipe 以复制官方 API 的 Token 处理方式，旨在帮助社区降低计算成本和能源消耗。
同一新闻，精选展示《DeepSeek 宣布将内部推理框架 DeepInfer 全面开源》
来源：The Decoder · the-decoder.com