跳到正文
IT之家·· 2 小时前AI 评分63

华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署

华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署,2.8 万亿级 MoE 模型能力再进阶

AI 导读

华为宣布昇腾基于 vLLM Ascend 与 SGLang 同步实现 0 Day 推理适配,支持昇腾 Atlas 800 A3、Atlas 900 A3 SuperPod 超节点及昇腾 950 超节点系列产品进行 Kimi K3.1 Pro 的推理部署。

来源:IT之家 · ithome.com