英特尔推出面向至强处理器的推理微服务

1. 23:13
   IT之家

   英特尔面向四至六代至强处理器推出推理微服务：自动检测硬件并配置 vLLM 参数

   英特尔宣布推出 Intel Inference Microservices 服务，这是一套面向大语言模型推理的容器化微服务方案，旨在让企业在已有至强处理器上获得经过调优的模型推理能力。该服务首批基于 vLLM 引擎，支持 BF16 精度，可在 Docker 或 Kubernetes 环境中运行，硬件要求为第四代、第五代或第六代英特尔至强处理器。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。