英特尔面向四至六代至强处理器推出推理微服务：自动检测硬件并配置 vLLM 参数

英特尔宣布推出 Intel Inference Microservices 服务，这是一套面向大语言模型推理的容器化微服务方案，旨在让企业在已有至强处理器上获得经过调优的模型推理能力。该服务首批基于 vLLM 引擎，支持 BF16 精度，可在 Docker 或 Kubernetes 环境中运行，硬件要求为第四代、第五代或第六代英特尔至强处理器。