跳到正文
Hugging Face Blog·· 1 小时前精选AI 评分77

Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

Run fast, private agents on-device with LFM2.5-24B-A2B

AI 导读

Liquid AI 推出了 LFM2.5-24B-A2B,这是一款拥有 240 亿参数、每 token 仅激活 20 亿参数的端侧推理模型,专为快速、私密的智能体任务打造。该模型采用 MoE 架构,上下文窗口扩展至 131K,在多项工具调用和指令遵循基准测试中表现优异,并在苹果 M5 Max 及英伟达 B300 等硬件上展现出极高的推理速度。

推荐理由

原文公布了该推理模型的架构细节与多项基准测试表现,想了解端侧智能体方案的开发者可参考其性能数据。

来源:Hugging Face Blog · huggingface.co