跳到正文
IT之家·· 3 小时前AI 评分62

Underdog AI 发布 Saluki 27B 模型:基于 Qwen3.8-27B 的 2-bit 量化版

Underdog AI 发布 Saluki 27B 模型:2-bit 量化 Qwen3.8-27B,7.89GB 大小

AI 导读

Underdog AI 发布针对智能体设计的 Saluki 27B 模型,该模型是 Qwen3.8-27B 的 2-bit 量化调优版本,文件大小仅 7.89 GB 且仅保留文本输入输出能力。模型长于日常推理与工具使用,其工具选择和多工具并行调用表现优于全尺寸原版,但数学能力相对逊色。Saluki 采用标准 llama.cpp 格式,支持直接在 llama.cpp 及相关应用中加载。

来源:IT之家 · ithome.com