开发者 Niko1221 开源 Strata 推理引擎
热点事件持续更新
开发者 Niko1221 开源 Strata 推理引擎
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开发者 Niko1221 开源推出 Strata 推理引擎，支持在 12GB 及以上显存的消费级显卡上运行 1250 亿参数的 Qwen3.8-Flash-Next 模型。性能测试显示，在 RTX 5070（12GB 显存）环境下，Q2_0 量化版的生成速度可达每秒 94 词元。 该引擎通过将 MoE 模型整体载入内存（RAM）、仅把高频专家模型载入显存（VRAM），配合轻量模型投机解码来降低显存占用。运行该模型需满足最低 12GB 显存显卡、32GB 内存、80GB 以上存储空间以及 Windows 10/11 或 Linux 系统。
AI 根据报道生成 · 1 小时前更新
最新进展10月6日 15:45
开源引擎 Strata 发布：12GB 显存显卡可运行 125B 参数 Qwen3.8 模型报道时间线
沿着报道，了解事件的不同侧面。
10月6日
- IT之家精选开源引擎 Strata 发布：12GB 显存显卡可运行 125B 参数 Qwen3.8 模型
开发者 Niko1221 开源推出 Strata 引擎，支持在 12GB 及以上显存的消费级显卡上运行 125B 参数的 Qwen3.8-Flash-Next 模型。该引擎通过将 MoE 模型整体载入 RAM 并仅把高频专家模型载入 VRAM，配合轻量模型投机解码来降低显存占用。性能测试显示，在 RTX 5070（12GB 显存）环境下，Q2_0 量化版的生成速度可达 94 词元/秒。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。