岩芯矩阵联合港科大CMU等开源EdgeRock-4B
热点事件持续更新
岩芯矩阵联合港科大CMU等开源EdgeRock-4B
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
岩山科技旗下岩芯矩阵联合港科大、CMU等高校开源了 EdgeRock-4B 模型。 该模型引入记忆岩锚(RMA)机制,在 256K 上下文下将 KV Cache 占用减少 99.1% 至 72MiB,单卡同时运行 512 路长推理时的输出吞吐达到 12124 tokens/s,推理能力基本保持不变。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 14:45
港科大、CMU 与岩山科技开源新模型 EdgeRock-4B:KV Cache 减少 99%,单卡吞吐飙 6 倍报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- 量子位精选港科大、CMU 与岩山科技开源新模型 EdgeRock-4B:KV Cache 减少 99%,单卡吞吐飙 6 倍
岩山科技旗下岩芯矩阵联合港科大、CMU 等高校开源了 EdgeRock-4B 模型。该模型引入记忆岩锚(RMA)机制,在 256K 上下文下将 KV Cache 占用固定在 72MiB,相比源模型减少 99.1%,单卡同时运行 512 路长推理时的输出吞吐达到 12124 tokens/s,同时推理能力基本保持不变。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。