港科大、CMU 与岩山科技开源新模型 EdgeRock-4B：KV Cache 减少 99%，单卡吞吐飙 6 倍

岩山科技旗下岩芯矩阵联合港科大、CMU 等高校开源了 EdgeRock-4B 模型。该模型引入记忆岩锚（RMA）机制，在 256K 上下文下将 KV Cache 占用固定在 72MiB，相比源模型减少 99.1%，单卡同时运行 512 路长推理时的输出吞吐达到 12124 tokens/s，同时推理能力基本保持不变。