量子位· 鹭羽·· 18 小时前精选AI 评分86
MemT 1.0 开源发布:首个实现近 300B 参数规模的记忆原生模型系列
RSI三块关键拼图,MemT 1.0从模型层补上「记忆」
AI 导读
研究团队开源发布 MemT 1.0 系列记忆原生模型,包含 36B 的 Nano 和 288B 的 Flash 两个型号,通过在 Transformer 模块中增加并行记忆计算通路,首次实现了近 300B 参数规模的记忆原生工程验证。该模型将经验编码为内部动态状态,通过训练学习写入、更新与读取,在 SWE-bench 等任务测试中展现出与显式文本经验接近的表现。
推荐理由
该模型完成了近 300B 参数规模的记忆原生工程验证,为大模型长历史交互和经验复用提供了新的架构参考。
来源:量子位 · qbitai.com