谷歌研究团队发布大模型“睡眠框架”，解决持续学习中的灾难性遗忘难题

谷歌研究团队发布名为“睡眠框架”的持续学习研究成果，旨在解决大语言模型知识固化和灾难性遗忘难题。该框架借鉴人类睡眠中的记忆巩固机制，将模型运行划分为处理输入的清醒阶段和进行记忆整合与自我改进的睡眠阶段。实验表明，该方法在多任务中优于多种基线方法，可在未见语言的多阶段持续学习中保持接近零的性能下降。