Google Research·· 1 小时前精选AI 评分60
Google Research 提出 Sleep Framework：让 LLM 在持续学习中保留知识的新范式
The sleep framework: A new way for LLMs to retain knowledge in continual learning
AI 导读
Google Research 推出 Sleep Framework，一种受人类睡眠启发的持续学习范式，使 LLM 能在交互（清醒）与离线记忆整合（睡眠）间切换，从而将脆弱的短期上下文转化为稳定的长期参数。
AI 推荐理由
该框架通过模拟人类睡眠机制，将短期上下文知识蒸馏至长期参数中，为解决大语言模型在持续学习中的灾难性遗忘问题提供了新的技术路径。
来源：Google Research · research.google