Ai2 / Allen Institute for AI·2026-07-02 16:00· 2026-07-02AI 评分42

FlexMoRE 基于 FlexOlmo 实现模块化大模型轻量化

Modular LLMs at scale: how FlexOlmo is helping to pool national expertise without pooling sensitive data

AI 导读

OdenseNLP 团队基于 Ai2 的 FlexOlmo 架构推出 FlexMoRE，通过引入低秩适配器将专家模块参数缩减至原模型的三分之一以下。该方案在保持推理与知识任务性能的同时显著降低内存需求，使丹麦基金会模型（DFM）等机构能在不共享敏感数据的前提下，于消费级硬件上运行模块化多语言模型。