SPEX 与 ProxySPEX：大规模识别 LLM 交互的算法

Berkeley AI Research 提出 SPEX 和 ProxySPEX 算法，利用稀疏性和低阶性假设高效识别大语言模型中的关键交互。ProxySPEX 引入层级结构观察，在保持性能的同时将消融次数减少约 10 倍。这些框架支持特征、数据及模型组件归因，解决了传统方法在规模扩展下的计算不可行问题。