PrismML 发布 Ternary Bonsai 2 系列模型,iPhone 18 Pro Max 上最高每秒 120 个词元
AI 公司 PrismML 推出基于阿里 Qwen 3.5 基座的 Ternary Bonsai 2 系列模型,包含 2B、4B 和 9B 三种规模,采用仅用 -1、0、+1 编码参数的三元权重表示法。
AI 公司 PrismML 推出基于阿里 Qwen 3.5 基座的 Ternary Bonsai 2 系列模型,包含 2B、4B 和 9B 三种规模,采用仅用 -1、0、+1 编码参数的三元权重表示法。
Artificial Analysis 发布了针对 AI 模型的评测分析内容。该报告基于独立测试数据,展示了相关模型的性能表现与对比结果。
推荐理由:第三方机构对模型性能进行独立实测,提供了可参考的量化数据与对比视角。
Meta 发布了名为 Muse Spark Open 的开源权重 AI 模型,宣称是美国最强大的此类模型,专为在 Mac 上运行而设计。该模型拥有 816 billion 参数和 1 million token 上下文窗口,原生支持多模态,适用于复杂编码任务和智能体工作流。尽管旨在本地运行,但需要至少 1 terabyte RAM,最佳配置为搭载 M5 Ultra 芯片的 Mac Studio。
NVIDIA 发布 Nemotron 3.5 Super VL、Bolt 74B-A9B 24GB 和 Bolt E4B 4GB 三款开源模型,覆盖从企业服务器到边缘设备的智能体部署需求。
推荐理由:原文给出了从数据中心到桌面的全栈开源模型矩阵及具体性能指标,读者可据此评估其在不同算力层级下的智能体部署可行性。
英伟达推出开放多模态模型 Nemotron 3.5 Super VL,采用 MoE 架构,总参数 1200 亿,激活参数 120 亿。该模型整合推理、工具调用及文本图像视频理解能力,官方称在单 GPU 执行智能体任务时吞吐量最高可达同规模其他开放模型的 5 倍。
Liquid AI 发布开源权重模型 LFM2.5-24B-A2B,这是一款拥有 24B 总参数但仅 2B 激活参数的推理模型,旨在支持设备端快速、私有的智能体运行。
推荐理由:原文展示了2B激活参数在端侧推理的速度优势及与更大模型的基准对比,为构建本地智能体提供了具体性能参考。
面壁智能推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是该系列首个 MoE 模型。该模型基于 LES 推理加速技术,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。
Liquid AI 发布并开源 d1-3B 和 d1-omni-600M 两款决策模型,已在 Hugging Face 上线供下载、微调及部署。d1-3B 拥有 31.2 亿参数,基于 LFM2.5-VL-3B 训练,在 NVIDIA RTX 4090 上单次文本判断耗时 8 毫秒,处理图像耗时 102 毫秒;d1-omni-600M 拥有 5.87 亿参数,支持文本、图像及语音组合输入。
Liquid AI 发布两款开源决策模型 d1-3B 和 d1-omni-600M,专为边缘设备设计。d1-3B 在 Decision Index 0.2.1 中得分 48.57,优于同尺寸及更大参数量的模型,支持文本和图像输入;d1-omni-600M 作为实验性版本,支持文本与图像或音频的多模态处理。
推荐理由:原文展示了小参数量决策模型在边缘设备上的低延迟表现及多模态支持,为资源受限场景下的结构化推理提供了可复用的开源方案。
Google DeepMind 发布 EmbeddingGemma 2,这是一个基于 Gemma 4 架构的开源轻量级多模态嵌入模型,拥有 740M 参数并采用 Apache 2.0 许可证。