世界银行:小型 AI 有望改变发展中国家
世界银行敦促发展中国家开发可在手机等端侧设备运行的小型 AI 模型,以克服网络连接限制并加速新兴经济体发展。首席知识官帕斯卡尔 · 多诺霍指出,此类技术能让部分国家在数十年内达成原本需数百年实现的经济发展目标。
世界银行敦促发展中国家开发可在手机等端侧设备运行的小型 AI 模型,以克服网络连接限制并加速新兴经济体发展。首席知识官帕斯卡尔 · 多诺霍指出,此类技术能让部分国家在数十年内达成原本需数百年实现的经济发展目标。
英伟达 CEO 黄仁勋在伦敦活动力荐微软 Surface Laptop Ultra,称其为耗时四年、数千名工程师投入的“倾注心血之作”。该笔记本基于 RTX Spark 平台,搭载 N1X 处理器与 RTX Blackwell 显卡,最高支持 128GB 统一内存。黄仁勋强调其核心优势在于本地运行 AI 智能体,可自主处理文件推理及图像渲染等任务,实现无需随身携带电脑的高效交互体验。
高通中国区董事长孟樸指出,终端侧 AI 正发挥重要作用,智能体的发展进一步加速了云端与边缘协同的趋势。AI 将主动调用应用和设备完成任务,推动计算体验从以应用为中心迈向以智能体为中心的新阶段。此前高通 CEO 安蒙透露,已有企业要求 2028 年推出支持 100B 参数模型本地运行的智能手机移动平台。
联想宣布将于 1024“程序员日”开启 AI 主机 P7 预约。该机型采用此芯科技 P1 SoC 与后摩智能 M50 dNPU 方案,具备 190TOPS 本地 AI 算力,支持 122B LLM 本地部署及 128K 上下文窗口。其机身重仅 300g,最大功耗 30W,运行噪音低于 35dB(A)。
美光正在推进面向物理 AI 的边缘推理内存(EIM)研发,旨在降低数据处理延迟并提高系统带宽。该芯片采用逻辑芯片垂直堆叠 LPDDR 架构,正集成至 LPDDR6 方案,预计 2028 年下半年量产。针对人形机器人需求,美光预测未来高性能机型需约 200GB DRAM 及 4TB 存储空间,并将向 HBM 架构演进。
NVIDIA 宣布 RTX Spark 笔记本电脑正式发售,该系列搭载 NVIDIA Blackwell RTX GPU 和 Grace CPU,提供最高 128GB 统一内存及 1 petaflop AI 算力,起售价为 $2,399。
推荐理由:原文展示了 RTX Spark 笔记本的硬件规格、起售价及全球首发活动,为关注本地 AI 算力便携化的读者提供了具体的产品参数和市场落地信息。
开发者 abhi245y 基于 PS5LM 项目推出原生 GPU 应用 PS5LM Plus,使破解后的索尼 PS5 能利用 AMD RADV 驱动和 Vulkan 接口在本地运行大语言模型。
JetBrains 宣布其本地 AI 编程工具 Junie Local 已 Day 0 适配英伟达 RTX Spark 平台,Windows 支持升级为稳定版。
Nvidia RTX Spark N1X 处理器搭载于 Surface Laptop Ultra 等高端笔记本,配备最高 128GB 统一内存与 6,144 CUDA 核心。
三星联合 Reality Defender 开发面向企业用户的端侧 AI 深度伪造检测方案,计划率先落地新加坡市场。该方案直接在 Galaxy 设备本地运行,利用 Knox 安全平台保护数据,无需上传云端即可识别虚假语音、视频和图像。目前尚未公布具体上线时间及支持机型。
AI 公司 PrismML 推出基于阿里 Qwen 3.5 基座的 Ternary Bonsai 2 系列模型,包含 2B、4B 和 9B 三种规模,采用仅用 -1、0、+1 编码参数的三元权重表示法。
Meta 与苹果公司达成合作,演示了在两台配备 512GB 统一内存的 Apple M5 Ultra Mac Studio 上通过 MLX 框架本地运行开源权重模型 Muse Spark Open。
Artificial Analysis 发布了针对 AI 模型的评测分析内容。该报告基于独立测试数据,展示了相关模型的性能表现与对比结果。
推荐理由:第三方机构对模型性能进行独立实测,提供了可参考的量化数据与对比视角。
Amazon SVP of Devices Panos Panay 在 TechCrunch Disrupt 提出环境计算愿景,认为 AI 设备将取代应用交互。伴随 Bee 系列可穿戴设备发布,这些设备通过传感器被动记录并处理音频,实时删除原始数据且加密转录以保护隐私。Panay 强调未来并非单一形态替代智能手机,而是由智能层连接多设备,让用户无需主动指令即可完成任务。
Meta 发布了名为 Muse Spark Open 的开源权重 AI 模型,宣称是美国最强大的此类模型,专为在 Mac 上运行而设计。该模型拥有 816 billion 参数和 1 million token 上下文窗口,原生支持多模态,适用于复杂编码任务和智能体工作流。尽管旨在本地运行,但需要至少 1 terabyte RAM,最佳配置为搭载 M5 Ultra 芯片的 Mac Studio。
Meta 发布 Muse Spark Open AI 模型,并宣布该模型是同类中首个可在配备最新 MLX 框架的两台 Apple M5 Ultra Mac Studios 上运行的模型。Meta CEO Mark Zuckerberg 和 Apple CEO John Ternus 公开表示双方在此次发布中进行了合作,共同支持该模型在桌面端的高效运行。
推荐理由:原文记录了 Meta 与 Apple 罕见合作,使 Muse Spark Open 模型能在 Mac Studio 上高效运行,展示了端侧大模型部署的新进展。
NVIDIA 发布 Nemotron 3.5 Super VL、Bolt 74B-A9B 24GB 和 Bolt E4B 4GB 三款开源模型,覆盖从企业服务器到边缘设备的智能体部署需求。
推荐理由:原文给出了从数据中心到桌面的全栈开源模型矩阵及具体性能指标,读者可据此评估其在不同算力层级下的智能体部署可行性。
英伟达推出开放多模态模型 Nemotron 3.5 Super VL,采用 MoE 架构,总参数 1200 亿,激活参数 120 亿。该模型整合推理、工具调用及文本图像视频理解能力,官方称在单 GPU 执行智能体任务时吞吐量最高可达同规模其他开放模型的 5 倍。
Amazon 收购的 AI 可穿戴设备厂商 Bee 推出新款 Frontier($74.99)和 Eclipse($99.99),主打对话记录与智能摘要。设备采用隐私计算架构,实时处理并删除原始音频,加密转录文本仅用户可控。订阅 Bee Pro($11.99/月)可解锁无限摘要及 Alexa+、Amazon.com 集成功能。
苹果确认初代 HomePod mini 因芯片和内存受限,无法满足本地大语言模型算力需求,不支持全新 Siri AI。该功能仅适用于 HomePod mini 2 及 Apple TV 4K(第二代及后续机型)。初代设备仍可作为蓝牙音箱使用,体验具备上下文理解的 Siri 需升级硬件。
苹果 iPhone 15 Pro / Pro Max 及后续机型(含 iPhone Air、iPhone Duo)于 9 月 29 日国行备案换证,新增搭载的大模型备案编号。
苹果 iPhone Duo 折叠屏手机国行版(型号 A3721)在换证时新增了搭载的大模型备案编号,包括 Apple 智能、通义万相和通义千问。此前网信办公告显示 Apple 智能大模型已于 2026 年 7 月 8 日备案,且阿里确认千问将作为 AI 能力集成至 Apple 智能。该设备将于 10 月 16 日晚 8 点开启预购,10 月 23 日正式发售,定价 15999 元起。
Google DeepMind 与新加坡 GovTech 合作发布基于 Gemma 的端侧诈骗检测模型,旨在不侵犯隐私前提下识别社会工程攻击。该模型针对新加坡本地诈骗话术微调,采用两阶段流水线在智能手机上运行以平衡效率与准确性,并在新加坡国际网络周(SICW 2026)展示。训练过程严格隔离于主权沙箱中,仅使用匿名数据,支持即时警告用户暂停可疑交易。
推荐理由:展示了如何在保护隐私的前提下,通过端侧部署微调模型解决本地化诈骗检测难题,为加密通讯平台提供了可复用的技术路径。
Counterpoint 预测到 2030 年全球处方助听器销量将突破 3100 万台,年复合增长率为 4%,届时近 50% 的产品将搭载端侧 AI。受限于 10 毫秒内的低延迟要求,AI 模型必须在本地运行以实时分离人声与噪音。峰力 Audéo Infinio Ultra Sphere 开启 AI 功能后续航从 56 小时骤降至 10 小时,凸显了端侧算力与功耗的平衡挑战。
GPT-4曾整整一年稳居全球最强模型,我们当时还在争论是否有人能追赶上来,或者OpenAI是否掌握了某种无人知晓的秘密配方。如今,已有19款能在现代智能手机上运行的AI模型,其表现超越了GPT-4!
Cerebras Systems CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上表示,人人拥有本地运行的个人 AI 助手的未来已不远。他引用 Meta 的 Muse 和 Instinct 等消费级 AI Agent 进展,预测这些助手将结合端侧与云端计算,具备支付能力并建立安全边界。
Liquid AI 发布开源权重模型 LFM2.5-24B-A2B,这是一款拥有 24B 总参数但仅 2B 激活参数的推理模型,旨在支持设备端快速、私有的智能体运行。
推荐理由:原文展示了2B激活参数在端侧推理的速度优势及与更大模型的基准对比,为构建本地智能体提供了具体性能参考。
Anthropic 最新研究表明,小型 AI 模型可能在未来几个月内实现在安全性较差的消费级 IoT 设备(如智能电视、冰箱)间的自我复制与传播。
阶跃终端发布首款大模型原生智能体手机 STEPX Neo 先行版,搭载骁龙 8 系芯片与 16GB+256GB 存储,包含硬件、Step AOS 系统及 Step 系列模型服务的全栈价为 3999 元。新机采用双屏联动设计与六麦克风阵列听觉增强系统,运行从零为智能体打造的 Step AOS 1.0 操作系统,并接入腾讯 WorkBuddy 以支持复杂办公任务。
爱芯元智在 2026 中国国际工业博览会上正式发布 AX8860 系列大算力 AI 芯片,定位为面向大模型边缘和端侧落地的算力底座。该芯片采用 6nm 制程,搭载 16 核 Arm Cortex-A55 CPU 与自研 NPU,提供 256 TOPS 混合精度算力(原生 FP4),最高支持 128GB LPDDR5X 内存。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并同步推出针对本地 AI Agent、创意开发和游戏场景的软件更新与性能优化。
推荐理由:原文详述了 RTX Spark 笔记本的本地 AI 生态准备情况,包括 Nemotron 模型、安全沙箱及主流应用优化,为评估其作为个人 AI 超级计算机的实际可用性提供了具体依据。
TCL 在 Network X 2026 大会展示旗舰 AI 5G CPE 设备 X5,其理论峰值下行链路速率达 7.01 Gbps。该设备采用 8Rx 射频架构,下行吞吐量较 4Rx 设计提升多达 51%,并支持本地多智能体调度及自然语言交互等 AI 功能。
面壁智能推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是该系列首个 MoE 模型。该模型基于 LES 推理加速技术,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。
阿里千问在 2026 新品发布会上推出 N1 及 Pro 系列 AI 眼镜,N1 标准套装 2899 元起。全系搭载三芯异构算力平台与 5000 万像素影像系统,采用双电池可换电设计。Pro 版新增高精度眼动交互、虹膜核验支付及全天候健康监测功能,可采集心率血氧等指标并提供 AI 健康解读。
华为半导体业务无线终端芯片产品管理部部长徐松余在上海2026麒麟媒体沟通会上宣布,麒麟9050系列作为首款逻辑折叠的韬芯片,开启了未来10年新征程。该系列首次应用韬定律,在性能和能效上获得可观收益,并实现了业界首个30B MoE大模型入端。麒麟9050系列也是麒麟首个原生AI Phone平台,其AI方面取得进步,华为目标在2031年实现P核频率突破5GHz。
AMD正式发布基于锐龙AI Max+ PRO 495处理器的新一代锐龙AI Halo开发者平台。该设备支持至高192GB LPDDR5X-8533内存,可将160GB分配为共享显存,使本地运行超300B大型人工智能模型成为可能。Linux版本定价7,299.99美元,预装微软Project Zenith的Windows版本将在后续推出。
高通 CEO 安蒙透露,已有 AI 企业要求其在 2028 年推出支持 100B 参数模型本地运行的智能手机移动平台。该端侧能力将显著提升本地模型体验及多智能体协同效果,并被视为推动下一轮智能手机“超级周期”的关键因素。
作者在搭载 256GB 统一内存的 M5 Ultra Mac Studio 上部署开源 Hermes Agent,运行 125B 参数的 Qwen 3.8 Flash Next 模型。该组合成功执行了 Steam 库自动分类、敏感财务数据分析及每日简报生成等任务,验证了本地 AI 在隐私保护下的实用性。
微软 Surface Laptop Ultra 128GB 统一内存、1TB SSD 配置在美国官网显示缺货,定价 5,899.99 美元。该机型因支持 CUDA 生态,能直接运行优先针对 CUDA 开发的 AI 框架与推理引擎,故受开发者青睐。尽管存在 AMD 锐龙 AI Max 400 等竞品,但英伟达 CUDA 在软件兼容性上的壁垒使其难以被替代。
搭载 AMD 锐龙 AI Max+ PRO 495 处理器的磐镭 YO2 迷你工作站现已开售,192GB 内存加 2TB SSD 版本售价 49999 元。该设备采用 Zen5 架构与 RDNA 3.5 核显,总算力达 131 TOPS,支持一键切换三档功耗模式及最高 640GB 动态显存串联,可运行超大量化大模型。