跳到正文
vLLM 官方博客· Novita AI and the vLLM Team·· 2026-09-15AI 评分45

Novita AI 开源 Chord:Kimi K2.x INT4 MoE 加速算子,H200 提速最高 1.3x

vLLM x Novita AI: Chord, Faster INT4 MoE for Kimi K2.x. Up to 1.3x on H200, 2.15x on Untuned B300

AI 导读

Novita AI 开源高性能 W4A16 MoE CUDA 算子 Chord,专为 Kimi K2.x 服务形状设计。该算子在 H200 EP8 解码场景下较 Humming 默认配置提速 1.16–1.24x,在 B300 EP8 解码场景下提速达 1.81–2.15x。

来源:vLLM 官方博客 · vllm.ai