vLLM 官方博客· RL-Kernel Team, vime Team, and AMD Team·· 2026-09-14AI 评分41
vime 与 RL-Kernel 在 AMD MI300X 实现 Qwen3-8B 训练-推理位级一致
vime × RL-Kernel × AMD: Bitwise Train–Rollout Consistency on ROCm
AI 导读
vime 联合 RL-Kernel 在 AMD Instinct MI300X 上实现 Qwen3-8B GRPO 训练与推理的位级数值一致性。该方案通过统一 Megatron 与 vLLM 的数值执行契约,在 200 步连续实验中保持 mismatch_count = 0 且 max_abs_diff = 0。
来源:vLLM 官方博客 · vllm.ai