热点事件持续更新

vLLM 发布 Flint 模型 Day-0 支持

1 篇报道1 个报道来源19 小时前更新

先了解这件事

AI 综述

vLLM 宣布从第一天起支持 Recursive 发布的 Flint 模型，其 NVFP4 和 BF16 检查点均可在单 GPU 上运行。Flint 是一个拥有 40B 参数的 MoE 模型，每 token 仅激活约 2.5B 参数，支持 262K 上下文窗口。该支持针对单个 Blackwell GPU（TP=1，BF16 KV cache）优化，其他配置将回退到 vLLM 的标准层。在 GB200 上，即使处理 100K tokens 的上下文，单个请求的解码速度约为 500 tokens/s。需注意推理过程计入 max_tokens，因此对于复杂问题建议预留至少 32K 的 token 空间。

AI 根据报道生成 · 2 小时前更新

最新进展10月21日 08:00

vLLM 发布对 Recursive Flint 模型的 Day-0 支持

报道时间线

沿着报道，了解事件的不同侧面。

10月21日

08:00
vLLM 官方博客精选
vLLM 发布对 Recursive Flint 模型的 Day-0 支持
vLLM 宣布从第一天起支持 Recursive 发布的 Flint 模型，其 NVFP4 和 BF16 检查点均可在单 GPU 上运行。Flint 是一个拥有 40B 参数的 MoE 模型，每 token 仅激活约 2.5B 参数，支持 262K 上下文窗口。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。