跳到正文

内容形态

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

81 条精选近 30 天 49 条共收录 241 条

更新

精选归档 · 第 4 页

9月1日周二第 61–80 条
  1. vLLM 官方博客80

    vLLM-Omni 发布 MiniMax H3 实时服务方案:集成 FastVideo FastH3 实现快于播放的视频生成

    vLLM-Omni 团队发布 MiniMax H3 的生产级服务方案,通过系统级优化和集成 FastVideo 的 FastH3 模型,在 8x NVIDIA B300 上实现了完整 MP4 生成速度快于播放时长(RTF <= 1.0)。

    推荐理由:vLLM-Omni 通过系统级优化与 FastH3 集成,实现了 MiniMax H3 在 B300 硬件上快于播放时长的实时视频生成能力。

8月24日周一
  1. Google Developers Blog62

    Google ADK 新增原生语音智能体评估功能

    Google ADK 引入原生实时语音评估能力,支持通过模拟用户音频驱动智能体并评分。该功能允许在同一评估循环中处理语音交互,提供从创建智能体、编写评估用例到运行和检查结果的完整流程示例。开发者可利用自然语言评分标准对多轮对话轨迹进行端到端质量判断,并通过 ADK Web 界面查看包含可播放音频片段的转录结果。

    推荐理由:提供了在 ADK 中构建语音智能体评估闭环的具体代码与配置,帮助开发者将演示转化为可量化的生产级测试。

8月17日周一
  1. Google Developers Blog73

    Google 发布基于 ADK 构建零信任 AI Agent 的安全指南与开源示例

    Google 开发者博客发布了利用 Agent Development Kit (ADK) 构建零信任 AI Agent 的技术方案,并开源了包含自主客服退款代理的参考实现。

    推荐理由:原文提供了基于 ADK 构建零信任 AI Agent 的完整代码实现与开源仓库,展示了如何通过硬件签名、沙箱隔离和语义网关防御提示词注入攻击。

8月14日周五
  1. vLLM 官方博客65

    vLLM 官方博客详解 DSpark 自适应验证机制以优化投机解码

    vLLM 引入 enable_adaptive_verification 功能,利用 DSpark 置信度头动态决定每步验证的草稿 token 数量,使投机解码在并发 256 时仍保持吞吐优势。

    推荐理由:vLLM 官方详解自适应验证机制,通过动态调整草稿预算解决高并发下投机解码性能瓶颈,提供可复现的配置与基准数据。

8月6日周四
  1. vLLM 官方博客60

    vLLM 官方博客详解 Qwen3.5 在 GB200 上达成 25K TPS/GPU 的优化与复现方法

    vLLM 团队发布博客,展示如何通过解耦服务模式在 GB200 NVL72 系统上使 Qwen3.5-397B-A17B-NVFP4 模型达到超过 25,000 total TPS/GPU 的性能。

    推荐理由:vLLM 团队公开了 Qwen3.5 在 GB200 NVL72 上实现 25K TPS/GPU 的解耦服务配置、关键优化补丁及复现配方,为高性能推理部署提供直接参考。

8月1日周六
  1. Together AI Blog87

    Kimi K3 发布:2.8 万亿参数开源模型及 Together AI 使用指南

    Moonshot AI 发布 Kimi K3,这是首个 3 万亿参数级别的开源权重模型,参数量达 2.8T,专为长程编码、知识工作和深度推理设计。该模型支持 1M 上下文窗口,采用 Kimi Delta Attention 和 Stable LatentMoE 等架构创新,在多项编码和智能体基准测试中表现接近前沿专有模型。

    推荐理由:原文给出了 Kimi K3 的架构细节、Together AI 上的 API 调用示例和定价策略,开发者可以据此评估其在长上下文编码和推理任务中的实际可用性。

7月24日周五
  1. Anthropic Claude.dev 开发者博客80

    Anthropic 发布 Claude 5 模型上下文工程新规则

    Anthropic 工程师 Thariq Shihipar 分享了针对 Claude Opus 5 和 Claude Fable 5 等新一代模型的上下文工程最佳实践,指出团队已移除 Claude Code 中超过 80% 的系统提示词且未影响编码评测表现。

    推荐理由:官方披露了针对 Claude 5 系列模型的上下文工程新范式,包括移除大量系统提示词约束及利用渐进式披露的具体方法。

  2. Ethan Mollick · One Useful Thing78

    Ethan Mollick 发布 AI 工具使用指南:如何根据任务选择模型与智能体

    Ethan Mollick 发布最新 AI 工具使用指南,指出当前“使用 AI”已从简单聊天转向具备规划与执行能力的智能体系统。对于低风险日常问答,免费默认模型即可满足需求;但在医疗或法律等高风险领域,建议使用 Claude Opus/Fable 或 ChatGPT GPT-5.6 Sol 并开启高思考模式以降低错误率。

    推荐理由:作者基于实测对比了不同场景下的模型选择与智能体配置,提供了从基础聊天到接管本地电脑的具体操作建议。

7月23日周四
  1. vLLM 官方博客66

    vLLM官方博客:在24张NVIDIA B300 GPU上部署GLM-5.2并满足生产级SLA的实践指南

    DaoCloud团队在vLLM官方博客发布文章,介绍了如何在24张NVIDIA B300 GPU上部署GLM-5.2-NVFP4模型以满足生产级SLA要求。通过采用分离式P/D架构、推测解码填充、Model Runner V2及IndexerCache等优化手段,将平均TPOT从约40ms降至17ms,同时保持TTFT低于2.5秒。

    推荐理由:文章详细记录了在24张B300 GPU上部署GLM-5.2的全过程,提供了从TPOT优化到最终SLA达标的具体配置和命令。

7月16日周四
  1. Modal 官方工程博客68

    Modal 重构沙箱平台支持百万并发及每秒数万创建

    Modal 宣布重建其核心沙箱平台,新系统支持数百万并发沙箱运行,并能以每秒数万个的速度创建沙箱。该架构移除了控制平面中的中心瓶颈,采用无协调的分布式调度设计,使调度路径简化为负载均衡器直接在计算节点上创建容器。实测显示,100 万个沙箱可在不到一分钟内全部创建完成,中位启动时间低于半秒。目前该系统已开放 Beta 测试,用户可通过简单代码修改启用。

    推荐理由:原文展示了去中心化调度架构如何实现百万级沙箱并发与秒级创建,为高吞吐 Agent 基础设施提供了可参考的工程范式。

7月13日周一
  1. Ai2 / Allen Institute for AI60

    Ai2 分享 Shippy 海事智能体构建经验与架构设计

    Ai2 的 Skylight 团队分享了其海事 AI 智能体 Shippy 的构建经验,重点介绍了如何通过确定性工具、沙箱隔离和自定义评估系统来解决高风险操作域中的可靠性问题。

    推荐理由:原文详细拆解了高可靠性智能体的架构设计与评估体系,为构建严肃场景下的 Agent 提供了可复用的工程经验。

7月10日周五
  1. Sierra Blog73

    Sierra 分享 AI 驱动公司转型经验:从角色智能体转向统一入口与主动式工作流

    Sierra 工程团队通过并行运行 Claude Code 和 Codex 等智能体实现了显著的效率提升,并成立了六人加速小组以推广这一模式。他们发现按角色划分多个智能体因增加用户记忆负担且割裂跨部门协作而失败,因此将所有功能合并为名为 Pinecone 的单一智能体,使其能自动识别请求并调用相应系统。

    推荐理由:Sierra 分享了将全公司工作流整合到单一智能体的实践,指出业务上下文而非模型智力才是当前瓶颈。

7月8日周三
  1. Ai2 / Allen Institute for AI73

    Ai2 分享 MolmoAct 2 在机器人领域的开放价值

    Ai2 发布文章阐述 MolmoAct 2 如何推动机器人领域开放模型发展。LiveKit 工程师 Binh Pham 在黑客松中使用该模型构建语音控制机器人,指出其具备良好空间感知能力且能执行未专门训练的任务。Pham 认为这是机器人领域的 GPT-2 时刻,强调提供权重、数据和代码的完整开放对复现和定制至关重要。

    推荐理由:通过开发者实测案例,具体展示了开放模型在机器人任务泛化上的实际表现与社区价值。

6月3日周三
  1. Anthropic Claude.dev 开发者博客82

    Anthropic 分享 Claude Code 技能构建经验:九类场景与最佳实践

    Anthropic 工程师 Thariq Shihipar 总结了在 Claude Code 中大规模使用“技能”(Skills)的经验,将内部数百个活跃技能归纳为库/API 参考、产品验证、数据获取等九大类别。

    推荐理由:原文基于 Anthropic 内部数百个技能的使用经验,梳理了九类常见场景与编写技巧,为构建高效 Agent 工作流提供了可复用的方法论。

6月2日周二
  1. Anthropic Claude.dev 开发者博客83

    Claude Code 推出动态工作流功能

    Anthropic 在 Claude Code 中发布动态工作流(Dynamic Workflows),允许 Claude 即时编写定制化的 JavaScript 脚本以协调子智能体(subagents)。

    推荐理由:官方详解动态工作流机制与六大模式,提供从代码迁移到深度研究的实战案例及Token预算技巧。

  2. Together AI Blog65

    Together AI 发布 MiniMax M3 高效推理服务方案

    Together AI 宣布作为 MiniMax M3 的首选云合作伙伴,通过深度性能优化支持该模型在生产环境中高效运行,并将在未来几天开放权重后直接提供端点服务。

    推荐理由:Together AI 详细披露了 MiniMax M3 在稀疏注意力、KV 缓存管理及多模态预处理上的底层工程优化,展示了实现百万 token 上下文高效服务的具体技术路径。

5月20日周三
  1. Anthropic Claude.dev 开发者博客70

    Claude Code 开发者指南:为何及如何使用 HTML 替代 Markdown 生成输出

    Anthropic Claude Code 团队成员 Thariq Shihipar 建议将 HTML 作为主要输出格式以替代 Markdown,利用其更高的信息密度、视觉清晰度和易分享性来优化复杂任务的沟通效率。

    推荐理由:作者分享了在 Claude Code 中用 HTML 替代 Markdown 的具体场景与提示词,展示了如何利用富文本特性提升信息密度和交互性。

4月30日周四
  1. Anthropic Claude.dev 开发者博客83

    Claude Code 团队分享构建经验:Prompt Caching 至关重要

    Claude Code 团队指出 Prompt Caching 是长运行智能体产品可行性的关键,能显著降低延迟和成本。文章分享了静态内容前置、通过消息而非修改系统提示词传递更新、会话中不切换模型或工具集等优化策略。此外,还介绍了利用 defer_loading 处理 MCP 工具以及通过共享父级前缀实现无缓存破坏的上下文压缩方法。

    推荐理由:原文详细拆解了 Claude Code 围绕 Prompt Caching 的架构设计,提供了避免缓存失效的具体工程模式。

4月10日周五
2月18日周三
  1. Ethan Mollick · One Useful Thing78

    Ethan Mollick 解析智能体时代 AI 选型:模型、应用与执行框架

    Ethan Mollick 指出在智能体时代选择 AI 需考量模型、应用和执行框架三个维度,同一模型在不同框架下表现差异巨大。当前三大前沿模型为 GPT-5.2 Thinking、Claude Opus 4.6 和 Gemini 3 Pro,付费订阅才能解锁高级推理能力。

    推荐理由:原文将AI使用拆解为模型、应用与执行框架三层,并给出各场景下的具体选型建议,帮助读者厘清智能体时代的工具差异。