Fable 5.1实现博尔赫斯3D故事
Fable 5.1:“实现博尔赫斯的短篇小说。像用 3D 实现它们那样做。去做,让它们富有创意和美感,并帮助我们理解故事的要点。自己想办法。”我不得不告诉它引用博尔赫斯是可以的。有些很棒的东西。试玩:https://borges-in-3d.netlify.app
Fable 5.1:“实现博尔赫斯的短篇小说。像用 3D 实现它们那样做。去做,让它们富有创意和美感,并帮助我们理解故事的要点。自己想办法。”我不得不告诉它引用博尔赫斯是可以的。有些很棒的东西。试玩:https://borges-in-3d.netlify.app
Benefit Street Partners 利用 Codex 进行代码审查并加快后续跟进,从而更快速地回答问题。Anant Kumar 借助该工具构建用于比较贷款估值和分析信贷协议的软件。
vLLM 官方博客发布 Kimi K3 的深度优化方案,通过 Agent 辅助开发构建统一 CuTe DSL decode 路径,在 16 张 NVIDIA GB300 GPU 上实现 batch 1 超过 840 tokens/s 的解码速度。
推荐理由:原文详细拆解了 Kimi K3 在 vLLM 中的底层优化逻辑与性能数据,并提出了平衡开发速度与稳定性的维护框架。
AWS SMGS 团队利用 Amazon Bedrock AgentCore Evaluations 构建持续质量闭环,解决 AI 智能体在生产环境中“自信但错误”的隐性失效问题。该框架集成 Guardrails、CloudWatch 等组件,在发布前及运行中自动验证答案准确性并追溯根因,防止如营收数据单位误读或幻觉计算导致的业务风险,确保多智能体系统在大规模部署下的可信度。
Modal 发布技术博客介绍其新文件系统后端 ImageFS-blk,旨在解决 VM 沙箱中 virtio-fs 带来的元数据操作性能瓶颈。该方案将文件系统逻辑移至 Guest 内部并通过 virtio-blk 交互,使 chown 等操作的延迟从约 99 µs 降至 ~2.1 µs。
Reflection AI 推出面向智能体编码的开源权重模型 Beam,拥有 501B 总参数和 23B 激活参数,支持 1M token 上下文。该文章详解了在 AWS SageMaker JumpStart 和 HyperPod Inference 上部署 BF16、FP8 或 NVFP4 版本的具体步骤,包括 GPU 容量规划、SGLang/vLLM 运行时配置及性能测试方法。
推荐理由:原文详细拆解了 Reflection Beam 在 AWS 上的两种部署路径及显存规划,为开发者提供了从模型选型到性能调优的可落地工程指南。
Claude Code 团队通过引入多层自动化审查机制,将人工审批集中在高风险变更上,使合并 PR 数量翻倍的同时回滚率下降超过 40%。该流程包含预验证、AI 审查、安全阻断及基于风险的分级审批,并强调利用事故数据持续优化审查模型以减少噪音。
推荐理由:原文详细拆解了 Claude Code 团队在代码量激增背景下,如何通过多层自动化审查与风险分级机制平衡效率与安全。
vLLM 官方博客发布技术复盘,详述如何通过六项核心优化使 Kimi K3 在八卡 AMD Instinct MI355X 系统上的每 GPU 吞吐量超越 NVIDIA HGX B300 24.4%,并在成本模型下实现每美元多产出 87.4% 的 token。文章深入解析了 DCP8 缓存分片、MoE 去重计算、KDA 状态并行化及 MLA 长上下文解码加速等具体工程决策与基准测试数据。
推荐理由:文章拆解了 Kimi K3 在 AMD MI355X 上的六项关键优化,提供了从缓存复用到内核融合的具体工程思路。
你的 AI 智能体如何用你的信用卡付款,而无需持有卡片:1. 你的卡片存储在受信任的钱包中。2. 当你的智能体去购物时,钱包会创建一个 agentic token:一个仅在该商店有效的替身卡号,并带有诸如“不要
AWS 发布 Trust in Depth 框架,通过 Scope、Know、Bound、Observe 四个独立层级来建立对 AI 智能体的信任,解决人工审批瓶颈并支持高自主性任务。
推荐理由:文章提出分层信任框架,结合自动推理与运行时管控,为平衡智能体自主性与安全性提供可落地的工程方法。
Google 开发者博客发布文章,介绍如何超越主观“感觉检查”,为 AI Agent 建立可重复的评估体系。文章提出了基于关键用户旅程(CUJ)定义成功标准、使用模拟用户生成测试场景、以及结合人工审查与自动化工具的分阶段实施策略。
推荐理由:原文提供了从人工审查到自动化 CI/CD 的评估落地路径,并给出了规避常见陷阱的具体方法。
vLLM团队提出一种新方案,通过让训练前向直接调用vLLM推理内核并修改内核逻辑,确保采样token的logprob在训练和推理侧逐位一致(diff=0)。在DeepSeek-V4-Flash实验中,该方法在保持91.3%基线吞吐量的同时实现了零差异,避免了因数值不一致导致的KL散度飙升和奖励下降;该流程已封装为Agent Skill开源,并成功迁移至Nemotron混合架构模型。
推荐理由:原文提供了在高性能推理引擎上实现训练与推理数值完全一致的具体方法、代码及Agent技能包,为RL训练稳定性优化提供了可复用的工程路径。
给我的 Dot 分配一个专用电子邮件地址,结果发现这出奇地简单,并解决了如何与个人智能体相处的一些问题。我不希望它使用我的邮箱或代表我起草消息,我希望确保人们知道他们正在与 AI 互动。
LangChain 团队基于 LangSmith 平台解析智能体评估(Agent Evals)的核心问题,涵盖离线与在线评估的区别及四种主要评估器类型。文章建议从分析 Trace 入手构建小规模数据集,通过持续添加失败案例形成改进闭环,并指导用户利用代码检查或 LLM 裁判监控生产环境质量。
vLLM 引入基于推送的 NIXL 连接器,将 KV 缓存传输协调移出关键路径。在 Qwen3-32B 模型基准测试中,该方案使首字延迟(TTFT)最高降低至原来的三分之一,每输出 token 时间(TPOT)提升达 30%。此功能已贡献给 vLLM 项目,支持加速器无关的分离式推理部署。
LangChain 官方博客介绍了 Deep Agents 框架如何利用中间件技术解决 Agent 的“上下文腐烂”问题,确保模型在长任务中仅保留必要信息。
推荐理由:原文详细拆解了 Deep Agents 中用于解决上下文腐烂的五种中间件策略,提供了可直接复用的工程实现逻辑。
利用 Amazon Bedrock AgentCore 构建智能体 IDP 系统,可在 20 分钟内部署多智能体工作流。该系统通过 Strands Agents SDK 协同八个专用智能体,自动分类、提取并验证业务文档。新格式无需手动配置模板即可处理,智能体能从修正中学习并复用知识,显著降低维护成本。
Third Moment Research 利用 GPT-6 Astra、GPT-6.1 Sol、Codex 和 Daybreak,成功运行了超过 36 小时的 10,000 个 AI 智能体。这些智能体具备持续数天的专注能力,并能随着使用过程不断优化性能。
Tamnoon 在 Amazon Bedrock 上构建了 agentic 云修复编排器 Tami,通过四个专用 AI agent 实现从调查到修复的自动化。该方案在 90 天内将关键云暴露面降低超 90% 且零生产事故。
利用 Amazon Bedrock AgentCore 和 Strands Agents 框架构建监督者智能体,结合 Claude Sonnet 4.6 与 Stable Image Inpaint 实现从文档到 PPT 的自动化生成。该方案通过 RAG 管道确保内容基于源文档,内部测试显示可在 90 秒内完成制作,显著降低人工耗时并减少模型幻觉。
Amazon SageMaker JumpStart 提供预训练模型目录,支持通过 SageMaker Python SDK v3 实现一键部署、性能测试及端点清理。
我们的工程博客新文章:构建内部源码控制系统。5月,我们每天合并约2,500个代码变更。9月,每天合并超过30,000个。因此,我们为人类(而非智能体)规模设计的开发者基础设施成为了瓶颈。
Ai2 开源视觉语言模型 Molmo 2 支持 MIT 研究者 Kai Van Brunt 开发 Molmo2Fish,用于水下声纳视频中的鲑鱼追踪。该模型经微调后在无需修正时性能接近专用系统,并能通过自然语言指令自动纠正追踪错误。Molmo 2 的开放代码与数据使研究者能直接定制多目标追踪任务,为生态监测提供新工具。
GitHub 推出新的密钥扫描管线,采用正则表达式生成候选项并结合微调后的 ModernBERT 分类器进行上下文评估,以区分真实凭证与相似字符串。该方案使仓库所有者加权接受率提高 11.5%,中位后推送扫描执行时间缩短 86%,服务成本较之前的 LLM 管线降低超过 98%。新模型通过 ONNX 格式导出并应用 8-bit 量化,实现了在保持高召回率的同时显著减少误报和推理开销。
LangChain 官方博客介绍 Deep Agents SDK 如何通过文件系统抽象和三种压缩技术解决长任务中的上下文溢出问题。该工具在检测到大型工具响应超过 20,000 tokens 或会话上下文达到模型窗口 85% 时,自动将旧数据卸载至文件系统并生成结构化摘要。文章还分享了通过降低触发阈值以增强信号进行基准测试的方法,以及验证信息可恢复性和防止目标漂移的定向评估策略。
LangChain 团队通过优化智能体框架(Harness),使 deepagents-cli 在 Terminal Bench 2.0 上的得分从 52.8% 提升至 66.5%,排名进入前五,且全程保持底层模型 gpt-5.2-codex 不变。
推荐理由:LangChain 分享了通过系统提示、工具和中间件优化智能体框架的方法,展示了如何在不更换模型的情况下显著提升编码性能。
LangChain 团队使用 Deep Agents CLI 配合自定义 Skills,将文档中静态的内联代码样本自动化迁移为可独立运行、经 CI 持续测试的代码文件。该流程通过编写类似给同事的操作步骤作为 Skill 指令,让 Agent 自动完成代码提取、添加 setup/teardown、标记片段及运行测试等任务,解决了 AI 领域 SDK 频繁更新导致文档示例失效的问题。
推荐理由:LangChain 分享了利用 Deep Agents CLI 和 Skills 自动化迁移文档代码样本为可测试单元的实践,提供了具体的指令编写思路和 CI 集成方案。
Orange Business 基于 LangChain 和 LangSmith 构建旗舰 AI 平台 Live Intelligence,已部署至 120,000 名员工并被 150+ 客户采用。
Amazon Bedrock 推出托管权限功能,允许在中心账户订阅一次 AWS Marketplace 私有定价优惠并分发至组织内多账户。该方案提供轻量级脚本和基于 AWS CDK 的事件驱动自动化两种路径,分别用于一次性激活和持续验证卖家、创建及激活分布式授权,从而消除手动检查 License Manager 的运营摩擦并确保协商价格生效。
AWS 发布教程指导开发者在 Amazon Bedrock 上利用 Grok 4.7 构建具备工具调用能力的长周期智能体。文章通过三个需搜索而非简单查表的复杂任务(故障诊断、维护调度、迁移预算)进行了 72 次运行测试,结果显示 xhigh 推理强度下准确率为 100%,而 low 强度以约八分之一的输出 Token 实现了 83% 的准确率。
推荐理由:原文通过构建工具调用智能体并对比不同推理强度下的表现,提供了在长周期任务中平衡准确率与Token成本的具体评估方法。
ShipStation Global 在 Amazon Bedrock AgentCore 上构建了名为 Deckhand 的 Slack AI IT 帮助台,解决了 97.5% 的入站查询并获得 96% 的员工正面反馈。
Orca Security 与 AWS 合作推出 Discovery AI,利用 Amazon Bedrock 将自然语言转换为 Sonar 查询。该方案采用 RAG 架构,使查询成本降低 90%,输入 token 减少 93%,延迟降低 75%。系统支持 900+ 云模型,实现每日数千次查询的 15 秒响应。
Google 工程师展示了如何使用 Gemini 4 Argon 在无人值守的情况下对 google/adk-python 进行跨文件性能优化。通过配置 .agents/skills 和 /goal 模式,模型在 11 小时内完成了代码修改,使长会话中的内存准备时间减少约 40%,冷启动包导入速度提升 21%。最终有 6 个优化提案中有 2 个通过了人工代码审查并合并到主分支。
推荐理由:原文完整复盘了利用 Gemini 4 Argon 优化大型代码库的提示词与流程,并给出了具体的性能提升数据。
Amazon SageMaker AI 通过 Swap-AB 技术优化 Hopper 架构上的 MoE 内核,将专家维度映射至固定行数以提升 WGMMA 利用率,使 H200 上的端到端吞吐量提高 2–4%,该优化已集成至 vLLM 0.24.0+。针对 FP8 量化模型,Triton 后端因寄存器级融合与单次内存访问特性,在低并发场景下性能优于默认的 FlashInfer+CUTLASS 路径。
LangChain 发布 langchain-scaledown 集成,利用 ScaleDown 的受限解码模型(CDMs)来高效处理长运行智能体的上下文管理任务。
推荐理由:LangChain 集成 ScaleDown 受限解码模型,提供摘要、压缩和提取中间件,帮助开发者低成本管理长运行智能体的上下文。
我的 AI 智能体正在执行主动客户服务:有人发邮件给我说,在订阅我的 Substack 后,他们被自动注册了其他服务(这不应该发生)。无需我询问,我的 Dot 自行运行测试,并通过尝试复现错误找出了原因。
过去几个月,我们在降低针对 Claude 的蒸馏攻击有效性方面取得了重大进展。在这篇文章中,我们将解释具体方法:
vLLM 发布双向 KV Cache 传输功能,允许预填充节点复用解码节点保留的 KV 块,从而减少多轮对话中的重复计算并降低首 Token 时间(TTFT)。
推荐理由:vLLM 引入双向 KV 传输机制,通过复用解码节点缓存显著降低多轮智能体工作负载的 TTFT,为长上下文场景提供可落地的性能优化方案。
Amazon Bedrock 在泰国、马来西亚、新加坡、印尼和台湾推出全球跨区域推理,支持访问 OpenAI GPT-6 Sol、Luna 和 Astra。用户可从上述源区域调用这些模型,利用其他 AWS 区域的容量以缓解单区域限流。GPT-6 系列均支持文本图像输入及提示缓存,通过 Converse API 或 OpenAI 兼容接口接入。
GitHub Copilot 支持通过 `.github/copilot-instructions.md` 定义仓库级规范,利用 `.github/skills` 封装可重复流程,并在 `.github/agents` 创建专用智能体。