Orca Security 基于 Amazon Bedrock 构建 Discovery AI 自然语言查询代理
Orca Security 与 AWS 合作推出 Discovery AI,利用 Amazon Bedrock 将自然语言转换为 Sonar 查询。该方案采用 RAG 架构,使查询成本降低 90%,输入 token 减少 93%,延迟降低 75%。系统支持 900+ 云模型,实现每日数千次查询的 15 秒响应。
Orca Security 与 AWS 合作推出 Discovery AI,利用 Amazon Bedrock 将自然语言转换为 Sonar 查询。该方案采用 RAG 架构,使查询成本降低 90%,输入 token 减少 93%,延迟降低 75%。系统支持 900+ 云模型,实现每日数千次查询的 15 秒响应。
Google 工程师展示了如何使用 Gemini 4 Argon 在无人值守的情况下对 google/adk-python 进行跨文件性能优化。通过配置 .agents/skills 和 /goal 模式,模型在 11 小时内完成了代码修改,使长会话中的内存准备时间减少约 40%,冷启动包导入速度提升 21%。最终有 6 个优化提案中有 2 个通过了人工代码审查并合并到主分支。
推荐理由:原文完整复盘了利用 Gemini 4 Argon 优化大型代码库的提示词与流程,并给出了具体的性能提升数据。
Amazon SageMaker AI 通过 Swap-AB 技术优化 Hopper 架构上的 MoE 内核,将专家维度映射至固定行数以提升 WGMMA 利用率,使 H200 上的端到端吞吐量提高 2–4%,该优化已集成至 vLLM 0.24.0+。针对 FP8 量化模型,Triton 后端因寄存器级融合与单次内存访问特性,在低并发场景下性能优于默认的 FlashInfer+CUTLASS 路径。
Geoffrey Huntley 提出利用 pre-commit hook 检查 git diff,拦截绕过诊断模块的观测性调用并注入提示词。该方法解决了 AGENTS.md 配置漂移问题,使 AI Agent 对诊断库的使用率达到十成。
LangChain 发布 langchain-scaledown 集成,利用 ScaleDown 的受限解码模型(CDMs)来高效处理长运行智能体的上下文管理任务。
推荐理由:LangChain 集成 ScaleDown 受限解码模型,提供摘要、压缩和提取中间件,帮助开发者低成本管理长运行智能体的上下文。
我的 AI 智能体正在执行主动客户服务:有人发邮件给我说,在订阅我的 Substack 后,他们被自动注册了其他服务(这不应该发生)。无需我询问,我的 Dot 自行运行测试,并通过尝试复现错误找出了原因。
开发者 Maurice Heumann 团队历时 3 个月、消耗超 5000 亿 Tokens,利用 AI 智能体成功反编译并重建了 2009 年《使命召唤:现代战争 2》的 C++ 源代码,最终实现 83% 的代码与原版逐字节匹配。
过去几个月,我们在降低针对 Claude 的蒸馏攻击有效性方面取得了重大进展。在这篇文章中,我们将解释具体方法:
Python 3.15 正式发布,引入 PEP 810 显式惰性导入以优化启动速度,并内置名为 Tachyon 的采样分析器。随着 Python 3.10 停止官方支持,开发者可全面启用 3.11 特性如 `tomllib`、`TaskGroup` 及 SQLite 增强功能。
vLLM 发布双向 KV Cache 传输功能,允许预填充节点复用解码节点保留的 KV 块,从而减少多轮对话中的重复计算并降低首 Token 时间(TTFT)。
推荐理由:vLLM 引入双向 KV 传输机制,通过复用解码节点缓存显著降低多轮智能体工作负载的 TTFT,为长上下文场景提供可落地的性能优化方案。
Amazon Bedrock 在泰国、马来西亚、新加坡、印尼和台湾推出全球跨区域推理,支持访问 OpenAI GPT-6 Sol、Luna 和 Astra。用户可从上述源区域调用这些模型,利用其他 AWS 区域的容量以缓解单区域限流。GPT-6 系列均支持文本图像输入及提示缓存,通过 Converse API 或 OpenAI 兼容接口接入。
GitHub Copilot 支持通过 `.github/copilot-instructions.md` 定义仓库级规范,利用 `.github/skills` 封装可重复流程,并在 `.github/agents` 创建专用智能体。
AWS 发布 Ray LLM Deep Learning Containers,支持在 Amazon EKS 上跨两个 GPU 节点部署大语言模型。该容器集成 vLLM、NIXL 和 EFA,通过分离 Prefill 与 Decode 阶段实现解耦推理,并暴露 OpenAI 兼容 API。
该方案利用 AWS Deep Learning Containers (DLC) for llama.cpp,在 Amazon SageMaker AI 上通过 SemIf 适配器实现结构化决策推理。
作者在搭载 256GB 统一内存的 M5 Ultra Mac Studio 上部署开源 Hermes Agent,运行 125B 参数的 Qwen 3.8 Flash Next 模型。该组合成功执行了 Steam 库自动分类、敏感财务数据分析及每日简报生成等任务,验证了本地 AI 在隐私保护下的实用性。
AA-Video-I2V v1.0 提示词 [1/3]:硬拉个人纪录尝试,杠铃弯曲,拉起缓慢,锁定,尖叫,放下。紧握、拉起、杠铃弯曲、锁定、尖叫、放下。
Instinct 估值达 $10 billion,Caddy 自 2026 年 4 月起公测,Fambot 获 $3.5 million 融资。这些 AI 智能体无需下载独立 App,直接通过 iMessage、RCS 或 SMS 即可管理日程、邮件及任务。部分产品如 Comma 开源免费,Folk 提供 $8.33/month Pro 订阅,Martin 月费 $21 起。
Postman 基于 Amazon Bedrock 构建 Agent Mode,服务 4000 万开发者。该架构通过向量数据库将 170+ 工具动态筛选至约 15 个以解决工具蔓延问题,并集成 Guardrails 进行 PII 脱敏及多层级提示词缓存,实现跨地域推理与零数据保留。
Ai2 用包含 GPU 时间预算、层级公平份额分配和时间切片合约的系统替换了基于优先级的调度器。该方案将资源争夺转化为透明的行政预算流程,解决了 NVIDIA H100/B200/B300 集群中的“公地悲剧”与优先级通胀问题。
Managed Deep Agents v0.9 引入新 reactions API,支持通过决策模型或代码逻辑动态分配 emoji 以优化加载状态。该功能利用 TypeSafe Classifier 调用 Jev 等模型,根据上下文置信度选择表情,提升用户对智能体进度的感知与信任。
Ai2 将 GPU 集群调度从优先级模式改为包含 GPU 时间预算、层级公平分配和时间切片契约的系统,以解决资源竞争导致的“公地悲剧”。该方案使高价值研究获得资源的频率(即影响力)成为核心指标,并将算力分配决策转化为透明的行政预算流程。目前 Ai2 管理数千块 NVIDIA H100、B200 和 B300 GPU,面临 2-3 倍的超额需求,新机制旨在维持满负荷运行的同时优化科研产出。
Simon Willison 利用 ChatGPT 桌面端的 Codex 语音模式,结合本地预览环境,在烹饪过程中通过语音指令完成了博客 Newsletter 索引页的开发。该过程涉及 Django 模型创建、数据导入及页面渲染,最终生成的代码经人工审查和少量键盘交互调整后部署上线。作者认为这种带视觉反馈的语音编程适合多任务处理,但在处理细节调试和粘贴错误信息时,键盘输入仍更高效。
Sophos 利用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理了 52% 的 MDR 案例。该方案在提升效率的同时保留了人工监督机制,实现了安全运营流程的优化。
华为乾崑智驾 ADS 在狭窄小路会车时不会直接退出辅助驾驶,而是基于 WEWA 2.0 架构主动倒车让行。即使未开启智驾,CAS 5.0 系统也能在人驾状态下识别风险并主动平顺降低车速。针对“鬼探头”场景,系统通过多传感器融合感知盲区,必要时触发 AEB 自动紧急制动以规避碰撞。
Snyk 基于 LangChain 和 LangGraph 构建的 AI 安全助手 Snyk Assist,于 2026 年 9 月从内部工具正式转为面向所有付费客户的核心产品功能。该智能体通过 LangSmith 进行可观测性管理与评估,利用中间件处理权限、状态及护栏,确保仅返回用户有权访问的数据并支持自动化工单等操作。
LegalOn 将每日 Codex 估算成本降低了 65%,同时保持了开发速度。该公司通过将 Astra、Sol 和 Luna 匹配到具体任务并战略性地管理预算来实现这一目标。
作者通过 Hugging Face 的 ML Intern 智能体,以总计约 USD 103 的计算成本成功训练了六个专用小型模型,包括柑橘病害识别 VLM、角色 LoRA 及端侧文本重写器等。文章详细分享了关键提示词技巧,如设定严格预算上限、要求基线对比以及执行小规模冒烟测试,并公开了所有示例代码与数据集链接供社区复用。
推荐理由:作者展示了利用 ML Intern 在低预算下定制训练多个专用小模型的具体提示词策略与成本数据,为个人开发者提供了可复用的低成本模型构建路径。
NVIDIA 开发者结合 GPT-6 Astra 与 Omniverse 库,通过自然语言指令构建仓库、机器人及自动驾驶仿真。在包含80条传送带和40个机械臂的测试中,系统维持30帧/秒全高清运行并完成640次放置;另有项目利用 Claude Fable 5 优化数字孪生传感器验证。
这个助手能记住你把钥匙放在哪里。无需网络连接,无需远程服务器。在由 Dylan Couzon 授课、与 Qdrant 合作开发的课程中亲手构建一个。免费报名:https://hubs.la/Q04zGYrF0 #AI #VectorSearch #AIEngineering
Amazon Bedrock AgentCore payments 为 AI 智能体提供托管的按需支付能力,支持 x402 协议并在基础设施层强制执行支出限制。Incarna 利用该服务让智能体向 BlockRun 按请求购买模型推理,将集成工作从数月缩短至三天,并上线了端到端的按次付费流程。该方案通过 Coinbase CDP 钱包和 USDC 结算,确保每笔交易可审计且智能体无法超出预设预算。
Anthropic 发布了基于 Claude Managed Agents (beta) 的 Agent 自动化参考实现,用于定时读取 Slack 和 GitHub 源并推送简报。
推荐理由:官方提供了基于 Claude Managed Agents 的自动化参考实现,包含书签机制、记忆存储和护栏配置等具体工程细节。
Oracle 在招聘、工程和运营领域利用 ChatGPT Work 和 Codex,将专家知识转化为快速且可重复的工作流。这一应用显著提升了效率,使原本需要数天的任务能在几分钟内完成。
LangChain 推出 Restock 示例项目,演示如何利用 Managed Deep Agents、Stripe Link 和 Machine Payments Protocol (MPP) 构建具备真实支付能力的办公采购智能体。
推荐理由:原文通过 Restock 示例拆解了智能体接入 Stripe Link 与 MPP 协议的安全支付链路,展示了凭证隔离与人工审批的具体实现。
Amazon SageMaker HyperPod 提供基于 EKS 的多租户参考架构,支持团队间共享 GPU 集群并保障隔离与公平性。该方案整合 AWS IAM Identity Center、Kubernetes 命名空间及 HyperPod Task Governance,实现资源配额管理与成本分摊。
OpenRouter 基于 Ori 构建的 AI 销售智能体 Rasp 为其 5 人销售团队每月节省约 600 小时,并将交易周期缩短 34%。该智能体自动处理线索分类、首触邮件及 CRM 更新,日均成本降至约 $30,远低于此前近 $800 的水平。
Inferact 和 vLLM 团队在 DeepSeek-V4.1-Flash 发布后三周内完成深度优化,在 SemiAnalysis AgentX 基准测试中实现了低并发下 1.9 倍加速及高吞吐约束下 5.3 倍的吞吐量提升。
推荐理由:vLLM 团队详细拆解了针对 DeepSeek-V4.1-Flash 的 SWA 有界重放与内核融合优化路径,展示了如何通过系统级调优实现智能体场景下 5 倍吞吐提升的具体工程方法。
Amazon Quick 和 Amazon Bedrock Knowledge Bases 采用实时 ACL 验证机制,在查询时直接调用权威数据源 API 校验权限,以解决传统 RAG 中因同步延迟导致的权限过期问题。该方案结合预检索过滤与实时验证两阶段架构,确保 AI 生成的答案严格遵循用户当前的文档访问权限,避免泄露敏感信息。
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,效率提升 78%。该系统通过自动化工作流将手动生命周期步骤减少 70%,并实现 SRE 与数据团队的实时报告,同时使冗余警报中位数降低 65%。
AWS 推出六周结构化计划,帮助非技术背景员工利用 Amazon Bedrock AgentCore 和 Strands Agents SDK 构建 AI 原型。参与团队基于 Amazon Nova 模型开发多智能体金融顾问 WealthWise,实现亚秒级响应并获第一名。数据显示,分阶段学习比短期集训保留更多实用技能,90% 受访者渴望动手实践以弥合概念与落地间的差距。
AWS 推出基于 AWS DevOps Agent、Amazon EventBridge、AWS Lambda Durable Functions 和 Amazon Bedrock 的自动化修复工作流。