AWS详解Bedrock上OpenAI模型Prompt Caching模式

AWS官方博客发布指南，由Claudio Mazzoni介绍如何在Amazon Bedrock上为OpenAI模型（如GPT-6 Astra）实施提示词缓存以优化AI智能体性能。文章演示了隐式与显式缓存断点的配置方法，以及处理工具动态添加和子代理共享前缀的代码实现。 该策略需满足特定条件：可复用前缀必须达到1,024个令牌；缓存前缀的最小生存时间为30分钟，成功复用会刷新此时间；缓存写入费用为正常输入费率的1.25倍。据文中指出，此策略可将六轮对话的输入成本降低约62%。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。