// AI 新闻 · 2026-10-27 · AWS Machine Learning Blog
AI代理提示缓存优化：减少重复输入成本
AWS在博客中介绍，当AI代理每次执行动作时，需重新发送完整上下文，导致输入成本高且延迟大。通过在Amazon Bedrock上启用提示缓存，系统可存储并复用前次请求的输入内容（如工具定义、指令和历史记录），避免重复读取，显著降低token开销。
原文发布 2026-10-27 01:27（北京时间）来源 AWS Machine Learning Blog自动整理 · 已核对原文
01摘要
具体而言，提示缓存将模型预填充阶段生成的键值状态保存下来，后续请求若输入相同，则直接加载已有状态，仅处理新增部分。该功能支持隐式和显式两种模式：隐式由平台自动判断缓存边界，显式则允许开发者明确标记工具与指令等静态内容为可复用部分，推荐结合使用以兼顾灵活性与效率。
由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。
02要点
- AI代理每次行动需重传完整上下文，导致输入成本持续上升。
- 提示缓存通过保存预填充状态，复用历史输入，仅处理新增内容。
- 显式模式可标记工具和指令为静态内容，确保跨会话复用，要求前缀达1024个token才生效。
- 缓存有效依赖输入文本完全一致，需保证工具与指令序列化方式统一。
03原文出处
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AWS Machine Learning Blog · 发布于 2026-10-27 01:27（北京时间） · 上方为原标题
05同主题新闻
出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 全部 AI 新闻 · 今日