Skip to content
简体中文

切换主题

arXiv 2610.28577 · cs.CL · 2026-10-20

Cache Engineering for Agents

Tianyu Fu, Ruoxi Wang, Zihan Min, Zhongqi Ren, Zhihao Li, Tengxuan Liu, Shengxu Mu, Hanling Zhang 等 9 人

Tsinghua-NICS-EFC

在最新榜 #40 本站收录于 2026-10-23

一句话要点

清华团队提出“缓存工程”:让智能体直接操作自己的 KV Cache(drop 丢弃、repos 调整位置编码),而不是裁剪或总结历史,避免重新预填充;配套 AKV 推理引擎,相比阈值触发的摘要方案平均成本降 27.7%、基准分高 1.7 分。

Tsinghua researchers propose cache engineering: agents directly edit their KV cache (drop entries, reposition keys) instead of trimming or summarising history, avoiding re-prefill; with the co-designed AKV engine, a rolling-drop policy cuts average cost by 27.7% and adds 1.7 benchmark points vs summarisation.

159HF 点赞
100GitHub stars
0引用(Semantic Scholar)
67.3热度分

阅读 arXiv 原文 PDF Hugging Face 讨论 代码仓库 项目页

数据说明

元数据来自 arXiv API(已核实);点赞来自 Hugging Face 每日论文;引用来自 Semantic Scholar。最近刷新 2026-10-26。

要点由本站根据摘要自写,不转载摘要原文,请阅读原文。

数据更新于:最新 AI 论文(北京时间)