// AI 新闻 · 2026-11-08 · Dev.to LLM
osFoundry 优化 Claude Code 响应机制以降低缓存开销
osFoundry 在 Message channel 中维持 Claude Code 的长期活跃会话,通过精简 prompt 结构和过滤冗余信息实现低资源消耗。会话生命周期由 runtime/resident.rs 控制,最多保留四个活跃进程,超30分钟空闲则终止。每次用户消息触发时仅传递最新12条消息,剔除重复、过期或已处理的记录,并通过 watermark 机制确保状态一致性。
原文发布 2026-11-08 01:43(北京时间)来源 Dev.to LLM自动整理 · 已核对原文
01摘要
关键设计包括:去除系统提示重放、不发送历史消息、过滤无意义的 @claude 提及;消息截断至600字符并标注扩展内容;失败运行时清除历史记录,避免数据残留。该方案在保持上下文连贯性的同时显著减少 token 使用量,尤其在高频率提及场景下表现稳定。
由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。
02要点
- 会话通过 Lease 机制控制,最多维持4个活跃进程,30分钟空闲后终止。
- 每轮仅传递最新12条消息,过滤重复、过期及已处理的记录。
- 采用 watermark 机制确保状态一致性,失败运行时清除历史数据。
- prompt 构建中去除重放逻辑,避免用户输入与历史响应交叉引发指数级增长。
03原文出处
Dev.to LLM · 发布于 2026-11-08 01:43(北京时间) · 上方为原标题
05相关新闻
出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 2026-11-08 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日