agent 读网页、文档时被提示注入怎么防

现象

• agent 读了某个网页或 issue 后，开始执行与任务无关的操作
• 工具返回的内容里夹带“忽略之前的指令”之类文字

常见原因

• 外部内容和用户指令混在同一上下文里
• agent 同时拥有读取不可信内容和执行敏感操作的权限

解决步骤

1. 最小权限：读外部内容的 agent 不给发邮件、推代码、转账等写权限，或要求人工确认
2. 对发帖、发送、删除等不可逆操作一律加人工确认
3. 用 LLM Guard 等输入/输出扫描器过滤明显的注入和敏感信息外泄
4. 上线前用 garak、PurpleLlama 等工具做红队测试，评估模型对注入的敏感度
5. 记录完整 trace，出问题时能追溯是哪段外部内容触发的

注意

• 扫描器只能降低风险，不能保证拦截所有注入