Skip to content
简体中文

切换主题

// 报错 · 在本机跑模型

Ollama 长文档被截断、模型“忘记”前文

Ollama 默认的上下文长度比很多模型支持的上限小得多(默认值随版本变化)。输入超过上下文长度时,前面的内容会被丢掉。

核实于 2026-10-101 个官方来源

场景:在本机跑模型 →

🖥️自建算力自建算力专区:判断 → 选型 → 装机 → 运维,含计算器→

现象

  • 把长文档发给本地模型,回答只涉及最后一部分
  • agent 在多轮对话后忘记早先的指令

常见原因

  • 上下文长度(num_ctx)仍是默认值

解决步骤

  1. 临时调整:在 ollama run 会话里输入 /set parameter num_ctx 16384
  2. 全局调整:启动服务前设置环境变量 OLLAMA_CONTEXT_LENGTH(较新版本支持,见官方 FAQ)
  3. 通过 API 调用时,在请求的 options 里传 num_ctx
  4. 也可以写一个 Modelfile,加入 PARAMETER num_ctx 16384 后 ollama create 一个新模型
  5. 上下文越大占用显存越多,按硬件量力设置

官方参考

2026-10-10 根据官方文档和公开讨论整理,尚未在本站环境复现;与官方文档不一致时以官方为准。

数据更新于:常见问题 / 报错