通俗解释
在 MT-Bench 和 Chatbot Arena 上验证,GPT-4 评委与人类偏好一致率超过 80%,但存在位置偏差、长度偏差和自我偏好,需要交换顺序等校正。
用在哪里:模型评测、RAG/Agent 自动评估
01原始论文
Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena
Lianmin Zheng, Wei-Lin Chiang, Ying Sheng, et al. · 2023
arXiv ↗ ✓ 已核实 · arXiv API
02知识位置
左边先学;右边是学完它之后可以学的。
左:前置 · 右:后继 · 虚线:相关。看完整关系图 →
03学习资料
官方文档、图解、课程和参考实现,链接都核对过。
04在课程里哪里学
U81 RAG 系统工程与评估 切分、查询改写、HyDE、GraphRAG、引用、评估指标。 8 小时4 个算法3 篇论文已有正文 U83 AI 应用工程:评测、成本与上线 自建评测集、LLM 评委、可观测性、模型网关、成本控制、产品设计。 8 小时3 个算法1 篇论文 U90 评测与基准 主流基准、竞技场、数据污染、能力评估的局限。 6 小时2 个算法2 篇论文已有正文
所在学习路线:AI 应用工程师
给 AI 读 / 数据说明
- 核实状态:已核实,核对于 2026-10-21。
- JSON: /api/learn/algorithms.json (id:
llm-judge)