Skip to content
简体中文

切换主题

// 阶段 0 · 预备:AI 通识与上手

幻觉、可靠性与使用边界

理解模型为什么会一本正经地编造,以及如何核查与降低风险。

约 2 小时2 个算法1 篇论文正文编写中

01学习目标

建议先学:AI、机器学习、深度学习与大模型是什么

02要掌握的算法

每张卡都有原始论文、前置和学习资料。

03必读论文

04课程与视频

05动手:项目、代码与练习

全部是官方或作者公开的免费页面,多数能在浏览器或免费 Colab 里直接运行。

动手项目

挑 10 条模型给出的“带出处”的说法逐条点开出处核对,统计真实、部分正确、编造的比例。

  1. 1
    sylinrl/TruthfulQA(幻觉评测集) ↗参考实现

    挑 20 道 TruthfulQA 题目测两款模型,统计“自信地答错”的比例。

  2. 2
    promptfoo/promptfoo(提示词测试与红队) ↗参考实现

    为你的提示写断言,自动批量检查事实错误和格式错误。

06自测题

先自己想,再点开看答案。

幻觉的根本原因之一是什么?

模型按概率生成看似合理的文本,并不自带事实核查。

RAG 如何降低幻觉?

先检索真实资料再让模型基于资料作答,并给出引用。

哪些信息不该直接粘贴给公共聊天机器人?

密码、身份证号、客户隐私、未公开商业机密等。

所在人群路线:零基础使用者 · 产品与管理者

数据更新于:AI 算法图谱与课程体系(北京时间)