第 4 课 AI 为什么会瞎编，怎么防
它不是在撒谎，是在猜。知道这一点，就知道什么时候不能信它。
AI 编出一篇不存在的论文、一条不存在的法条，这种现象叫幻觉（hallucination）。
原因在第一课：它在猜「听起来最像答案的话」，而不是去查资料。它不知道自己不知道，所以编的时候语气和说真话时一样笃定。
哪些内容最容易错
- 具体的数字、日期、人名、网址。
- 论文、书籍、法条、判例的出处。
- 最近发生的事：模型的知识有截止日期，没开联网就不知道之后的事。
- 冷门话题：资料越少，它越只能靠猜。
怎么防
- 让它给出处，然后自己点开看。链接打不开、原文没这句话，就是编的。
- 打开联网搜索，让它先查再答。
- 把资料贴给它，要求「只根据下面的内容回答，找不到就说不知道」。
- 换一个 AI 再问一遍。两家说法不同的地方，就是要自己核实的地方。
医疗、法律、钱相关的事，AI 的回答只能当线索，最后要问专业的人。站内的不瞎编榜可以看哪些模型更靠谱，但排第一的也会错。
本课由 AI 辅助撰写，再按公开资料核对，具体操作以各家官方文档为准。