Day 9 · 李宏毅课（三）：能力边界与幻觉对策

今日目标

认清模型最容易编造的领域，学会三件套式的防幻觉打法。

学什么

李宏毅课中讲模型局限、可靠性与安全的一集。

要点速记

• 幻觉的成因：它在补全「读起来像真的」文本，而不是「查证过的事实」——流畅度和真实性是两回事。
• 最易编造的重灾区：具体数字、日期、人名、产品参数、冷门 API 的细节——凡是要对外用的，必须自己复核。
• 对策三件套：①让它明确标注不确定的地方；②先喂一手材料再让它答（只许用材料内的信息）；③关键事实用搜索或原件二次验证。
• 算术和精确计数别让它裸算：给它步骤、让它列竖式般的过程，或者直接上工具，口算必错只是迟早的事。

今日练习

故意问它一个冷门细节问题，观察它是否一本正经编造；再用搜索验证，把「它编了什么、我怎么发现的」记下来。

打卡清单

• 模型局限一集看完
• 背下防幻觉三件套
• 完成一次抓幻觉实测