AI 的"短板"和"毛病"
📍 本文适合完全零基础读者，预计阅读 10 分钟。本专题第 6/8 篇。
你将学到：AI 的 5 个核心局限（幻觉、知识过期、偏见、不理解、数学差），以及安全使用 AI 的黄金法则。
---
学习目标
🎯 学完本文后，你将能够：
- 识破 5 个最常见的 AI 误区和局限
- 知道什么时候该相信 AI、什么时候必须自己核实
- 建立对 AI 的理性认知：既会用它，又不盲信它
---
前置唤醒
📚 开始之前，你需要理解：
- 大模型本质上在做概率预测，不是逻辑推理（见本专题第 1 篇）
- 大模型的训练数据有截止日期（见本专题第 3 篇）
---
1. 引子：AI 不是神，它有很多"毛病"
前面五篇文章我们都在讲 AI 有多厉害。但如果你以为 AI 是完美的，那你就危险了。
事实上，AI 有很多"短板"和"毛病"。了解这些，不是为了让你害怕 AI，而是让你用得更聪明、更安全。
就像一个工具——菜刀很好用，但你也得知道它会割手。AI 也一样。
✨ 一句话记住：了解 AI 的局限，才能更好地驾驭它。
---
2. 毛病一：幻觉（Hallucination）—— 一本正经地胡说八道
2.1 什么是幻觉？
💬 简单来说，幻觉就是 AI 非常自信地说出完全不存在的事实。
这是 AI 最危险的"毛病"，因为它回答得太像真的了。
曾经有个真实案例：一位律师让 ChatGPT 帮他找判例，ChatGPT 编造了 6 个完全不存在的案件，律师没核实就直接提交给法院了——后果非常严重。
2.2 为什么会发生幻觉？
还记得第 1 篇里讲的吗？大模型本质上是在做概率预测。当它遇到一个没有确切答案的问题时，它不会说"我不知道"——它会选一个"概率最高的可能回答"。
而这个"概率最高"的回答，可能是它从训练数据的各片段中"拼凑"出来的，根本不等于事实。
🔗 类比映射：一个背了很多书但不理解的人 —— 你问他"明朝第三个皇帝登基那天的天气怎么样？"他可能根据"登基通常是大晴天"编一个答案，听起来有理有据，但完全是编的。
2.3 怎么办？
✨ 一句话记住：AI 的输出是"参考"，不是"事实"。
---
3. 毛病二：知识过期 —— AI 活在"过去"
3.1 什么是知识过期？
💬 简单来说，AI 的知识停留在训练数据截止的那一天，之后发生的事情它完全不知道。
比如，一个训练数据截止到 2024 年 6 月的模型，你问它"2025 年诺贝尔奖得主是谁？"它要么说不知道，要么瞎编。
3.2 不同模型的应对方式
好消息是，现在很多 AI 工具（如豆包、DeepSeek、Kimi）都支持联网搜索。你只要确保打开了联网功能，它就能查到最新信息。
但要注意——即使开了联网，AI 的"底层知识"仍然是旧的。联网只是一个补救措施，不能完全依赖。
✨ 一句话记住：查最新的事情，先确认 AI 有没有"联网搜索"功能开着。
---
4. 毛病三：偏见 —— AI 是"社会偏见的镜子"
4.1 什么是 AI 偏见？
💬 简单来说，AI 的偏见来自于训练数据中的偏见——数据有什么偏见，AI 就学什么偏见。
举个例子：如果训练数据中"护士"大多数是女性、"CEO"大多数是男性，那么 AI 在生成相关内容时也会默认这种刻板印象。
AI 不是"客观中立"的。它是训练数据的镜子——数据里的问题，镜子会反射出来。
4.2 这意味着什么？
✨ 一句话记住：AI 不中立，它反映了人类世界的偏见。
---
5. 毛病四：不真正理解 —— AI 在做概率，不是思考
5.1 核心误区
很多人以为 AI "很聪明"、"在思考"。这是最大的误解。
💬 简单来说，AI 的回答是计算出来的，不是想出来的。
它根据你输入的每个词，计算出下一个最可能出现的词；然后根据这个词，计算再下一个词……如此反复，直到完成回答。
整个过程没有"思考"、没有"理解"、没有"意识"。只有数学计算。
5.2 这意味着什么？
🔗 类比映射：一个巨大的"中文房间" —— 房间里的人不懂中文，但他拿着一本超厚的规则书，告诉他看到什么符号就输出什么符号。外面的人以为他懂中文，其实他只是机械地执行规则。
✨ 一句话记住：AI 是语言模仿者，不是思想拥有者。
---
6. 毛病五：数学不一定好
6.1 AI 的数学能力
很多人觉得"计算机嘛，算数肯定厉害"。但大模型不是计算器。
因为大模型不擅长精确的数值计算——它擅长的是模式匹配。1+1=2 不是因为它"算了"，而是因为在训练数据里见过太多次"1+1=2"。
所以遇到复杂计算（特别是多位数乘除、复杂方程），AI 经常会出错。
6.2 怎么办？
✨ 一句话记住：AI 是语言天才，但不是数学天才。
---
7. 安全使用 AI 的黄金法则
总结前面的所有教训，记住三条铁律：
---
8. 常见误区速查
---
9. 练习与思考
练习 1：判断题
判断以下说法是否正确：
A. AI 有时候会"一本正经地胡说八道"（幻觉）
B. AI 知道所有最新发生的事情
C. AI 的输出应该无条件信任
D. AI 是客观中立的
<details>
<summary>查看答案</summary>
</details>
练习 2：场景判断
以下场景中，哪些适合直接信任 AI 的输出，哪些必须核实？
A. AI 推荐的周末出游路线
B. AI 给出的投资建议
C. AI 帮忙润色的朋友圈文案
D. AI 推荐的药品用量
<details>
<summary>查看答案与解析</summary>
经验法则：后果越严重，越不能信任 AI。
</details>
练习 3：反思
回想一下，你最近在用 AI 的时候，有没有遇到过它"瞎编"的情况？你是怎么处理的？
<details>
<summary>查看思路引导</summary>
如果你还没遇到过——恭喜。但你迟早会遇到。下次遇到 AI 胡说八道时，记住：这不是 AI"坏"，这是它的"天性"。概率预测模型天生就可能生成不准确的内容。解决方式是——核实、核实、再核实。
</details>
---
延伸阅读
---
本文总结
💡 核心收获：
- 五大毛病：幻觉（瞎编）、知识过期、偏见、不理解、数学差。知道这些不是为了否定 AI，而是为了更好地用它。
- 永远核实：涉及健康、金钱、法律等重要问题，AI 的回答只能作为参考起点。
- AI 是工具，不是权威：保持批判性思维，你是主驾驶，AI 是副驾驶。
⚠️ 注意事项：AI 的能力在不断进步，本文说的有些"毛病"未来可能被改善。但"AI 的输出需要人类把关"这个原则不会过时。下一篇是实战篇——我们会在不写一行代码的情况下，带你亲手操作几个 AI 工具。