批判性思维

「要有批判性思维」是一句正确但没用的话。这一节不打算重复它，而是给一套可以照着做的动作：三步验证法——定性、定源、定责。每一步做什么、说什么话、看什么信号，全部写成具体的动作。这一节接上 § 13.1 的幻觉机制：模型输出假话时的语气和输出真话时一模一样，因为它的机制里压根没有「我不确定」这个环节的位置。说白了：你用了几十年的那个判断信号——「他说得那么肯定，应该没错」——在这里彻底失效了。所以本节的核心不是教你怀疑，是教你把「该怀疑到什么程度」变成一个可以计算的东西：先判断这句话属于哪一类（有些类别压根不需要验证），再决定验到什么程度，最后确认出错时谁承担后果。打个比方：安检不是对每个人都开箱检查，是先分类——什么东西必须过 X 光、什么东西看一眼就能放行。

先把地基说清楚：为什么它的自信是没有信息量的

这一段不新增知识，只是把 § 13.1 讲过的原理接到本节的动作上。因为不理解这一点，后面所有验证动作你都会觉得太麻烦。

人类社会里，语气和把握程度是相关的。这个相关性是长期社交演化出来的：一个人不确定时会加「大概」「我记得好像」「你最好再问一下」；确定时才会斩钉截铁。所以「他说得很肯定」在人际交流中是一个真实有效的信号——不是绝对可靠，但确实携带信息。

而在语言模型这里，这个相关性被切断了。原因 § 13.1 讲得很清楚：

• 它的输出是「按最像的样子接下去说」§ 8.2 讲的自回归生成机制：一次预测一个词，每次都选最合适接在后面的那个。而「这句话我有几分把握」这个信息，压根不在这个流程里。其实就是：造句机制里没有一个专门管「置信度」的开关。
• 评分制度奖励猜、不奖励承认不确定§ 13.1 引的 OpenAI 那篇（arXiv 2509.04664，arXiv 预印本，未见同行评议）原文：训练与评测流程奖励「猜」而不奖励「承认不确定」，模型被优化成了「好的应试者」。在一场答错不倒扣分的考试里，蒙一个永远优于留空——所以「什么都敢答」是被制度培养出来的性格，不是品行问题。
• 假话和真话在形式上没有区别§ 13.1 给幻觉的定义是「过度自信、看起来很合理、但实际为假」。三个词都不能少：它编出来的编号校验位是对的、论文标题符合该领域的命名习惯、法条编号格式正确。相当于假钞——正是因为长得像真的，才有欺骗性。

所以本节要你放弃一个习惯：不要再用「它说得多有把握」来判断内容。那个信号在这里是空的。

但要注意别走到另一个极端：「它的自信没有信息量」不等于「它说的都不可信」。大多数时候它是对的——这正是问题所在。如果它十次里错九次，你早就不用它了；正是因为它十次里对九次，那第十次才有杀伤力。打个比方：一个红绿灯十次里有九次正常，比一个坏掉的红绿灯危险得多——坏掉的那个你会绕开走，偶尔失灵的那个你会照常闯过去。

第一步 · 定性：先判断这句话属于哪一类

这是三步里最重要的一步，也是最容易被跳过的一步。因为它决定了后面要不要验、验到什么程度。

如果对所有输出一律验证，成本高到你根本不会执行——任何需要「时时保持警惕」的方案都会失败，因为人的警惕是有限资源。可执行的方案必须是分级的。

先按一个维度切：这句话能不能被外部资料判真假？

这张表最实用的价值在于：它告诉你不需要对所有输出都紧张。你每天用它做的大部分事情落在第 ④ ⑤ 类，那些完全不必费神验证。真正需要动作的是第 ①、② 类，以及第 ⑥ 类需要的是「拿回决定权」而不是「验证」。

而实践中最常见的失误，正是把第 ① 类当成第 ④ 类处理——你在做一件语言加工的活（写报告），但它在过程中顺手给了你一个具体数字，你没意识到这句话的性质变了，于是那个数字就这么进了成品。

相当于你在超市推着车随便逛，随手拿了几样东西；但其中一样是药，而药这一样是不能随手拿的。问题不在你逛得不认真，在于你没注意到手里那样东西换了类别。

第二步 · 定源：三种具体的验证动作，按成本从低到高

定性之后，落到「怎么验」。这一步要给的是三个具体动作，而不是「去核实一下」这种空话。三个动作成本递增，按需选用。

动作一（十秒）：让它自己标出哪些地方需要核实。

【自标风险清单】

针对你刚才那段回答，做三件事，不要重复原答案：

1. 列出其中所有「可以被外部资料判真假」的句子，
   逐条标注：数字 / 日期 / 编号 / 人名 / 机构 /
   引语 / 法律状态 / 版本号。
2. 对每一条标一个把握程度：
   「有明确依据」/「凭常见说法」/「不确定」。
3. 明确回答：这段回答里，
   哪一条如果错了对我影响最大？

如果某条你其实不确定，请直接写「不确定」，
不要给我一个看起来确定的说法。

这个动作有效，但必须知道它的局限，否则会造成虚假的安心。它的局限是：让它自评置信度，不构成独立验证。因为按 § 13.1 讲的机制，「我有几分把握」这个信息并不是它内部真实存在、只是没说出来的东西。说白了：你问一个记性不好的人「你这句话有多确定」，他的回答同样是凭感觉给的。

那它为什么还值得做？因为它有一个很实在的作用——把「需要核实的清单」列出来了。这份清单是你的工作清单，而列清单这件事它做得很好（属于第一步表里的第 ③ 类「结构与分类」）。其实就是：它不能替你验，但能告诉你有哪几处要验，这已经省了你一大半功夫。

动作二（两分钟）：换问法问第二遍，看它会不会自相矛盾。

具体做法有三种换法，效果不同：

真正去第一手核实：动作三，以及四条信源顺序

动作三（几分钟到几小时）：去原始来源看。这是唯一真正的验证——前两个动作严格说都只是筛选，真正的确认只能靠这一下。

而「去原始来源」这件事也有讲究，§ 14.2 给的三条硬纪律在这里再明确一次，并补上一条判断信源的顺序：

• 第一手优于转述法规看发布机构的原文，论文看 arXiv 或期刊页面，产品价格看官方定价页，判例看法院文书。转述会丢限定词，而限定词往往是最要紧的部分。§ 13 章反复举过这个例子：删掉 up to（上限）、preliminary（初步）、expected（预期）这类词，数字的意思就完全变了。
• 注意信源身份与它能回答什么这是第 12 章给出的一个很好用的区分：第三方平台清单权威回答「在我这能用到什么」，厂商文档权威回答「规格与价格」。拿平台上列出的型号说「厂商已经发布了这个版本」就是越界。打个比方：超市货架上有这个牌子的新品，只能说明超市在卖，不能说明厂家官方发布了它。
• 官方也会自相矛盾，要并列不要挑一个第 12 章记录过 OpenAI 三个官方页面同日给出三种口径、TRAE 中英文站说法不一致、C2PA 规范内部各组件版本不齐。处理办法是把几处原文一起列出来、各标出处与日期，不挑一个当唯一答案。「呈现分歧」比「给出一个和谐答案」诚实得多。
• 查不到就写「未取得」这一条最反直觉但最重要。本站第 13 章有十六处、第 12 章有八处这样的留白，并且把尝试过的地址与失败原因写进正文。理由：留白让读者知道这里需要自己去查，编一个出处会让读者以为已经查清了。

第三步 · 定责：错了谁承担，决定你该验到什么程度

这是三步里最容易被忽略、但最能校准力度的一步。前两步告诉你「怎么验」，这一步告诉你「验多深才算够」。

判断标准只有一句：验证的力度应当匹配「错了之后由谁承担、承担多少」。

最后一行是这一步真正想说的话，值得单独讲清楚：有一类事情，无论你验证得多认真都不够。

因为这类事情缺的不是信息，是责任。医生给你开药，除了给出判断之外，还提供了一样 AI 无法提供的东西——他为这个判断负责，他有执业资格，出了事有追责路径，而且他能看到你这个具体的人。

打个比方：你在装修论坛上把某个电路问题研究了三天，读了几十篇帖子，比很多电工都懂原理。但涉及入户主线改造时，你还是要请有资质的电工——不是因为你懂得不够，是因为「谁为这个结果负责」这件事不能由知识量决定。

第 13 章的 § 13.3 也是这么处理的：那一节写了大量法律内容，但反复声明「本文不构成法律建议」，并给出三句提醒——法律有辖区、案件状态随时变化、地区法院裁定不等于终局判决。它讲清了争议焦点在哪，但明确说不能作为任何具体行为的合法性依据。这就是「定责」这一步在写作上的体现。

三步之外的一件事：警惕「它顺着你说」

三步验证法处理的是「它说错了」。但还有一类问题不属于说错，而属于说了你想听的，这一类三步法查不出来，得单独防。

现象是这样的：你的问法泄露了立场，它顺着你的立场给出理由。而你收到的东西看起来是「独立的支持」，实际上是你自己观点的回声。

这件事最危险的地方在于：它让你觉得自己得到了验证，而其实什么都没发生。相当于你在一个只有自己的房间里说话，听到回声，以为有人同意你。

几种典型的「泄露立场」的问法，以及改法：

这张表里最后一行值得单独强调，因为它是一个很常见的无效动作：问它「你确定吗」「这个可靠吗」，得到的确认没有任何证明力。理由和本节开头那段一样——它的「确定」和它的内容正确性之间没有机制上的关联，所以让它自我担保等于零信息。

还有一个更根本的提醒：这类问题不是「模型的毛病」，是提问方式的必然结果。§ 10 章讲过，语义几乎相同的两句提示词效果可以差很远。说白了：你问出去的话里带着答案的形状，收回来的东西自然是那个形状。相当于你去买衣服说「我觉得这件挺显瘦的吧」，导购几乎一定会说「特别显瘦」。

把三步串成一个可执行的检查动作

三步讲完了，现在压缩成一个能在几十秒内跑完的动作序列。这是本节最想让你带走的东西。

【三步验证 · 快速版】

第 1 步 定性（五秒）
问自己：这段里有没有「能被外部资料判真假」的句子？
 · 没有（纯改写 / 纯创意）→ 到此结束，不用验
 · 有 → 把那几句圈出来，进第 2 步
 · 如果是「该不该 / 值不值得」这类 → 不是验证问题，
   而是不该让它下结论（转 § 14.5）

第 2 步 定源（十秒到几分钟，按需升级）
 · 让它列出需要核实的清单（十秒，只当工作清单用）
 · 追细节：出自哪份文件、哪个机构、哪一天、原文怎么写
 · 去第一手来源看，保留限定词，记下访问日期
 · 查不到 → 写「未取得」，不要用差不多的出处替上

第 3 步 定责（五秒）
问自己：这句话错了，谁承担、承担多少？
 · 只有我、损失小 → 上面做到哪步就到哪步
 · 我的信誉 / 别人会照它行动 → 硬事实必须到第一手
 · 后果不可逆（医疗/法律/财务/安全）→ 停。
   这一档需要的是有专业责任的人，不是更仔细的验证。

这个序列的设计有一个刻意的地方：第 1 步就把大部分情况放行了。因为你日常用它做的事，绝大多数落在「纯改写、纯创意、找思路」这些不需要验证的类别里。一套只在需要时才启动的检查，才是你真的会执行的检查。

而第 3 步放在最后，是因为它决定「要不要把第 2 步再往上升一级」。顺序反过来也可以，实践中很多人是先感觉到「这事挺重要」，然后才开始认真核。本质上就是：先看这道菜是给自己吃还是招待客人，再决定要不要挑最好的那块肉。

一个反过来的提醒：别把批判性变成不用

这一节讲了很多要小心的地方，所以结尾必须把天平摆正——否则读完这一节的效果会是「算了我不用了」，那就完全走反了。

第一，验证成本是真实的，但它比重做成本低得多。核一个数字花两分钟；用了一个错数字被人当众指出来，损失是这两分钟的几百倍。相当于出门前看一眼有没有带钥匙——花三秒，省下的是被锁在门外的两小时。

第二，「不用」不是安全选项，它有自己的代价。别人两小时干完的活你花两天，这个损失是持续发生的、而且不会有人提醒你。章总览页说过一句：神化的人不检查，贬低的人不用，两种误判的代价是一样的。

第三，本节的方法都是低成本的。整套三步验证在大部分情况下只需要五秒（第 1 步定性就放行了）。真正需要动作的是那少数几句硬事实。而这少数几句，恰好也是最值得花时间的。

第四，也是最要紧的一条：验证能力本身是一种可以增长的能力。你核实的次数越多，就越知道哪些地方容易出错、哪些说法一看就该怀疑。打个比方：一个逛惯了菜市场的人一眼能看出哪筐菜是今早的，这不是天赋，是买过几百次的结果。而这种能力恰恰是 AI 时代最保值的东西——工具会一代代换，判断力是你自己的。

最后借用第 13 章那句已经用过、但在这里同样成立的话：洗手消灭不了所有细菌，但这从来不是不洗手的理由。

五种最常见的错法，以及它们的识别信号

三步验证法是流程。这一段给的是模式识别——如果你熟悉这五种典型错法，很多问题不用走完流程就能当场看出来。

这五种全部来自第 12、13 章核实工作中反复撞到的真实模式，每一种都配一个「一看到就该警觉」的信号词。

这五种错法有一个共同的结构，值得单独点出来，因为看懂它你就能识别第六、第七种：全部都是「把一个有范围的结论，搬出它的范围去用」。

说白了：一个说法在它自己的那块地里完全正确，被搬到隔壁地里就错了。而搬运这个动作，通常是靠删掉那些标明边界的词完成的——「在某数据集上」「地区法院」「预期」「最高」「初步」。相当于把药盒上的「儿童每次半片」剪掉「儿童」两个字，剩下的话每个字都是原来的，但意思完全变了。

所以本节最简洁的一条实操建议是：看到任何强结论，先找它的限定词在哪。找不到限定词的强结论，八成是被人剪过的。

怎么把这套东西教给别人（尤其是家里的长辈）

这一节的方法你自己会用是一回事，家里人会用是另一回事。而后者往往更要紧——因为最容易被错误信息伤到的，通常不是你。

教给别人时不要教流程，要教一句话。三步验证法对你有用是因为你读了这一整节；对一个不打算深究的人来说，一整套流程等于没有。

实践中比较有效的做法是给一句好记的话，加一个具体动作。下面三组是可以直接用的：

• 对长辈：「它跟你一样会记错，只是它说话更好听」这句话有效是因为它把 AI 放在了一个熟悉的位置上——一个热心但记性不完全可靠的熟人。长辈对这类人的处理方式其实很成熟（听着，但不完全照办）。难点不在于教他们怀疑，在于打破「电脑说的就是准的」这个印象。配套动作：凡是涉及吃药、看病、转钱这三件事，一律先打电话问一句。
• 对孩子：「它是很会说话的同学，不是老师」孩子对「同学」这个身份的理解很准确——同学可以一起讨论、可以互相出题，但同学说的不能直接当答案抄。配套动作：让它出题、让它挑错（§ 14.1 那套做法），但作业答案不抄它的。
• 对同事：「它给的出处是线索不是依据」这一句在职场语境里最有效，因为它直接对应可执行的动作，而且不需要理论铺垫。配套动作：交付前把所有具体数字圈出来，逐个点开来源看一眼。其实就是财务交账前对一遍凭证——不是不信任，是流程本来就该这样。

还有一件事在跟别人解释时特别管用，值得单独说：不要用「它会犯错」这种说法，要用「它错的方式和人不一样」。

因为「会犯错」这句话没有信息量——谁都会犯错。真正需要传达的是那个差异：人不确定时会露出迟疑，它不会；人不知道时会说不知道，它会给你一个格式完美的答案。

打个比方：你问路，一个真的不认识路的本地人会说「这我不太清楚，你问问前面那个报刊亭」。而它会给你一个非常具体的路线——街道名、拐几个弯、走多少米——而那条路可能不存在。本质上就是：它没有「不知道」这个档位，所以你不能靠「它有没有露出不确定」来判断。

最后一条提醒，是给你自己的：教别人时不要把它说得很可怕。如果你把结论讲成「这东西不可信，别用」，实际效果通常是两个极端之一——对方要么完全不用（错失真实的便利），要么在你不在场时照旧用而且不设防（因为你的警告太笼统，落不到具体动作上）。有效的教法永远是「在这种情况下这样做」，而不是「这东西危险」——这正是第 13 章那个菜刀类比的意思：厨房里没有一条规则是「别用刀」，全都是「在这种情形下这样握」。