偏见与公平性

模型没有立场，也没有恶意。但它学的是人写下来的东西，而人写下来的东西里装满了几百年积攒的成见。这一节要讲清三件事：偏见是怎么在技术层面钻进去的、它在真实系统里被测出了多大、以及一个几乎所有人都没想到的坏消息——「公平」这件事在数学上被证明了无法同时满足所有定义。本节是全章数字最密集的一节，因此对引用格外苛刻：每个百分数都会写清它测的是误报率还是漏报率、在哪个数据集上、样本构成是什么。这一节还会专门澄清一处 NIST（美国国家标准与技术研究院）自己出面纠正过的流传误读——那处误读在中文互联网上至今仍被大量转述。

「偏见」这个词在技术语境里指什么

日常说「这人有偏见」，指的是态度问题。但在机器学习里，偏见（bias）是一个描述性的词，指的是系统在不同人群之间表现出可测量的、系统性的差异。注意两个限定词：可测量（必须能拿数字说话）和系统性（不是偶然波动，是稳定重复出现的）。

这个定义有一个很实用的好处：它把争论从「你是不是坏人」拉回到「这个数字是多少」。相当于医院里判断有没有发烧不靠脸色，靠体温计的读数。也正因为如此，本节所有内容都建立在具体的测量结果上。

偏见钻进系统的路径大致有四条，为了后面讨论方便，先摆出来：

这四条里，第二条最容易被误解成第一条。很多人一看到系统对某个群体表现差，第一反应是「设计者有歧视」。但更常见的真相是训练集里这个群体的样本太少——下面 Gender Shades 那份研究给出的数据集构成，恰恰把这一点摆得明明白白。

Gender Shades：把「差多少」第一次量出来

这是这个领域最重要的一份工作，也是本节数字最需要引准的地方。

出处要写全：Joy Buolamwini 与 Timnit Gebru，标题 Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification，发表于 PMLR 第 81 卷第 77–91 页，2018 年，会议是 Conference on Fairness, Accountability and Transparency（2018-02-23/24）。状态：同行评议会议论文。

研究做的事很朴素：找几个商用的「从人脸照片判断性别」的系统，然后按肤色深浅和性别交叉分成四组，分别测错误率。关键就在「交叉」这两个字——如果你只按性别分，或只按肤色分，问题会被平均掉，看不出来。

论文原文的数字是：darker-skinned females are the most misclassified group (with error rates of up to 34.7%). The maximum error rate for lighter-skinned males is 0.8%.

翻成中文并把限定说全：深色皮肤女性是被误分类最多的一组，错误率最高达 34.7%；而浅色皮肤男性的最大错误率是 0.8%。请注意原文两处都用了「最高 / 最大」（up to、maximum），这是上限值，不是平均值——转述时把「最高达」三个字删掉，就是数字滥用。

这两个数字放在一起是什么概念？34.7% 意味着大约每三张脸就错一张；0.8% 意味着大约每一百二十五张错一张。打个比方：同一台银行叫号机，对一部分客户几乎从不叫错，对另一部分客户三个人里叫错一个——你会说这台机器「准确率还不错」吗？平均下来它也许确实不错，但没有人是「平均」的，每个人都属于某一组。

然后是最能解释成因的那组数字，也是这篇论文最容易被忽略的贡献：它去查了当时常用的人脸数据集的构成，结果是——IJB-A 数据集中浅肤色主体占 79.6%，Adience 数据集中占 86.2%。

换成大白话：训练和评测用的照片里，将近八成到近九成是浅肤色的人。那么系统对深肤色人群表现差，就不需要用「设计者歧视」来解释了——相当于一个厨师学徒期间九成时间在做一种菜，你让他做另一种，结果自然差。这就是前面表里的采样偏见。

NISTIR 8280：一份被大量误引的官方报告

接下来这一节是全节最需要仔细读的。因为这份报告的结论在中文互联网上被引用得极多，而引对的比例相当低——而且 NIST 自己出面纠正过一次。

先把出处摆全：报告编号 NISTIR 8280，标题 Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects（人脸识别厂商测试第三部分：人口统计学效应），发布时间 2019 年 12 月，DOI 为 10.6028/NIST.IR.8280。发布方是 NIST（National Institute of Standards and Technology，美国国家标准与技术研究院）——这是美国商务部下属的官方标准机构，不是大学实验室也不是厂商。

规模值得单独说，因为它决定了这份报告的分量：测了 1827 万张图像、849 万个人，覆盖来自 99 家开发者的 189 个算法。换算成能感知的量：849 万人差不多是一座超大城市的常住人口——相当于把整座城市每个人的照片都拿去过了一遍安检机，而且是用 189 台不同厂牌的安检机各过一遍。这在同类研究里是极大的规模。

现在是最关键的一步：搞清它测的是哪种错。识别系统会犯两种截然不同的错，混淆这两种错是所有误引的源头。

NISTIR 8280 报告里最核心的一句结论，原文是：false positive differentials are much larger than those related to false negatives.（误报率的群体间差异远大于漏报率的差异。）

紧接着的量化表述是：false positive rates often vary by factors of 10 to beyond 100 times.（误报率在群体间的差异往往达到 10 倍到 100 倍以上。）

请注意：10 到 100 倍这个数字，说的是「误报率」的倍数差，不是「整体错误率」，更不是「准确率」。这个区别不是学术洁癖——它决定了这份报告到底在说什么。说白了就是：报告说的是「不同群体被认错成别人的概率差很多倍」，而不是「某些群体的人脸就是识别不出来」。

报告的其他几条具体结论，同样值得逐条准确记住：

• 误报率最高与最低的群体误报率在西非、东非与东亚面孔上最高，在东欧面孔上最低。
• 一处极重要的反转 ★报告原文写道：with a number of algorithms developed in China this effect is reversed.（对于一批在中国开发的算法，这一效应发生了反转。）也就是说，这些算法在东亚面孔上的误报率反而低。这一条极少被中文报道引用，但它恰恰是最有解释力的一条——它说明问题不是「某种脸天生难识别」，而是训练数据里有谁。跟 Gender Shades 那两个数据集构成数字指向的是同一个结论。
• 性别差异报告观察到 false positives to be higher in women than men（女性的误报率高于男性）。同样是误报这一项。

那处「中国算法反转」的发现，值得再用一个比方讲透。相当于两个翻译：一个在英语环境长大的译员翻英文小说更顺，一个在中文环境长大的译员翻中文小说更顺。你不会说「中文天生比英文难翻」，你会说「看这个译员泡在哪种语言里」。识别算法在不同面孔上的表现差异，本质上就是这么回事——反映的是训练数据的构成，不是人脸本身的性质。

NIST 自己出面纠正过的一处误引

这一小节单独拎出来讲，因为它是本节最有价值的内容之一：一个官方机构主动指出「我们的研究被引用错了」。

NISTIR 8280 里有这样一句话：Those studies did not evaluate face recognition algorithms, yet the results have been widely cited to indict their accuracy.

翻成中文：「那些研究并未评估人脸识别算法，然而其结果却被广泛引用来指控人脸识别算法的准确性。」

这句话在说什么？有一批研究测的是「性别分类」这类任务（比如从照片判断性别），而不是「人脸识别」（判断这张脸是谁）。但它们的结论被大量转述成了对人脸识别系统准确率的指控。

这两件事的区别有多大？打个比方：

所以正确的说法应该分成两句：

• 关于性别分类Gender Shades（PMLR 81:77-91, 2018，同行评议）测的是商用性别分类系统，结论是深肤色女性组错误率最高达 34.7%，浅肤色男性组最大 0.8%。
• 关于人脸识别NISTIR 8280（NIST 官方，2019-12）测的是人脸识别，结论是误报率的群体间差异往往达 10 到 100 倍以上，而漏报率的差异要小得多；且部分中国开发的算法在东亚面孔上呈现相反的方向。

把这两句混成一句，就会得到那个流传极广的错误说法：「NIST 研究证明人脸识别对某些人群的错误率高出 100 倍」。错在两处：一是「错误率」应为「误报率」，二是把两类研究的结论混在了一起——而后者正是 NIST 自己出面纠正的那件事。

这里有一个方法论上的收获，比记住这些数字更重要：看到任何关于「AI 系统对某群体不准」的说法，都该问三个问题——测的是哪个任务？哪种错误？在哪个数据集上？这三问能挡掉绝大多数误引。相当于去医院看到一张化验单，你得先看清这栏测的是白细胞还是红细胞、参考区间是多少，才能判断高不高。

语言模型里的偏见：从词向量到问答基准

上面讲的都是图像。文字这边同样有实测结果，而且更早。

最经典的一项是 2016 年的词向量研究。出处 arXiv 1607.06520，作者 Bolukbasi 等，标题 Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings（男人对应程序员，那女人对应家庭主妇？——为词嵌入去偏），发布 2016-07-21，发表于 NeurIPS 2016，经同行评议。

先解释术语。词嵌入（word embedding）说白了就是把每个词变成一串数字（一个坐标），让意思相近的词坐标也相近。这在 §9.2 讲过；如果印象模糊了，可以这样想：相当于给每个词在一张巨大的地图上安排一个位置，「猫」和「狗」离得近，「猫」和「螺丝刀」离得远。

这篇论文原文的表述是：We show that even word embeddings trained on Google News articles exhibit female/male gender stereotypes to a disturbing extent. Geometrically, gender bias is first shown to be captured by a direction in the word embedding.（我们表明，即便是在 Google 新闻文章上训练出的词嵌入，也在令人不安的程度上呈现出女性 / 男性的性别刻板印象。从几何上看，性别偏见首先被证明可以由词嵌入空间中的一个方向所捕捉。）

「偏见是空间里的一个方向」这句话很值得停下来体会。换成大白话：在这张词语地图上，从「他」走到「她」是一个特定的走法（一个方向加一段距离）。而研究发现，如果你从「程序员」出发、按同样的走法走一遍，会走到「家庭主妇」附近。这不是研究者硬凑的，是数据里的统计规律自己长成这样。

论文的另外两句也重要：Second, gender neutral words are shown to be linearly separable from gender definition words in the word embedding. Using these properties, we provide a methodology for modifying an embedding to remove gender stereotypes.（其次，性别中立词在词嵌入中被证明可与性别定义词线性分离。利用这些性质，我们给出了一套修改嵌入以移除性别刻板印象的方法。）也就是说：这篇论文不只指出问题，还给了一套去偏的办法。

然后是几个专门用来测大模型偏见的基准，同样要把状态标清楚：

BBQ 那个「3.4 个百分点」值得掰开讲，因为它的设计很巧。它给模型一段信息不足的情境（比如描述了两个人，但没说谁做了那件事），然后问一个只能靠猜的问题。正确答案在这种情况下应该是「无法确定」。结果发现：当「符合刻板印象的那个答案」恰好是正确答案时，模型答对的比例更高。

打个比方：这就像一个学生做阅读理解，遇到没交代清楚的地方，他不写「文中未提及」，而是按自己的成见填一个。而这个成见有时候恰好蒙对了，有时候恰好蒙错了——3.4 个百分点这个差距，量的就是这个成见有多强。

WinoBias 的 21.1 分（F1）差距更直观。F1 是衡量这类任务好坏的一个综合分数，满分 100。21.1 分的差距相当于同一个学生做两套难度相同的卷子，一套考 80、另一套考 59——唯一的区别只是后一套里的角色安排「不符合刻板印象」。而且原文特别指出，规则式、特征式、神经网络式三种技术路线全都如此，说明这不是某一种算法的毛病。

最反直觉的一件事：公平性在数学上无法同时满足

到这里你可能已经有一个念头：既然能测出来，那把它调平不就完了？

这个念头非常自然，但它撞上了本节最硬的一堵墙。有两篇独立的工作分别证明了：几个直觉上都很合理的「公平」定义，在数学上不可能同时满足——除非满足两个极苛刻的条件。这不是「工程上难」，是「数学上不行」。

第一篇：Jon Kleinberg、Sendhil Mullainathan 与 Manish Raghavan，标题 Inherent Trade-Offs in the Fair Determination of Risk Scores（风险评分之公平判定中的固有取舍），arXiv 1609.05807，发布 2016-09-19，发表于 ITCS 2017（Innovations in Theoretical Computer Science），经同行评议。

第二篇：Alexandra Chouldechova，标题 Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments（具有差别性影响的公平预测：再犯预测工具中的偏见研究），发表于 Big Data 期刊 2017 年第 5 卷第 153–163 页。

两篇的结论方向一致，而且是各自独立得出的——这一点很重要，独立复现是结论可靠性的重要证据。核心结论可以概括为：当两个群体的「基础比率」不同、且预测不完美时，若干种公平定义无法同时成立。

先把两个术语翻译过来，不然这句话读不懂：

• 基础比率（base rate）说白了就是：在这个群体里，你要预测的那件事本来发生的比例。打个比方：某种病在 A 城的发病率是千分之一，在 B 城是百分之一，这两个数就是两地的基础比率。注意：基础比率的差异本身可能就是历史不公平的产物，但它是数据里的客观数字。
• 预测不完美指预测会出错。这几乎是所有现实预测的前提——只有在「百分之百准确」这种理想情形下，冲突才会消失。

那么冲突的到底是哪几个定义？下面用一个统一的场景来讲，会比抽象定义好懂得多。

三条都合理，但数学上你最多只能挑其中一部分——除非预测完美，或者两组基础比率完全相等。这两个例外条件在现实中基本都不成立。

为什么「删掉敏感字段」不管用

还有一个非常普遍的直觉解法：既然怕它歧视，那就别让它看见性别、种族、年龄不就行了？

这个做法有个名字叫「无意识公平」（fairness through unawareness），说白了就是「不看就不会偏」。它在实践中基本无效，原因在开篇那个招聘助理的故事里已经埋了：敏感信息并不只住在那一栏里，它散布在其他几十栏里。

这类替身特征有个术语叫代理变量（proxy variable），其实就是「虽然不是那个东西本身，但跟它高度相关、可以顶替它」的特征。打个比方：

• 你不写年龄，但写了毕业年份毕业年份基本可以反推年龄，误差就那么几年。相当于不告诉别人你几岁，但告诉他你是哪年上小学的。
• 你不写地址，但写了通勤时长和常用地铁站地铁站名几乎等于居住区域，而居住区域在很多城市与收入、族群高度相关。
• 你不写性别，但写了名字、爱好、社团经历这些特征各自都跟性别相关，合起来的预测力可能比直接给性别还强。
• 你不写收入，但写了手机型号与购物平台这在推荐与风控系统里是老套路了。本质上就是：消费痕迹是收入的影子。

所以正确的做法反而是反直觉的：你必须收集并保留敏感属性，才有可能测出偏见有多大。因为要算「不同群体之间差多少」，你就得知道谁属于哪个群体。相当于医院要研究某种药对老年人是否有额外副作用，就必须记录患者年龄——把年龄那栏删掉，副作用不会消失，只会变成看不见。

这里当然有一个真实的张力：收集敏感属性本身有隐私风险（这点 §13.3 会专门讲）。这两件事确实互相拉扯，没有免费的解法。但至少要明白一点：「不看」不等于「公平」，它只等于「测不出来」。

那到底能做什么：一份务实清单

讲了半节的坏消息，现在给能落地的部分。这些做法都不需要你是算法工程师。

• 一 · 按人群分组看指标，别只看平均值这是从 Gender Shades 学到的最重要一课：只看总体准确率，会把少数群体的坏成绩平均掉。而且要像 Gender Shades 那样做交叉分组（比如肤色 × 性别），因为单维度分组同样会掩盖问题。交叉这一步是那篇论文最大的方法论贡献。
• 二 · 先说清你要哪一种公平，并写下来既然三种公平不能同时满足，那就必须公开选一个，并说明为什么在这个场景里它更重要，牺牲了哪个。相当于装修时预算有限，必须公开决定「钱先花在防水还是花在柜子上」——含糊过去只会到时候扯皮。
• 三 · 分清误报和漏报，看哪种错更伤人这是 NISTIR 8280 教的：两种错的社会代价往往极不对称。安检把无辜者当通缉犯（误报）和门禁认不出你（漏报）显然不是一个量级的事。所以先问：在我这个场景里，哪一种错更不可接受？
• 四 · 查数据集构成，这一步最朴素也最有效IJB-A 的 79.6%、Adience 的 86.2% 之所以重要，是因为它们直接指出了修的方向。说白了就是：先看看训练和测试用的样本里各类人各占多少，缺的地方补上。
• 五 · 高风险决策一律保留人工复核与申诉通道涉及录用、贷款、医疗、司法这类会实质影响一个人生活的场景，模型的输出只能是参考项，而且必须有一条让人能问「为什么」并要求重审的路。这条比任何技术手段都重要，因为它承认了一件事：系统一定会有错，所以必须给错误留出纠正的出口。
• 六 · 别把 benchmark 分数当成「已经公平了」BBQ、WinoBias 这类基准测的是特定形式的偏见，在某个基准上分高，不代表在你的实际场景里没问题。相当于体检各项正常，不代表你身体没任何问题——只代表这些项目正常。
• 七 · 用你自己场景的数据做一次抽样测试这一条最容易被忽略，却往往最有用：拿你实际业务里的真实样例，人工标一小批，按人群分组看结果。几百条样本就能暴露不少问题，成本远低于事后返工。

如果这七条只能记两条：记第一条和第五条。一条让你看得见问题（分组看、别看平均），一条给出错留下退路（人工复核与申诉）。

「放大」不是修辞：为什么模型可能比数据更偏

很多介绍会说「模型会放大数据里的偏见」。这句话经常被当成一句情绪化的控诉，但它有具体的机制，值得说清楚。

第一个机制来自模型的工作方式本身：它要在每一步选一个最可能的输出。而「选最可能的那个」这个动作，本身就会把「多数」变成「全部」。

打个比方：假设某个岗位在历史数据里 70% 是男性、30% 是女性。这是一个有倾斜但仍然混合的分布。现在让模型「生成一张这个岗位的从业者照片」，它每次都倾向于挑最可能的那一类——结果生成一百张，可能九十几张都是男性。数据是七三，输出成了九一。说白了就是：把「多数票」当成「唯一答案」，多数就被四舍五入成了全体。

相当于一家餐厅做菜单调研，发现 60% 的人偏好辣、40% 偏好清淡，于是把菜单改成全是辣菜——理由是「按多数人的口味」。这个决策在每一道菜上都「符合多数」，但合起来的结果是那 40% 的人完全没得选了。

第二个机制是反馈循环（feedback loop），这个在开篇那个招聘助理的故事里已经出现过：系统的输出会变成下一轮的输入。

展开来说：如果一个筛选系统倾向于拒绝某类候选人，那这些人就不会进入组织，于是永远不会产生「他们其实干得很好」这类反证数据；而被放进来的人产生的正面记录，会进一步加固原来的规律。本质上就是一个只收集支持自己的证据、系统性屏蔽反证的闭环。

这个循环在生活里有个精确的对应：某条公交线路因为客流少而减少班次，班次一少乘客更不愿等，客流进一步下降，于是继续减班——最后线路停运。整个过程里每一步决策都「有数据支持」，但数据本身是被前一步决策塑造出来的。这是本节最需要警惕的一类问题，因为它不会在任何单次的准确率测试里暴露出来，只在长期趋势里体现。

对策也是相应的：凡是会影响后续数据生成的系统，都要人为留出「探索」的口子——比如定期随机抽一部分被系统拒掉的样本做人工复核，看看有没有被冤枉的。相当于质检时不光抽检合格品，也要抽检被判为不合格的那一堆，才能知道判废的标准有没有偏。

一个容易被忽略的维度：偏见有很强的语言和文化属性

前面引的研究基本都是英文语境下做的。这里必须诚实地指出一件事：本节引用的 Gender Shades、BBQ、WinoBias、词嵌入研究，全部是围绕英语与美国社会语境构建的。它们测出的偏见维度（比如种族划分方式、性别刻板印象的具体内容）不能直接搬到中文语境。

为什么不能直接搬？举几个具体的差别就明白了：

• 语法结构不同，测法就得不同WinoBias 测的是英文里的 he / she 指代谁。但中文口语里第三人称的「他 / 她」发音完全相同，书面上才区分，而且中文经常直接省略主语。说白了就是：同一套测题在中文里不一定测得出同一个东西，甚至可能压根不成立。
• 敏感维度的构成不同美国语境里最受关注的分组维度和中文语境里人们实际关心的维度（比如地域、城乡、口音、学校层次）并不重合。照搬别人的分组维度，可能测了一堆不痛不痒的东西，漏掉真正要紧的。
• 同一个词的褒贬色彩不同刻板印象是通过具体词语承载的，而词语的色彩高度依赖文化。相当于翻译里的老问题：字面对得上，味道完全不同。

所以这里要给一个明确的留白声明：本文未取得针对中文语境的、经同行评议的大规模偏见测量报告。这不是说这类研究不存在，而是本次核实（2026-08-08）没有取得可靠出处，因此本节不给任何关于中文模型偏见程度的数字。这也是本站的一贯做法：宁可留白，不用记忆或传闻填补。

但这个留白本身有一个可操作的结论：如果你在中文场景里做产品，不要指望现成的英文基准能替你把关。前面清单里的第七条（拿自己场景的真实样例抽测一批）在这种情况下不是可选项，而是唯一可靠的办法。相当于一台仪器只在别的国家做过校准，你要用在本地，就得自己再校一次。