§ 4.1 · Sub-chapter

监督学习篇

Supervised Learning

监督学习是今天工业界用得最多的机器学习方法——你给它"数据 + 标准答案",它学"输入 → 输出"的映射。它占所有 ML 应用的 80% 以上。

生活场景
👩‍🏫 老师批改你的作业

想象一个 5 岁小孩学认字。
老师指着图片"苹果"——小孩说"梨";老师摇头:"这是苹果。"
老师指着下一张图"梨"——小孩说"苹果";老师摇头:"这是梨。"
这样反复教 100 次——小孩慢慢就能自己看图说出"苹果"和"梨"。
关键是:每次小孩答题,老师都立刻告诉他对不对——这就是"监督"的含义。

监督学习的输入与输出

监督学习的数据集,每一份样本都是一对 (x, y)——x 是输入(特征),y 是答案(标签)。模型要学的就是从 x 到 y 的映射。

场景输入 x(特征)输出 y(标签)
垃圾邮件识别邮件内容、发件人、关键词垃圾 / 正常
房价预测面积、地段、楼层、学区价格(万元)
猫狗识别图片的像素猫 / 狗
信用评分收入、年龄、还款记录该放贷吗(0~1)
医学影像CT 图像良性 / 恶性

两大类任务 · 分类 vs 回归

监督学习做的事,根据"y 是什么样"分两种:

01

分类 · Classification

y 是离散的类别——猫/狗、垃圾/正常、是/否。
例:判断一封邮件是不是垃圾邮件。
输出:概率("95% 是垃圾")。

02

回归 · Regression

y 是连续的数值——价格、温度、销量、股价。
例:预测一套房的价格。
输出:具体数字("约 412 万")。

Analogy · 判断题 vs 填空题

分类 = 判断题——"这是猫吗?" 只有是/否;
回归 = 填空题——"这套房多少钱?" 答案是任意数字。
两类问题的算法、损失函数都不同,但训练套路一样。

主流算法速览

监督学习经过几十年沉淀,攒下一批"经典选手",今天仍在大量使用:

算法擅长一句话理解
线性回归简单预测(回归)画一条直线"穿过"所有数据点
逻辑回归简单分类把直线弯成 S 形,输出 0~1 概率
决策树可解释分类一层一层"如果是 X 就走这边"
随机森林稳定分类很多决策树投票,少数服从多数
SVM 支持向量机中等规模分类找一条"最宽的边界"分开两类
KNN 近邻小数据集"离我最近的 K 个邻居属于啥我就属于啥"
XGBoost / LightGBM结构化数据王者一棵一棵地种决策树,每棵纠正前一棵的错误
神经网络复杂模式(图像/语音/文本)层层抽象,最深最强大但最难解释

训练的过程到底在干嘛

拿"房价预测"举例——你手里有 1000 套房的数据(面积 + 价格),想让模型学到"面积 → 价格"的关系:

1. 假设一个"带参数的公式"

比如 价格 = w × 面积 + b。w 和 b 是模型要学的参数,初始时随机给个值。

2. 用当前公式算一遍

对每套房:用公式预测价格,跟真实价格对比——差距就是"损失"(Loss)。

3. 调整 w 和 b,让损失更小

这一步叫"梯度下降"——往损失减少的方向,把 w 和 b 微调一点点。

4. 重复 2-3 几千次

每次都让损失更小一点。最终 w 和 b 稳定下来——模型训练好了。

Analogy · 射箭调准星

你打靶——第一枪打在 7 环,偏左上。
教练说:"枪往右下挪一点。" 你调整,第二枪打在 8 环,还是偏一点点。
再调、再调——直到命中靶心。
机器学习做的就是这个:用误差指导调整,重复一千次,直到命中

训练集 / 验证集 / 测试集

监督学习的数据必须分三份,缺一份都会翻车:

监督学习的痛点

这就是为什么大模型时代要转向自监督学习(§ 4.4)——不再依赖人工标注。

监督学习在你生活中的样子

你做的事背后的监督学习
用脸解锁手机模型学过你的脸(分类:是/不是)
相机自动识别"人像模式"模型学过"什么是人"(分割)
抖音推荐下一个视频模型学过"看过 X 的人也喜欢 Y"(回归:停留时长)
邮箱自动过滤垃圾邮件模型学过"垃圾邮件的特征"(分类)
输入法联想下一个词模型学过"什么词后面通常跟什么"(分类)
导航预估到达时间模型学过"历史通行数据"(回归)
Recap · 收束

监督学习 = "老师一边教一边打分"。它是工业界最成熟、最常用的方法,但需要大量"标注好的数据"。
下一篇我们看"没有老师"的学习——无监督学习

☰ 主页
Xue Hai Wu Ya · § 4.1 · Supervised Learning