首页 / 第 4 章
🏥 给模型做体检
第 3 章说"损失低了就学会了"——批判性思维立刻反问：谁说的？依据呢？模型自己永远说"我很好"，因为它只会告诉你训练数据上的表现。真实世界里有两大刺客：模型"背答案"（过拟合）和"没学够"（欠拟合），还有最阴险的"作弊"（数据泄露）。本章给你一套"医疗手册"：怎么问、怎么看指标、怎么下诊断、怎么开药方。
🔍
本学科心法：先列假设，再找反例
《学会提问》的流程搬到模型上：结论（模型 99% 准确）→ 理由（测试集上算的）→ 假设（测试集没泄露、分布没变）。每一步都问"这个假设成立吗？"——批判性思维是"模型体检"的底层操作系统。
4.1体检第一课：欠拟合 / 刚好 / 过拟合
模型在训练数据上的表现分三种情况，一眼能认。判断标准永远两句话：训练集上表现如何？没见过的数据上表现如何？
图 4-1 · 三种病情。批判性思维的关键动作：永远对照"训练集表现"和"没见过的数据表现"两个证据。①两者都差 = 欠拟合；②都好 = 健康；③训练极好但没见过的好差 = 过拟合（把训练集的噪声也背下来了）。
- 过拟合的本质：模型把"训练数据的细节"当成了"普遍规律"。就像学生背下了练习题答案，换套题就不会。
- 为什么会过拟合：模型容量（参数量）太大、数据太少、训练太久（训练轮数过多）。三者是"背答案"的温床。
- 一个判断诀窍：看训练误差和验证误差的"剪刀差"——训练一直降、验证开始回升的瞬间，就是过拟合开始的时候。
4.2体检第二课：偏差与方差的"靶心理论"
误差可以拆成两笔账：偏差（打偏了多远）和方差（打得有多散）。四象限一画，病情定位精确到格。
图 4-2 · 靶心图。把误差拆成两笔：偏差 = 假设本身太弱（打偏），方差 = 对数据太敏感（打散）。批判性思维的"归因"动作就在这里：先定位象限，再开药，而不是瞎调参数。
- 模型复杂度与误差的 U 形关系：横轴是模型容量，纵轴是误差——验证误差先降后升。过拟合 = 越过谷底之后的那段上升。
- 正则化是"防背答案"药：L2 惩罚大权重、Dropout 随机关神经元、早停看验证集——都是故意给模型"添麻烦"，逼它学普遍规律而非背细节。
4.3证据链：训练 / 验证 / 测试三集合
批判性思维对"证据"极严格：成绩必须在"从没见过的卷子"上考。数据要切成三份，各有各的用途，绝不能混。
图 4-3 · 证据链管理。训练集是"课本"，验证集是"小测验"（调参专用），测试集是"期末考"（一生只考一次）。任何一次"看了测试集再调参"，都是学术意义上的作弊——哪怕你不小心。
- 为什么验证集不能当测试集用：你拿验证集调了 100 次参，模型已经"见过"它了，分数必然虚高——验证集被"用脏"了。
- 常见泄露源头：数据增强后未分离、清洗时用了全量统计量、爬虫数据与测试集同源、时序数据按时间切而不是随机切（防止"未来泄露过去"）。
4.4诊断决策树：一套"医疗手册"流程
把前三节串成一张决策树。以后模型出了问题，照着走一遍，5 分钟定位，不再瞎猜。
图 4-4 · 体检决策树。三个问题锁定病情：训练高 → 欠拟合；训练低验证高 → 过拟合；都低但测试对不上 → 数据泄露。这套流程就是批判性思维在工程里的落地：先问问题，再找证据，最后才开药。
- 别把药开反：欠拟合吃"更大模型"，过拟合吃"更强正则"——反着吃会雪上加霜。先定位，再动手。
- 批判性思维与"消融实验"：科学地验证"这个技巧到底有没有用"——关掉它重训一次，对比分数。这是研究者最常用的批判性工具。
▶配合视频：过拟合与泛化
这部动画教程用直观的画面演示"背答案"与"学规律"的区别，看完对图 4-1 的印象会深一倍。
🎬 全网最通俗的深度学习入门（动画讲解）—— 其中"过拟合"部分与本章完全对应
在 B 站打开 ↗
★本章小结
1
三病情欠拟合（都差）/ 刚好（都好）/ 过拟合（训练好验证差）。看剪刀差判断过拟合起点。
2
靶心定位偏差 = 打偏（欠拟合），方差 = 打散（过拟合）。先归因象限，再开药方。
3
管好证据训练 / 验证 / 测试三集合各司其职；测试集只考一次；严防数据泄露。
4
走决策树三个问题 → 五种结局。用消融实验验证每一个"技巧"是否真的有用。