反向传功
你以为算对梯度就能训练。可梯度告诉你方向,学习率告诉你步子——步子太大,一脚踩出损失函数的地图,再也回不来。发散之焰在暗处记账:你每觉得可以跳过warmup、可以不裁梯度,它就胖了一圈。
功台初燃
你从残差连接的捷径里走出来,脚下的地面变了——冰冷的、刻满纹路的金属台面。面前悬浮着一张巨大的、由发光节点和连线构成的图——节点是运算,连线是数据。它像一条倒挂的河,从顶端入口流向底端出口。
「这是计算图。你的网络长什么样,它就长什么样。数据从上面流下去——叫前向。但你真正的目的,是让数据流回来——叫反向。先让它流起来。」
「学习率旋钮随手拨——拨大点,学得快。我帮你记着。Step子太大——后面烧焦的字你看不清。」
计算图搭建器 · 前向传播执行 · 学习率试拨
按正确顺序串联运算节点 → 数据光流前向执行 → 学习率旋钮试拨(拨大触发焰账)
前向殿 · 两种微分
前向殿中央悬浮着你在 S0 搭的那张计算图,但这次它变大了——十层,每层都有权重矩阵 W 和偏置 b,总共 47 个参数。殿内悬着一口钟。你不假思索:"一个一个求呗。"
「你需要 ∂L/∂W₁ 到 ∂L/∂W₄₇。47 个梯度。怎么算?好——那就一个一个来。」
「逐个求导,多直接。钟声好听吗?这第 20 下了——你还有 27 个。」
自动微分模式对比器 · 前向逐参 vs 反向一次
前向模式逐参计算(钟声计数47次)→ 反向模式一次性回传 → 复杂度曲线对比
反传天梯 · 链式法则的真相
殿后是一座悬空石梯,从底部"输出层"一直通到顶部"输入层"——方向是反的,越往上越接近网络起点。梯上每一级石阶都刻着空白的公式槽位。
「链式法则你学过。但在多层网络里,它长成什么样——你得自己一步一步踩上去。从输出层开始,往上爬。」
链式法则推导天梯 · 分步公式组装 · 梯度账本
输出层误差信号 δᴸ → 逐层回传 δˡ → 梯度组装 ∂L/∂W · 9 个槽位
梯度账本 · 各层梯度范数 ‖∂L/∂Wˡ‖
优化器阁 · 六器争锋
阁内悬着一张巨大的三维损失地形图——沟壑纵横,有平坦的高原、陡峭的峡谷、和一个深处的全局最小值。六把形态各异的法器浮在地形旁,各自亮着名字。
「梯度告诉你下坡的方向。但这六把法器,各有各的走法。在同一个地形上跑一遍,看它们怎么走、怎么摔。」
「六把法器挑一把趁手的就行了——无脑 Adam 嘛。走得快不等于走得稳?远处那火光,你看到了吗?」
六器争锋 · 损失地形轨迹对比 + Adam 偏差修正
逐一释放六种优化器 → 观察轨迹与失败模式 → Adam 偏差修正开关对比
学习率之渊 · 焰之第一击
渊底悬着你的模型晶核——一颗多面体水晶。你选了 Adam,把学习率旋钮拨到了 0.1——0.001 收敛太慢,你想"快一点"。第 1 步 loss=2.3,第 2 步 5.7,第 3 步 47.2,第 4 步 1.2×10⁴,第 5 步 NaN。火光从渊底升起,凝成一张没有五官的火焰面孔。
「再大一点。哈哈哈哈!第 1 步!你连第 1 步都没挺过去——我是发散之焰,不住在你的无知里,住在你'这次会不一样'的侥幸里。」
「梯度告诉你方向,学习率告诉你步子。步子太大,一脚踩出损失函数的地图。训练初期最危险——先小后大,叫 warmup。」
训练崩溃模拟器 · loss 爆炸 + 学习率扫描 + warmup
触发 η=0.1 NaN 崩溃 → 学习率扫描找稳定区间 → warmup 稳定训练 → 晶核裂痕
调度钟楼 · 节拍与裁剪
钟楼内部悬着三口巨大的钟,各自标着不同的节拍图案:StepLR 是台阶式的断崖、Cosine 是一条平滑的余弦曲线、Warmup 是一段从零升起的斜坡。钟楼中央还有一个红色拉杆,标着"梯度裁剪"。
「学习率不是一成不变的。它有自己的节拍。而梯度裁剪是最后一道护栏:不管梯度多大,都别让它超过这条线。」
学习率调度可视化器 + 梯度裁剪实验
切换三种调度策略看 lr/loss 联动 → 梯度裁剪兜底 bad batch → 组合策略稳定训练
调参擂台 · 超参与精度
擂台中央立着一块巨大的石碑,上面刻着一个三乘三的网格——每个格子代表一组超参数组合。石碑旁还有一面铜镜,镜面上浮动着"FP32"和"FP16"两个标记。
「三个旋钮,每个几十种选择。全部试一遍?还是聪明地试?另外,你的训练太慢了——铜镜能帮你加速,但它有代价。」
超参数搜索可视化器 + 混合精度训练模拟器
三种搜索策略热力图对比(网格27/随机8/贝叶斯8) → FP16/BF16 切换 + 损失缩放防下溢
混合精度铜镜
正则之壁 · 防线构筑
你面前是一面巨大的石壁,壁上刻着四个空位。石壁前的训练台上,一个网络正在过拟合——训练 loss 降到 0.01,验证 loss 却从 0.3 飙到 0.8。它在背答案。
「训练集上每个样本它都记住了,没见过的一来就错。你要给它建防线——不是一道,是四道。」
正则化防线构筑 · 四道开关 + train/val 双曲线 + 权重衰减 vs L2
逐一启用 L2/Dropout/数据增强/早停 → train/val 曲线变化 → SGD/Adam/AdamW 等价性对比
权重衰减 vs L2 等价性 · SGD/Adam/AdamW 三组
诊断之眼 · 从曲线到迁移
诊断之眼是一面巨大的悬浮镜面,镜面上实时映出训练曲线——train loss 和 val loss 两条线,像两条纠缠的蛇。镜面旁立着一座祭坛,祭坛上封着一个巨大的预训练模型——内部刻满了在百万张图像上学到的特征纹路。
「训练跑完了不等于跑好了。你得先会读曲线——它在告诉你网络的状态。有时候,你不需要从头炼——祭坛上有别人炼好的。」
「模式C那条 NaN 曲线,你在 S4 亲手画过。旧伤未愈——晶核裂痕又该闪了。」
训练曲线诊断器 + 迁移学习模拟器
四种异常曲线逐一诊断 → 加载预训练权重 → 冻结/分层LR/渐进解冻三种微调
迁移学习 · 小数据集(1000图/10类)
Boss 战 · 发散之焰
一切灯光齐灭。火焰从四面八方压过来,凝成一张巨大的、没有五官的火脸。"我是发散之焰。我不住在你的无知里——无知救不了我。我住在你'这次会不一样'的侥幸里。三问。答错一题,火就烈一分。"
「让我看看你这趟传功,是真学会了,还是只是逛了一圈。焰账上记着你每一次'再大一点'——现在,一笔笔还。」
焰账累计 0 笔 · 三问全对后清零
尾声 · 破晓
焰散尽时天刚破晓,你手里的模型晶核微微发光——不是它变了,是你变了。晶核上的梯度裂痕还在,像一枚没说出口的勋章。
「你入门了。不是因为你答对了三问——答对的会忘。是因为你搭过的每一道防线、炸过的每一次 NaN、修过的每一道裂痕,都刻在你手上了。但你训练的网络,看见的世界和你一样吗?它把一张图片拉成一条长向量,丢了所有的空间结构。明天,我们去看网络怎么'看'。那叫卷积。」
知识图谱点亮 · 反向传功圆满
逐一点亮本章碎片 → 连线生长成网 → 境界突破