生成对抗网络 GAN：让生成器在动态判别对手中学习数据分布

生成对抗网络要回答的根本问题是：随机噪声怎样学会变成真实图像？监督学习里每张图都配一个正确答案标签，损失函数逐像素比较预测与真值，差距清晰可算。生成任务没有这样的标签——并不存在一张"标准答案"图像告诉你某个噪声应当变成什么。于是 GAN 换了一条路：不直接规定输出该是什么，而是让另一个网络来评判输出"像不像真的"。

两个网络各司其职。生成器 G 接收一个从简单分布采样的噪声向量 z，通过多层变换把它映射成一张样本图，记作 G(z)。判别器 D 接收一张图 x，输出一个标量 D(x)，表示它判断这张图来自真实数据的概率。D 的训练方向很明确：对真实样本给出高分，对 G 生成的假样本给出低分，也就是在提高真实分数的同时压低假样本分数。G 的训练方向则完全依赖 D：它顺着 D 的梯度调整自己的参数，让输出朝"更像真实"的方向移动，从而抬高 D 对假样本的打分。生成器从始至终没有见过任何正确标签，它获得的一切方向都来自判别器对它的打分与梯度。

这一设计让判别器同时扮演两个角色：它既是可学习的损失函数，又是与生成器对弈的对手。作为损失，它远比固定的逐像素误差更能奖励高频的真实感——逐像素损失倾向于把尖锐细节抹平成模糊的平均值，而判别器可以捕捉纹理、边缘这类像素级误差难以刻画的结构。作为对手，它本身也在随着生成器一起更新。生成器每变强一点，判别器就必须重新学习新的判定边界，生成器面对的"损失景观"随之改变。这正是 GAN 优化的核心特征：目标不是静止不动的，而是一个不断移动、由对手实时塑造的动态目标。

要精确描述上一节那种"你追我赶"的关系，就需要回答一个更具体的问题：D 和 G 到底在优化相反方向的什么东西？GAN 的原始公式把它写成一个两方极小极大目标，双方共享同一个价值函数，却朝相反方向优化：

min_G max_D E_data log D(x) + E_z log(1 − D(G(z)))

先看判别器那一侧，也就是 max_D。期望记号 E_data 表示对真实数据分布求平均，E_z 表示对噪声分布求平均。D 想把 log D(x) 推高——对真实样本，D(x) 越接近 1，这一项越大；同时把 log(1 − D(G(z))) 推高——对生成样本，D(G(z)) 越接近 0，这一项越大。合起来，D 就是在最大化正确区分真假样本的对数似然：真样本判真，假样本判假，做得越彻底，价值函数值越高。

再看生成器那一侧，也就是 min_G。G 无法影响第一项，因为那里面没有 G 的参与；它只能作用于第二项。在原始的饱和形式里，G 最小化 log(1 − D(G(z)))。当 D(G(z)) 趋近 0，即判别器把假样本干净利落地判为假时，log(1 − D(G(z))) 趋近 0，这项已经没有多少下降空间；G 唯一能压低它的办法，就是让 D(G(z)) 尽可能接近 1，也就是骗过判别器。所以 G 的目标与 D 正好相反：D 要把假样本判假，G 要让假样本判真。这就是"极小极大"的含义——判别器先最大化价值函数，生成器再把它最小化，双方反复交替。

这个饱和形式在理论上干净，实践中却有一个梯度上的麻烦。当 D 非常强、几乎完全识破假样本时，D(G(z)) 接近 0，饱和损失的梯度也随之趋近 0，G 几乎学不到东西。因此实际训练常用非饱和生成器损失 −E log D(G(z))。它与饱和形式共享同样的最优点，都是想让 D(G(z)) 逼近 1，但梯度行为完全不同：D 越强、D(G(z)) 越小时，−log D(G(z)) 的梯度越大，反而能向生成器传递更强的学习信号。换句话说，非饱和形式只是把同一目标的梯度曲线重新塑形，让训练初期那种"判别器碾压生成器"的局面不再冻结生成器的学习。

损失公式抽象，代入具体数字能看清每一部分在衡量什么。假设某一步里判别器对一张真实样本输出 D(x_real) = 0.9，对一张生成样本输出 D(G(z)) = 0.2。用最小化二元交叉熵的方式计算判别器损失：它要同时奖励"真样本判真"和"假样本判假"两件事，于是把两项对半平均，得到

L_D = −[log 0.9 + log(1 − 0.2)] / 2 ≈ 0.164

先拆开看。−log 0.9 ≈ 0.105，这一项惩罚的是判别器对真样本还不够自信——0.9 已经接近 1，所以惩罚很小。log(1 − 0.2) = log 0.8，取负后 ≈ 0.223，这一项惩罚的是判别器给假样本 0.2 的分数还不够低——0.2 离 0 仍有距离，所以贡献更大。平均下来 0.164 表示判别器大体在正确方向上前进，但离完美区分还有余量。

再看生成器。非饱和生成器损失只关心"假样本被当成真的程度"，即 −log D(G(z)) = −log 0.2 ≈ 1.609。这个数值明显大于判别器损失，直接说明当前假样本离"被判为真"还很远：判别器只给了 0.2，生成器要把它拉到接近 1 才算成功，中间隔着巨大的距离，因此损失居高不下。

对比这两个数也揭示了一个容易误读的点：损失绝对值本身不携带统一含义。判别器损失 0.164 与生成器损失 1.609 用的是不同的量纲和不同的方向——一个是真假两类的平均正确率成本，一个是假样本逼真度的成本。而且这些绝对值会随着所选的损失变体（饱和还是非饱和、是否除以 2、是否按批次求和还是平均）以及批次内容的不同而变化。所以单独看某个损失数值不能代表样本质量的好坏，它只有放在同一目标、同一尺度下作相对比较才有意义。真正能说明问题的是方向：判别器损失趋近 0 意味着区分几乎完美，而生成器损失居高不下则意味着假样本尚未骗过对手。

一个完整的小例子能把模式坍塌从抽象概念变成看得见的现象。假设真实数据由分布在圆周上的八个二维高斯簇组成，噪声 z 取自二维高斯分布。交替训练判别器和生成器，并在每轮之后把生成的点与真实簇画在同一张图上观察。

训练早期，生成器很快找到一个判别器暂时给高分的簇，于是把大量不同的 z 都映射到同一片区域，输出挤成一团。判别器随后学会识别"这个簇里的点过密、分布不对"，开始压低这块区域的分数；生成器被逼着迁移，又跳到另一个簇继续重复。整个过程里生成点始终集中在少数簇上，损失随之振荡，却从未稳定地覆盖全部八个簇。这就是模式坍塌的直观表现：生成器通过"只挑少数几个容易骗过判别器的模式"来偷懒，而不是学习完整的真实分布。

关键问题是：为什么判别器可能仍暂时被骗？因为判别器看到的每个生成点单独拿出来都足够像真实簇里的点。如果只看"这个点离最近的簇有多近"，坍塌后的样本完全可能个个都落在真实簇内部，质量指标依然漂亮。判别器只能在统计意义上发现问题——比如某个簇的密度远高于真实比例——而发现这一点需要足够多样本和足够的训练步数，于是坍塌可以在局部欺骗维持一段时间。

因此评估必须换视角。不要只看单个点到最近簇的距离，而要统计生成点覆盖了多少个簇、每个簇的占比是否接近真实比例，以及 z 的邻域是否映射到了相近的输出（即 z 空间相近的点在输出空间不应四散，否则说明映射不连续）。这些指标才能暴露"每个样本都像真，但整体分布残缺"的问题。

针对这种坍塌，可以尝试几种手段：minibatch discrimination 让判别器同时观察一批样本内部的相关性，从而识破"整批样本来自同一模式"的偷懒；谱归一化约束判别器的 Lipschitz 常数，稳定其更新；换成 Wasserstein 目标，用更平滑的距离信号替代会饱和的 JS 型目标；或者调整模型容量与数据配比。比较这些改动时要用冻结的检查点和相同的采样数做对照，并且同时检查锐利度的提升是否以覆盖下降为代价——有时新方法让单样本更精细，代价却是丢掉了更多簇。这个例子最终要说明的一点是："每个样本都像真"与"生成分布完整"是两回事，前者只保证局部逼真，后者才保证多样性。

把 GAN 训练画成一张回路图，能直接回答一个反复出现的问题：为什么判别器太强和太弱都无法教好生成器？图 1 展示了这个动态博弈的完整结构：噪声 z 进入生成器，产生假样本；假样本与真实样本一起送入判别器；判别器给出真假判断，其梯度再回传给生成器，驱动它更新。这条"生成器产出 → 判别器评判 → 梯度反馈 → 生成器改进"的闭合回路，就是 GAN 区别于普通监督学习的本质——损失不是固定的，而是对手实时给出的信号。

图 1 同时画出了这条回路可能落入的三种状态。当双方能力和更新节奏匹配时，回路趋于平衡：生成器逐步逼近真实分布，判别器维持一个不过强也不过弱的边界，两者同步进步。当判别器过强时，回路会振荡甚至停滞：判别器几乎完美区分真假，给假样本的分数被压到接近零，生成器收到的梯度信号趋近于零，学不到方向；而一旦生成器偶然找到突破口，判别器又立刻重新适应，双方在极端的强弱间来回摆动，损失上下颠簸却无法收敛。当生成器在某一局部"卡住"时，回路表现为模式坍塌：生成器把大量不同的 z 都映射到少数几个高分区域，判别器暂时无法识破这种偷懒，双方就在这个残缺的平衡上僵持。

这三种状态都指向同一句结论：GAN 训练是动态博弈，稳定性取决于双方的能力和更新节奏。能力失衡会让一方碾压另一方，更新节奏失衡则会让梯度信号与参数更新错位。理解了这条回路，后面关于损失选择、归一化和更新比的讨论，本质上都是在为这条回路寻找一个能维持平衡的运行条件。

如果暂时把生成器固定住，只让判别器无限优化，理想的判别器最终会输出什么？这个问题的答案揭示了 GAN 目标函数背后真正在度量的东西。对每个输入点 x，最优判别器收敛到

D*(x) = p_data(x) / (p_data(x) + p_g(x))

其中 p_data(x) 是真实数据在 x 处的密度，p_g(x) 是生成分布在该处的密度。这个比值有直观含义：在 x 这个点上，真实数据密度占总密度的比例是多少，判别器就输出多少。如果某点只来自真实数据（p_g = 0），D* 给出 1；只来自生成器（p_data = 0），D* 给出 0；两者密度相等时 D* = 1/2，判别器承认自己无法区分。

把这个最优判别器代回原始目标函数，生成器那一侧就化成了一个与两个分布之间 JS 散度（Jensen–Shannon 散度）相关的量。也就是说，在判别器达到最优的理想假设下，生成器的最小化目标等价于缩小 p_data 与 p_g 之间的 JS 散度，当且仅当 p_g = p_data 时达到全局最小，此时逐点都有 D* = 1/2。这正是理论上的漂亮闭环：极小极大博弈的解就是生成分布与真实分布完全重合。

但这个结论依赖三个在真实训练中不成立的前提：判别器容量无限、数据无限、双方能彻底轮流收敛到各自的最优。实际训练里 D 是有限网络，数据是有限样本，而且 D 和 G 交替更新、谁也没有真正收敛。更严重的麻烦出现在分布支撑几乎不重叠的时候——当真实分布和生成分布各自占据几乎不相交的区域时，JS 散度会趋近一个常数，其梯度随之饱和甚至消失，生成器得不到有用的方向信号。这恰好解释了为什么后续会有更换目标函数和改用其他分布距离（如 Wasserstein 距离）的动机：不是理论错了，而是 JS 型目标在"支撑不重叠"这一常见初期情形下，无法提供足够强的梯度来推动优化。

为什么实践中几乎都用 −log D(G(z)) 而不是原始公式？问题出在饱和损失的梯度曲线上。原始生成器目标是最小化 log(1 − D(G(z)))，当判别器自信地把假样本判假、D(G(z)) 接近 0 时，这一项本身已经接近 0，它的梯度落在 sigmoid 的平坦区域，几乎不再随参数变化。训练刚开始时判别器往往已经能轻松识破生成器，于是生成器收到的梯度几乎为零，学习在起步阶段就冻结住了。

非饱和目标把生成器的优化方向反过来：从最小化 log(1 − D(G(z))) 改成最大化 log D(G(z))，等价于最小化 −log D(G(z))。它在理想的均衡点上与饱和形式完全一致——两者都要求 p_g = p_data，判别器被迫输出 1/2——所以最优解没有变。变的是通往那个解的路径：当 D(G(z)) 接近 0 时，−log D(G(z)) 的梯度反而很大，能在训练早期向生成器提供强信号，把它从"完全被识破"的状态里拽出来。这正是非饱和损失更常用的原因：它修的是梯度消失，而不是改目标。

但也必须划清它的边界。非饱和损失只解决了"早期梯度太弱"这一个问题，它不修模式覆盖。模式坍塌的根源更深：分布匹配本身在优化 JS 型目标时可能停在局部解，博弈的动态过程允许生成器靠少数模式偷懒，有限批次让判别器难以察觉整体覆盖缺失——这些原因都不是换个生成器损失项就能消除的。所以非饱和损失是训练 GAN 的默认起点，但若样本开始坍塌、多样性下降，必须转向 minibatch discrimination、谱归一化或 Wasserstein 目标等手段，而不是指望继续调整这一项。

生成器输出 1000 张清晰逼真的人脸，为什么可能只对应少数几个身份模板？答案在于模式坍塌是一种多样性失败，而非质量失败。生成器可以把大量不同的噪声 z 都映射到判别器当前最偏爱的少数几个模式上：这些模式是它最容易骗过对手的区域，于是它反复生成"高分的几种脸"，每一张单独看都清晰、真实、无瑕疵，但放在一起就露出了重复——不同的输入坍缩到了同一批输出。

完全坍塌容易被发现：所有输出几乎一模一样，一眼就能看出问题。真正危险的是部分坍塌，它表现为稀有属性、特定姿态或某些特征组合的缺失。比如生成器能画出各年龄段的人脸，却几乎从不生成某个罕见角度，或某种肤色与发型的组合；单看任何一张都不觉得有问题，只有统计整体时才会发现某些区域被系统性忽略了。这种缺失无法从一张样本网格上看出结论——网格里每一张都像真的。

因此检测模式坍塌必须用能反映"整体分布"的手段，而不是抽查单样本。可以计算生成样本与真实样本的最近邻距离，看是否大量生成样本挤在少数真实样本附近；可以在潜空间里做插值，观察相邻 z 是否平滑地映射到相邻输出，还是突然跳跃；可以统计类别或属性的覆盖率，确认稀有类没有消失；可以用 precision–recall 分解，把"生成的样本是否都像真的"（precision）与"真实样本是否都被覆盖到"（recall）分开度量；还可以借助生日悖论式的重复检测——在多样性不足时，重复样本出现的概率会远超直觉。只有这类面向分布的检验，才能区分"每张都像真"和"分布完整"这两件完全不同的事。

WGAN 换掉了整个目标的度量对象：不再让判别器输出真假概率，而是用一个实值 critic 去近似 Wasserstein-1 距离的对偶形式。Wasserstein 距离度量的是"把一个分布搬运成另一个分布所需的最小代价"，它的关键优势在于连续性——即使两个分布的支撑几乎不重叠，Wasserstein 距离仍会随两个分布之间的几何距离平滑变化，从而持续提供有意义的梯度信号。这正是前面 JS 散度暴露的短板：支撑不重叠时 JS 散度趋近常数、梯度消失，而 Wasserstein 距离不会。

为了让这个对偶形式成立，critic 必须满足 1-Lipschitz 约束，即它的输出随输入变化的斜率被限制在一定范围内，否则对偶公式不再等价于真正的 Wasserstein 距离，critic 可以通过任意放大输出差值来作弊。早期实现用权重裁剪强行把每个参数夹在固定区间里，做法简单但过于粗糙——它会扭曲 critic 的能力边界，容易导致梯度爆炸或退化。后来的梯度惩罚（在损失里加入对 critic 梯度范数偏离 1 的惩罚项）和谱归一化（把网络每层的谱范数规范化）成为更常见的替代，能更平滑地维持 Lipschitz 约束。

用 critic 之后，损失值变得更可解释：它近似一个真实的分布距离，数值下降往往意味着两个分布真的在靠近，而不是仅仅骗过了某个概率输出。但 WGAN 不保证消除模式坍塌——连续的距离信号只是让优化更容易进行，分布匹配、博弈动态和有限批次带来的坍塌风险依然存在。而且 Lipschitz 约束的强度与 critic 的更新次数都需要实际验证：约束太紧会限制 critic 的表达能力，更新太少则 critic 追不上生成器，两者都会让对偶近似失效。

当判别器准确率接近 100% 时，是不是应该继续把它训得更强？通常不应该。判别器准确率逼近 100%，往往意味着它已经过拟合了有限的数据——它不再输出关于"真假分布差异"的泛化信号，而是记住了训练样本本身。此时它给生成器的梯度不再指向"如何更接近真实分布"，而是指向"如何复现它背下来的那批样本"，这对生成器几乎是无用的甚至有害的。反过来，判别器太弱也不行：它分辨不出差异，给生成器的方向含糊，两个网络会一起在低水平上徘徊。

所以训练稳定性首先落在"更新比"上：调节判别器与生成器的学习率，以及每轮各自更新几次。判别器通常需要更多更新来维持一个恰当的判定边界，但也不能多到过拟合。与此同时，谱归一化可以约束判别器的 Lipschitz 常数，防止其输出对输入过于敏感而放大噪声；正则化抑制过拟合；数据增强扩充有效样本量；批次统计（如批归一化的均值和方差）影响梯度在批次间的稳定性。这些手段的目标都是让 D 与 G 的能力和更新节奏大致匹配，也就是让上一章讲的反馈回路维持在平衡区。

监控训练时，要观察几个信号而非只看单一损失：梯度范数是否爆掉或消失，生成器输出分布是否合理，样本覆盖是否充分。还要注意两个常见的误判。训练损失振荡并非必然意味着失败——两个对手交替领先本来就会让损失上下波动；反过来，损失平滑下降也并非成功的保证，因为模式坍塌可以在损失看起来稳定的同时悄然发生。真正可靠的依据是定期保存检查点，并用与训练解耦的外部评测（如后面讲的覆盖、记忆和稳定性指标）来判定每份检查点的实际质量，而不是盯着训练曲线下结论。

GAN 的生成器是从 z 到 x 的直接映射：给定一个噪声向量，一次前向传播就得到一张完整样本，不需要逐步迭代。这让它特别适合低延迟的锐利生成——在需要快速出图的场景里，这个速度优势非常突出。

但成也直接映射，败也直接映射。给定一张真实图，怎样找到对应的 z 并做编辑？生成器通常没有闭式逆映射，也就是不存在一个现成的函数把 x 反解成 z。要完成反演，只能在潜空间里优化一个 z，使 G(z) 尽量接近目标图，或者额外训练一个编码器来近似逆映射。无论哪种方式，反演都会引入误差，而这些误差会改变原图的身份和细节——编辑结果可能不再忠实于原图，人物的特征、物体的纹理都会在往返过程中漂移。

同样受限的还有似然。GAN 学习的是隐式分布——它能采样，却不能给出任意样本点的精确概率密度。这意味着计算 p(x) 困难，而异常检测、覆盖率证明这类依赖显式似然的任务也因此更难直接套用。你无法像在自回归或流模型里那样直接读出"这张图出现的概率是多少"。

这些限制反过来定义了 GAN 的适用边界。它适合以速度和锐利度为优先的生成任务；而在需要精确覆盖、显式控制、可逆编码或严格似然计算的任务上，扩散模型、流模型和自回归模型各自提供了不同的取舍——它们往往牺牲单步生成的速度，换取更稳定的训练、更完整的分布覆盖或更强的可控性。选择哪种生成框架，本质上是在速度、似然、覆盖与可逆性之间做权衡。

一个常见的误判是：FID 更低，是不是就能排除训练样本被复制的可能？不能。FID 的做法是把真实样本和生成样本分别通过一个预训练特征网络，比较两组特征的一阶均值与二阶协方差。它擅长捕捉整体分布漂移，却可能漏掉稀疏的模式——某个稀有类别即使完全消失，对整体均值和协方差的贡献也可能小到被忽略——也容易受小样本估计偏差影响。而且 FID 完全不回答记忆问题：生成器可以把训练样本逐张背下来输出，FID 依然很低。

因此评测必须至少同时看四个维度：质量、覆盖、记忆和训练稳定。质量与覆盖可以用 precision–recall 分解来分别度量——precision 衡量生成的样本是否都逼真（是否像真的），recall 衡量真实样本是否都被覆盖到（是否完整）。条件生成任务还要加上类别准确率和人工评判，确认条件确实被满足。记忆则要用训练集最近邻检索、成员推断和重复率来检查：统计生成样本与训练样本的最邻近距离，看是否出现了逐张复制的迹象，检测异常高的重复率。

训练稳定是第四个维度，它要求在报告结果时固定样本数、特征网络和预处理方式，否则 FID 这类指标不可比。更重要的是报告多个随机种子的结果以及失败训练的比例——只展示成功的 run 会系统性地高估稳定性，因为同一个配置在不同种子下可能大部分都坍塌或发散，而被挑出来的那张"最好看的图"掩盖了这一切。只有把失败率连同均值、方差一起报告，评测结论才可信。

把前面所有环节串成一条因果链，可以看到 GAN 从"一个想法"一步步落到"可验证的实践"，每个环节的产出都是下一个环节的输入。

起点是噪声 z，经过生成器 G 得到一个隐式分布——它没有显式的概率公式，只能靠采样来体现。接下来判别器 D 登场，把真实样本与生成样本放在一起比较，学习当前两个分布之间的差异。这个差异随即通过梯度反传给生成器，生成器据此更新，让假样本更像真样本。至此形成闭环，但闭环并不自动稳定：必须平衡双方的能力与更新节奏，否则一方碾压另一方，梯度要么消失要么爆炸。因此训练过程中要持续监控两个信号——模式坍塌和梯度异常——它们是这条链上最先能察觉到的故障点。

当故障出现，改进手段沿着因果链向前回溯：更换目标函数（如 Wasserstein 距离）、施加谱归一化或正则化，都是在增强这条反馈回路的稳定性。但"训练看起来稳了"还不够，最终必须把评测拉回四个维度同时验证：逼真度、覆盖、记忆和失败率，缺一不可。

这条从原理到实践的链条，也对应着一套可验证的验证层。要验证一个改动是否真的有效，首先固定输入：使用同一批样本、同样的前处理与权限边界，记录输入哈希、切片标签和拒绝原因，保证比较的起点一致。其次锁定机制：仅改变一个核心变量，其余配置全部锁死，然后观察关键中间状态以及首次偏离预期的位置——这才能把效果归因到那个变量。再次统一输出：采用同一套验收规则与资源预算，度量质量、成本、延迟和失败率的分层差异。最后保留反证：必须有一个不启用目标机制的对照组，确认收益能否跨样本、跨随机种子稳定复现，而不是单次 lucky run 的假象。

把"生成对抗网络 GAN：让生成器在动态判别对手中学习数据分布"这一整条链看下来，每一个主张都能落到一个可观察的证据上：分布差异看梯度与损失，稳定性看失败率与振荡，多样性看覆盖与重复率，真实性看 precision 与人工评判，记忆看训练集最近邻。因果链的每一环，最终都由某个可度量的输出闭合。