导航菜单

生成对抗网络(GAN)

GAN基础理论

基本概念

GAN(生成对抗网络)是一种生成模型,由生成器(Generator)和判别器(Discriminator)两个网络组成:

生成器判别器随机噪声输入生成假样本输入样本真假判断
  • 生成器
    • 输入:随机噪声
    • 输出:生成的假样本
    • 目标:生成逼真的样本
  • 判别器
    • 输入:真实样本或生成样本
    • 输出:样本为真的概率
    • 目标:准确区分真假样本
  • 对抗训练
    • 生成器和判别器相互对抗
    • 生成器试图欺骗判别器
    • 判别器试图识破生成器

训练过程

GAN的训练过程是一个极小极大博弈:

  • 判别器训练
    • 最大化真实样本的判别概率
    • 最小化生成样本的判别概率
    • 使用二元交叉熵损失函数
  • 生成器训练
    • 最大化生成样本的判别概率
    • 欺骗判别器认为生成样本为真
    • 使用对抗损失函数
  • 训练技巧
    • 交替训练生成器和判别器
    • 使用标签平滑化
    • 添加噪声增加稳定性

GAN变体

GAN的几种主要变体:

  • DCGAN
    • 使用卷积神经网络
    • 更稳定的训练过程
    • 更好的生成质量
  • WGAN
    • 使用Wasserstein距离
    • 解决模式崩溃问题
    • 更稳定的训练
  • CycleGAN
    • 无配对图像转换
    • 循环一致性损失
    • 风格迁移应用