生成对抗网络(GAN)
GAN基础理论
基本概念
GAN(生成对抗网络)是一种生成模型,由生成器(Generator)和判别器(Discriminator)两个网络组成:
- 生成器
- 输入:随机噪声
- 输出:生成的假样本
- 目标:生成逼真的样本
- 判别器
- 输入:真实样本或生成样本
- 输出:样本为真的概率
- 目标:准确区分真假样本
- 对抗训练
- 生成器和判别器相互对抗
- 生成器试图欺骗判别器
- 判别器试图识破生成器
训练过程
GAN的训练过程是一个极小极大博弈:
- 判别器训练
- 最大化真实样本的判别概率
- 最小化生成样本的判别概率
- 使用二元交叉熵损失函数
- 生成器训练
- 最大化生成样本的判别概率
- 欺骗判别器认为生成样本为真
- 使用对抗损失函数
- 训练技巧
- 交替训练生成器和判别器
- 使用标签平滑化
- 添加噪声增加稳定性
GAN变体
GAN的几种主要变体:
- DCGAN
- 使用卷积神经网络
- 更稳定的训练过程
- 更好的生成质量
- WGAN
- 使用Wasserstein距离
- 解决模式崩溃问题
- 更稳定的训练
- CycleGAN
- 无配对图像转换
- 循环一致性损失
- 风格迁移应用