Эволюция генеративно-состязательных сетей: от дивергенции Йенсена–Шеннона к равновесию Нэша и R3GAN
Annotation
в статье рассматривается эволюция генеративно-состязательных сетей (GAN) – от классической формулировки с кросс-энтропийной функцией потерь до современных архитектур (StyleGAN3, ESRGAN, CycleGAN, R3GAN). Анализируются математические основы обучения как минимаксной игры, проблема сходимости и исчезающих градиентов, а также способы её преодоления: альтернативные дивергенции (Вассерштейн, хи-квадрат, hinge loss), методы регуляризации (градиентный штраф, R1, спектральная нормализация) и асимметричные правила обновления (TTUR). Отдельное внимание уделяется новой модели R3GAN (2024), которая демонст...
more