|
|
| (3 промежуточные версии не показаны) |
| Строка 1: |
Строка 1: |
| - | {{well|Статья написана с использованием LLM '''DeepSeek''' (режим глубокого мышления) и проверена участником [[Участник:Kirill Savitskii|К.А.Савицкий]] {{CURRENTTIME}}, {{CURRENTDAY}} {{CURRENTMONTHNAME}} {{CURRENTYEAR}} (MSD)}}'''Генеративно-состязательная сеть''' (Generative Adversarial Network, GAN) — класс [[Машинное обучение|машинного обучения]], предложенный в 2014 году [[Гудфеллоу, Иэн|Иэном Гудфеллоу]] и соавторами<ref name="Goodfellow2014">{{статья|автор=Goodfellow I. J., Pouget-Abadie J., Mirza M., Xu B., Warde-Farley D., Ozair S., Courville A., Bengio Y. |заглавие=Generative Adversarial Nets |издание=Advances in Neural Information Processing Systems 27 (NIPS 2014) |год=2014 |страницы=2672–2680}}</ref>, в котором две [[нейронная сеть|нейронные сети]] состязаются друг с другом в рамках [[Теория игр|теоретико-игровой]] постановки. Одна сеть ([[#Генератор|генератор]]) создаёт синтетические данные, другая ([[#Дискриминатор|дискриминатор]]) пытается отличить их от реальных образцов из обучающей выборки. Состязательный процесс заставляет генератор производить всё более правдоподобные примеры, а дискриминатор — всё более точно распознавать подделки, что в пределе приводит к порождению данных, неотличимых от истинных. Интуитивно GAN часто описывают метафорой фальшивомонетчика (генератор) и полицейского (дискриминатор): первый учится изготавливать поддельные банкноты, второй — выявлять их, пока фальшивки не станут неотличимы от настоящих<ref name="Goodfellow2014"/>.
| |
| | | | |
| - | В отличие от многих [[генеративная модель|генеративных моделей]], GAN не требует явного вычисления плотности распределения данных, а использует неявное моделирование через состязательный процесс. Это позволяет синтезировать чрезвычайно реалистичные изображения, аудио, текст и другие типы данных. Благодаря своей гибкости GAN породили обширное семейство архитектур, включая [[#DCGAN|DCGAN]], [[#WGAN|WGAN]], [[#StyleGAN|StyleGAN]], [[#CycleGAN|CycleGAN]] и многие другие, и нашли применение в решении задач генерации лиц, повышения разрешения, перевода изображений, генерации текста по описанию и т. д.
| |
| - |
| |
| - | == История ==
| |
| - | Идея состязательного обучения восходит к началу 1990-х годов: в 1990 году [[Шмидхубер, Юрген|Юрген Шмидхубер]] предложил принцип «минимизации предсказуемости» (''predictability minimization''), при котором одна сеть пытается сделать выходы другой сети максимально непредсказуемыми<ref>{{статья|автор=Schmidhuber J. |заглавие=Making the World Differentiable: On Using Self-Supervised Fully Recurrent Neural Networks for Dynamic Reinforcement Learning and Planning in Non-Stationary Environments |издание=Technical Report FKI-126-90, TU Munich |год=1990}}</ref>. Однако современная концепция GAN была сформулирована и реализована [[Гудфеллоу, Иэн|Иэном Гудфеллоу]] с коллегами в статье «Generative Adversarial Nets» 2014 года<ref name="Goodfellow2014"/>. Авторы показали, что [[многослойный перцептрон|многослойные перцептроны]], обученные в минимаксной игре, способны генерировать узнаваемые изображения рукописных цифр [[MNIST]] и лиц.
| |
| - |
| |
| - | Бурное развитие GAN началось после появления глубоких свёрточных GAN ([[#DCGAN|DCGAN]]) в 2015 году<ref name="Radford2015">{{статья|автор=Radford A., Metz L., Chintala S. |заглавие=Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks |издание=ICLR |год=2016 |arxiv=1511.06434}}</ref>, которые продемонстрировали стабильное обучение и качественные результаты на наборах изображений. В 2016 году были предложены улучшенные техники тренировки и метрика Inception Score<ref name="Salimans2016">{{статья|автор=Salimans T., Goodfellow I., Zaremba W., Cheung V., Radford A., Chen X. |заглавие=Improved Techniques for Training GANs |издание=NIPS |год=2016 |arxiv=1606.03498}}</ref>. Кардинального улучшения стабильности и разнообразия удалось добиться с появлением Wasserstein GAN ([[#WGAN|WGAN]]) в 2017 году<ref name="Arjovsky2017">{{статья|автор=Arjovsky M., Chintala S., Bottou L. |заглавие=Wasserstein GAN |издание=ICML |год=2017 |arxiv=1701.07875}}</ref>, основанного на минимизации [[Расстояние Вассерштейна|расстояния Вассерштейна]] вместо традиционной [[Дивергенция Йенсена — Шеннона|JS-дивергенции]]. В том же году Gulrajani и соавт. представили WGAN-GP с градиентным штрафом<ref name="Gulrajani2017">{{статья|автор=Gulrajani I., Ahmed F., Arjovsky M., Dumoulin V., Courville A. |заглавие=Improved Training of Wasserstein GANs |издание=NIPS |год=2017 |arxiv=1704.00028}}</ref>. Параллельно развивались условные GAN (cGAN)<ref name="Mirza2014">{{статья|автор=Mirza M., Osindero S. |заглавие=Conditional Generative Adversarial Nets |издание=arXiv preprint |год=2014 |arxiv=1411.1784}}</ref>, CycleGAN для непарного перевода изображений<ref name="Zhu2017">{{статья|автор=Zhu J.-Y., Park T., Isola P., Efros A. A. |заглавие=Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks |издание=ICCV |год=2017 |arxiv=1703.10593}}</ref> и Pix2Pix для парного перевода<ref name="Isola2017">{{статья|автор=Isola P., Zhu J.-Y., Zhou T., Efros A. A. |заглавие=Image-to-Image Translation with Conditional Adversarial Networks |издание=CVPR |год=2017 |arxiv=1611.07004}}</ref>. Качество синтеза было поднято на новый уровень архитектурами прогрессивно растущих GAN<ref name="Karras2018">{{статья|автор=Karras T., Aila T., Laine S., Lehtinen J. |заглавие=Progressive Growing of GANs for Improved Quality, Stability, and Variation |издание=ICLR |год=2018 |arxiv=1710.10196}}</ref> и особенно StyleGAN<ref name="Karras2019">{{статья|автор=Karras T., Laine S., Aila T. |заглавие=A Style-Based Generator Architecture for Generative Adversarial Networks |издание=CVPR |год=2019 |arxiv=1812.04948}}</ref> и StyleGAN2<ref name="Karras2020">{{статья|автор=Karras T., Laine S., Aittala M., Hellsten J., Lehtinen J., Aila T. |заглавие=Analyzing and Improving the Image Quality of StyleGAN |издание=CVPR |год=2020 |arxiv=1912.04958}}</ref>. Масштабирование GAN до рекордных размеров было продемонстрировано в BigGAN<ref name="Brock2019">{{статья|автор=Brock A., Donahue J., Simonyan K. |заглавие=Large Scale GAN Training for High Fidelity Natural Image Synthesis |издание=ICLR |год=2019 |arxiv=1809.11096}}</ref>. После 2020 года акцент в генеративном моделировании частично сместился в сторону [[Диффузионная модель|диффузионных моделей]], однако GAN продолжают активно развиваться и применяться благодаря скорости инференса и высокому качеству.
| |
| - |
| |
| - | == Архитектура ==
| |
| - | Стандартная GAN состоит из двух [[Нейронная сеть|нейронных сетей]], обучаемых одновременно в антагонистическом режиме:
| |
| - |
| |
| - | === Генератор ===
| |
| - | '''Генератор''' (generator) <tex>G</tex> — [[Нейронная сеть#Прямого распространения|нейросеть]], преобразующая случайный шумовой вектор <tex>\mathbf{z}</tex>, взятый из простого распределения <tex>p_{\mathbf{z}}</tex> (чаще всего многомерного [[Нормальное распределение|нормального]] или [[Непрерывное равномерное распределение|равномерного]]), в синтетический образец данных <tex>G(\mathbf{z})</tex>. Архитектурно генератор, как правило, представляет собой [[Декодер|декодирующую]] сеть: в случае изображений — обратную [[Свёрточная нейронная сеть|свёрточную]] (транспонированную свёртку), в случае последовательностей — [[Рекуррентная нейронная сеть|рекуррентную]] или [[Трансформер (модель)|трансформерную]]. Задача <tex>G</tex> — захватить истинное распределение данных <tex>p_{\text{data}}</tex> и порождать примеры, неотличимые от реальных.
| |
| - |
| |
| - | === Дискриминатор ===
| |
| - | '''Дискриминатор''' (discriminator) <tex>D</tex> — нейросеть, принимающая на вход как реальный образец <tex>\mathbf{x} \sim p_{\text{data}}</tex>, так и сгенерированный <tex>G(\mathbf{z})</tex>, и возвращающая скалярную величину, интерпретируемую как вероятность того, что вход является истинным. В исходной формулировке <tex>D(\mathbf{x}) \in [0,1]</tex>. Обычно дискриминатор реализуется как [[Классификация|бинарный классификатор]] (свёрточная сеть для изображений) с [[Сигмоида|сигмоидой]] на выходе. В ряде вариантов (WGAN) дискриминатор заменяется «критиком», возвращающим произвольное вещественное число.
| |
| - |
| |
| - | == Математическая формулировка ==
| |
| - | GAN решают минимаксную задачу:
| |
| - |
| |
| - | <tex display="block">\min_G \max_D V(D,G) = \mathbb{E}_{\mathbf{x}\sim p_{\text{data}}}[\log D(\mathbf{x})] + \mathbb{E}_{\mathbf{z}\sim p_{\mathbf{z}}}[\log(1 - D(G(\mathbf{z})))]</tex>
| |
| - |
| |
| - | Дискриминатор стремится максимизировать вероятность правильной классификации реальных и синтетических данных, а генератор — минимизировать <tex>\log(1 - D(G(\mathbf{z})))</tex>, то есть максимизировать вероятность ошибочной классификации сгенерированных примеров. При оптимальном дискриминаторе для фиксированного <tex>G</tex>:
| |
| - |
| |
| - | <tex>D_G^*(\mathbf{x}) = \frac{p_{\text{data}}(\mathbf{x})}{p_{\text{data}}(\mathbf{x}) + p_g(\mathbf{x})}</tex>,
| |
| - |
| |
| - | где <tex>p_g</tex> — неявное распределение, порождаемое генератором. Подстановка <tex>D_G^*</tex> в <tex>V</tex> сводит минимаксную игру к минимизации [[Дивергенция Йенсена — Шеннона|дивергенции Йенсена — Шеннона]] между <tex>p_{\text{data}}</tex> и <tex>p_g</tex><ref name="Goodfellow2014"/>:
| |
| - |
| |
| - | <tex display="block">V(D_G^*,G) = -\log 4 + 2\, D_\text{JS}(p_{\text{data}} \parallel p_g)</tex>
| |
| - |
| |
| - | Таким образом, глобальный минимум достигается при <tex>p_g = p_{\text{data}}</tex>, когда дивергенция обнуляется.
| |
| - |
| |
| - | На практике вместо минимизации <tex>\mathbb{E}[\log(1 - D(G(\mathbf{z})))]</tex> для генератора часто максимизируют <tex>\mathbb{E}[\log D(G(\mathbf{z}))]</tex>, поскольку в начале обучения градиент <tex>\log(1 - D(G(\mathbf{z})))</tex> близок к нулю, и обучение замедляется. Такая замена даёт более сильный градиент при плохом качестве генерации<ref name="Goodfellow2014"/>.
| |
| - |
| |
| - | == Процесс обучения ==
| |
| - | Обучение GAN происходит итеративно путём попеременного обновления параметров дискриминатора и генератора [[Стохастический градиентный спуск|стохастическим градиентным спуском]] (или его вариантами, такими как [[Adam]]). На каждой итерации:
| |
| - | # Дискриминатор делает <tex>k</tex> шагов (часто <tex>k=1</tex>): берётся мини-батч реальных примеров и мини-батч сгенерированных, вычисляется функция потерь <tex>\mathcal{L}_D = -\frac{1}{m}\sum_{i=1}^m [\log D(\mathbf{x}^{(i)}) + \log(1 - D(G(\mathbf{z}^{(i)})))]</tex>, и веса дискриминатора обновляются в направлении увеличения <tex>V</tex>.
| |
| - | # Генератор делает один шаг: вычисляется <tex>\mathcal{L}_G = -\frac{1}{m}\sum \log D(G(\mathbf{z}^{(i)}))</tex>, и веса генератора обновляются.
| |
| - | Теоретически при бесконечной ёмкости сетей и достаточном количестве итераций процесс сходится к равновесию Нэша, в котором <tex>p_g = p_{\text{data}}</tex> и <tex>D(\mathbf{x}) = 1/2</tex>. На практике динамика часто осциллирует, и сходимость не гарантируется.
| |
| - |
| |
| - | == Проблемы обучения и способы их решения ==
| |
| - | === Нестабильность обучения ===
| |
| - | Основная трудность — негарантированная сходимость минимаксной игры. Параметры могут расходиться или входить в циклы. Нестабильность проявляется в резких скачках функции потерь и снижении качества генерации. Причина кроется в том, что при пересечении распределений градиент дискриминатора обращается в нуль, а вдали от пересечения дивергенция Йенсена — Шеннона ведёт к насыщению градиентов<ref name="Arjovsky2017"/>.
| |
| - |
| |
| - | '''Wasserstein GAN''' (WGAN) решает эту проблему, заменяя JS-дивергенцию на [[расстояние Вассерштейна]] (Earth Mover’s Distance), которое всюду непрерывно и дифференцируемо. Дискриминатор заменяется «критиком», чьи веса ограничиваются (например, клиппингом). WGAN-GP (Gradient Penalty) заменяет клиппинг штрафом на норму градиента критика, обеспечивая ещё более стабильное обучение<ref name="Gulrajani2017"/>.
| |
| - |
| |
| - | '''Спектральная нормализация''' (SN-GAN) стабилизирует дискриминатор, ограничивая его [[Липшицево отображение|липшицеву константу]] путём нормирования весовых матриц<ref name="Miyato2018">{{статья|автор=Miyato T., Kataoka T., Koyama M., Yoshida Y. |заглавие=Spectral Normalization for Generative Adversarial Networks |издание=ICLR |год=2018}}</ref>.
| |
| - |
| |
| - | === Mode collapse ===
| |
| - | Генератор может начать воспроизводить лишь ограниченный набор мод (разновидностей) из реального распределения, теряя разнообразие. В крайней форме он выдаёт почти идентичные образцы независимо от <tex>\mathbf{z}</tex>. Причина — игра сходится к локальному равновесию, в котором генератор обманывает текущий дискриминатор, не покрывая все моды данных.
| |
| - |
| |
| - | Меры борьбы включают:
| |
| - | * '''Мини-батчевую дискриминацию''' — дискриминатор анализирует сразу несколько примеров, оценивая их разнообразие<ref name="Salimans2016"/>.
| |
| - | * '''Unrolled GAN''' — генератор оптимизируется против нескольких будущих шагов дискриминатора<ref>{{статья|автор=Metz L., Poole B., Pfau D., Sohl-Dickstein J. |заглавие=Unrolled Generative Adversarial Networks |издание=ICLR |год=2017}}</ref>.
| |
| - | * '''WGAN/WGAN-GP''' — использование расстояния Вассерштейна делает ландшафт потерь более гладким и снижает вероятность коллапса.
| |
| - | * '''Packing''' — подача нескольких сгенерированных изображений как одного пакета на вход дискриминатору<ref>{{статья|автор=Lin Z., Khetan A., Fanti G., Oh S. |заглавие=PacGAN: The power of two samples in generative adversarial networks |издание=NeurIPS |год=2018}}</ref>.
| |
| - |
| |
| - | === Исчезающий градиент ===
| |
| - | На ранних этапах, когда генератор слаб, дискриминатор легко отличает подделки, и <tex>D(G(\mathbf{z})) \approx 0</tex>. Градиент <tex>\log(1 - D(G(\mathbf{z})))</tex> стремится к нулю, останавливая обучение генератора. Замена потери на максимизацию <tex>\log D(G(\mathbf{z}))</tex>, предложенная изначально, смягчает проблему<ref name="Goodfellow2014"/>.
| |
| - |
| |
| - | == Разновидности GAN ==
| |
| - | С момента появления разработано множество модификаций, адаптирующих идею состязательного обучения под конкретные задачи или улучшающих устойчивость и качество синтеза.
| |
| - |
| |
| - | === DCGAN (Deep Convolutional GAN) ===
| |
| - | Предложенная в 2015 году архитектура, которая заменила полносвязные слои на [[Свёрточная нейронная сеть|свёрточные]] и транспонированные свёртки. DCGAN использует [[Пакетная нормализация|пакетную нормализацию]] в генераторе и дискриминаторе, [[ReLU]] и [[LeakyReLU]] в качестве активаций, и исключает полносвязные слои на выходе. Продемонстрировала способность к генерации реалистичных изображений и плавную интерполяцию в латентном пространстве<ref name="Radford2015"/>.
| |
| - |
| |
| - | === WGAN и WGAN-GP ===
| |
| - | WGAN<ref name="Arjovsky2017"/> формулирует потерю на основе расстояния Вассерштейна, требуя от критика (дискриминатора) принадлежности к классу 1-липшицевых функций. Первоначально ограничение накладывалось клиппингом весов. WGAN-GP<ref name="Gulrajani2017"/> добавляет к функции потерь критика штрафное слагаемое <tex>\lambda \,\mathbb{E}_{\hat{\mathbf{x}}} [(\|\nabla_{\hat{\mathbf{x}}} D(\hat{\mathbf{x}})\|_2 - 1)^2]</tex>, где <tex>\hat{\mathbf{x}}</tex> — случайная точка на отрезке между реальным и сгенерированным примером. Это обеспечивает более плавное ограничение и улучшает сходимость.
| |
| - |
| |
| - | === Условные GAN (cGAN) ===
| |
| - | В условных GAN и генератор, и дискриминатор получают дополнительную информацию <tex>\mathbf{y}</tex> (метку класса, текст, изображение)<ref name="Mirza2014"/>. Функция потерь модифицируется как <tex>V(D,G) = \mathbb{E}_{\mathbf{x},\mathbf{y}}[\log D(\mathbf{x},\mathbf{y})] + \mathbb{E}_{\mathbf{z},\mathbf{y}}[\log(1 - D(G(\mathbf{z},\mathbf{y}),\mathbf{y}))]</tex>. Широко применяются в задачах преобразования изображения в изображение (Pix2Pix<ref name="Isola2017"/>) и синтеза изображений по тексту.
| |
| - |
| |
| - | === CycleGAN ===
| |
| - | CycleGAN<ref name="Zhu2017"/> позволяет переводить изображения из одного домена в другой без парных соответствий (например, фотография → картина). Вводится дополнительная функция потерь цикличной согласованности (''cycle consistency loss''): <tex>\mathcal{L}_{\text{cyc}} = \mathbb{E}_{\mathbf{x}}[\|F(G(\mathbf{x})) - \mathbf{x}\|_1] + \mathbb{E}_{\mathbf{y}}[\|G(F(\mathbf{y})) - \mathbf{y}\|_1]</tex>, где <tex>G: X \to Y</tex> и <tex>F: Y \to X</tex> — два генератора, действующие в противоположных направлениях, с соответствующими дискриминаторами <tex>D_Y</tex> и <tex>D_X</tex>. Это гарантирует, что преобразование сохраняет ключевые свойства объекта.
| |
| - |
| |
| - | === StyleGAN и StyleGAN2 ===
| |
| - | Семейство архитектур, разработанное NVIDIA для сверхреалистичной генерации лиц<ref name="Karras2019"/><ref name="Karras2020"/>. Генератор StyleGAN состоит из сети отображения (mapping network), преобразующей <tex>\mathbf{z}</tex> в промежуточное латентное пространство <tex>\mathbf{w}</tex>, и синтезирующей сети с блоками адаптивной нормализации экземпляра (AdaIN), которые внедряют стиль на разных масштабах. Добавление шума на каждом разрешении повышает стохастическую вариативность. StyleGAN2 исправляет артефакты «капель воды» и устраняет опору на промежуточный латентный код через перепроектирование нормализации. StyleGAN3 решает проблему нежелательных смещений координат, делая генерацию эквивариантной к сдвигу.
| |
| - |
| |
| - | === Progressive Growing of GAN (ProGAN) ===
| |
| - | Методика обучения GAN, при которой разрешение генератора и дискриминатора плавно увеличивается в процессе тренировки: сначала генерируются изображения низкого разрешения, затем постепенно добавляются слои для более высокого. Это ускоряет и стабилизирует обучение высококачественных моделей<ref name="Karras2018"/>.
| |
| - |
| |
| - | == Метрики оценки качества ==
| |
| - | Качество генеративных моделей оценивается как визуально, так и количественно. Основные метрики:
| |
| - | * '''Inception Score (IS)'''<ref name="Salimans2016"/> — вычисляет расхождение между условным распределением меток для сгенерированных изображений и маргинальным распределением меток, используя предобученный классификатор Inception. Высокое значение говорит о чёткости и разнообразии. Критикуется за нечувствительность к mode collapse в пределах одного класса.
| |
| - | * '''Fréchet Inception Distance (FID)'''<ref name="Heusel2017">{{статья|автор=Heusel M., Ramsauer H., Unterthiner T., Nessler B., Hochreiter S. |заглавие=GANs Trained by a Two Time-Scale Update Rule Converge to a Local Nash Equilibrium |издание=NIPS |год=2017 |arxiv=1706.08500}}</ref> — измеряет расстояние Фреше между распределениями признаков (последнего скрытого слоя Inception) для реальных и сгенерированных выборок. Считается, что FID лучше коррелирует с человеческой оценкой реалистичности и разнообразия, чем IS. Чем ниже FID, тем выше качество.
| |
| - | * '''Precision and Recall для распределений'''<ref name="Kynkäänniemi2019">{{статья|автор=Kynkäänniemi T., Karras T., Laine S., Lehtinen J., Aila T. |заглавие=Improved Precision and Recall Metric for Assessing Generative Models |издание=NeurIPS |год=2019 |arxiv=1904.06991}}</ref> — обобщает понятия точности (какая доля сгенерированных образцов попадает в многообразие реальных данных) и полноты (какая доля многообразия реальных данных покрыта генератором), оценивая качество и разнообразие.
| |
| - | * '''Kernel Inception Distance (KID)''' — безсмещённый аналог FID, использующий ядерный метод Maximum Mean Discrepancy.
| |
| - | * '''Perceptual Path Length (PPL)''' — измеряет плавность латентного пространства, используемую для StyleGAN.
| |
| - |
| |
| - | == Практические применения ==
| |
| - | GAN нашли множество приложений:
| |
| - | * '''Генерация изображений и видео''': создание реалистичных лиц (проекты ThisPersonDoesNotExist.com на основе StyleGAN), аватаров, пейзажей, предметов интерьера.
| |
| - | * '''Сверхразрешение (Super-Resolution)''': повышение чёткости спутниковых снимков, медицинской визуализации, исторических фотографий (SRGAN).
| |
| - | * '''Перевод изображений (Image-to-Image Translation)''': превращение набросков в фото (Pix2Pix), раскрашивание ч/б кадров, перенос стиля, преобразование дня в ночь, смена времён года.
| |
| - | * '''Синтез медицинских данных''': генерация синтетических [[МРТ]]-снимков, снимков [[КТ]] для аугментации обучающих наборов, что особенно важно при нехватке размеченных реальных данных.
| |
| - | * '''Deepfake''': замена лиц в видео, создание цифровых актёров; технологии применяются как в индустрии развлечений, так и в злонамеренных целях.
| |
| - | * '''Дизайн и искусство''': автоматическая генерация логотипов, одежды, архитектурных форм, создание картин (портрет «Edmond de Belamy», созданный GAN, был продан на аукционе Christie’s).
| |
| - | * '''Аугментация данных''': расширение обучающих выборок для других моделей [[Компьютерное зрение|компьютерного зрения]], повышая их устойчивость и точность.
| |
| - | * '''Обработка звука и музыки''': синтез речи, генерация музыкальных композиций, шумоподавление.
| |
| - | * '''Молекулярный дизайн''': генерация новых химических соединений с заданными свойствами.
| |
| - |
| |
| - | == Современное состояние и перспективы ==
| |
| - | На начало 2020-х годов GAN остаются одной из ключевых парадигм генеративного моделирования. Семейство StyleGAN де-факто стало стандартом для синтеза и редактирования лиц и изображений высокого разрешения. StyleGAN3 решил проблему привязки к координатам, открыв путь к генерации плавной анимации. Новые направления включают GAN на основе [[Трансформер (модель)|трансформеров]] (ViTGAN, StyleSwin), GAN для текстового синтеза изображений (StyleGAN-T, GigaGAN), трёхмерную генерацию (EG3D) и генеративное моделирование видео (StyleGAN-V). Состязательное обучение также интегрируется в диффузионные модели для ускорения вывода и повышения резкости. Хотя диффузионные модели и [[авторегрессионная модель|авторегрессионные]] трансформеры доминируют в ряде областей, GAN сохраняют нишу благодаря скорости и непревзойдённому качеству в отдельных задачах. Исследования сосредоточены на дальнейшей стабилизации обучения, преодолении mode collapse, улучшении управляемости и интерпретируемости, а также на этических аспектах, связанных с генерацией [[Дипфейк|дипфейков]].
| |
| - |
| |
| - | == См. также ==
| |
| - | * [[Глубокое обучение]]
| |
| - | * [[Генеративная модель]]
| |
| - | * [[Вариационный автоэнкодер]]
| |
| - | * [[Диффузионная модель]]
| |
| - | * [[Авторегрессионная модель]]
| |
| - | * [[Свёрточная нейронная сеть]]
| |
| - | * [[Состязательная атака]]
| |
| - |
| |
| - | == Примечания ==
| |
| - | {{примечания}}
| |
| - |
| |
| - | [[Категория:Глубокое обучение]]
| |
| - | [[Категория:Генеративные модели]]
| |
| - | [[Категория:Нейронные сети]]
| |
| - | [[Категория:Машинное обучение]]
| |
