Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{well|Статья написана с использованием LLM '''DeepSeek''' и проверена участником [[Участник:Kirill_Savitskii|К.А.Савицкий]] {{CURRENTTIME}}, {{CURRENTDAY}} {{CURRENTMONTHNAME}} {{CURRENTYEAR}} (UTC)}} '''Нормализующий поток''' (normalizing flow) — класс [[Генеративное моделирование|генеративных моделей]] в [[Машинное обучение|машинном обучении]], предназначенных для моделирования сложных [[Многомерное распределение|многомерных]] [[Плотность вероятности|вероятностных распределений]] путём применения цепочки [[Биекция|обратимых]] [[Гладкая функция|гладких]] преобразований к простой базовой случайной величине. Основное преимущество нормализующих потоков заключается в способности точно вычислять плотность распределения данных и эффективно генерировать новые выборки, что делает их мощным инструментом в задачах [[Оценка плотности|оценки плотности]], [[Генерация данных|генерации данных]], [[Вариационный вывод|вариационного вывода]] и научных вычислений. == Интуитивное введение == Представьте себе резиновый шар (простое [[Нормальное распределение|гауссово]] облако точек) в трёхмерном пространстве. Если шар деформировать — растянуть, изогнуть, сжать — можно получить фигуру намного более сложной формы, например, детальную модель животного. При этом каждая точка исходного шара перемещается по определённому правилу, и, что важно, это правило можно обратить: если мы знаем, как точка сложной фигуры получилась из шара, мы всегда можем вернуться обратно. Нормализующий поток действует аналогично: он обучает последовательность таких обратимых деформаций, превращая простое распределение (например, [[Многомерное нормальное распределение|стандартное нормальное]]) в распределение, максимально соответствующее наблюдаемым данным. Такая конструкция позволяет одновременно и генерировать новые примеры (применяя деформации к свежим точкам из шара), и вычислять вероятность конкретной точки данных (возвращая её в исходный шар и подсчитывая, насколько «плотно» она лежит). Именно эта комбинация точной плотности и способности к синтезу выделяет потоки среди других генеративных подходов. == Определение == Пусть <tex>\mathbf{z} \in \mathbb{R}^D</tex> — [[Скрытая переменная|скрытая (латентная) переменная]] с известной и простой плотностью <tex>p_Z(\mathbf{z})</tex>, обычно [[Многомерное нормальное распределение|стандартным нормальным распределением]] <tex>\mathcal{N}(\mathbf{0}, \mathbf{I})</tex>. Нормализующий поток задаёт [[Биекция|биективное]] (взаимно-однозначное) [[Дифференцируемое отображение|дифференцируемое]] преобразование <tex>f: \mathbb{R}^D \to \mathbb{R}^D</tex> такое, что наблюдаемая переменная <tex>\mathbf{x} = f(\mathbf{z})</tex>. Плотность наблюдаемых данных определяется формулой замены переменных: <tex>p_X(\mathbf{x}) = p_Z(f^{-1}(\mathbf{x})) \left| \det \frac{\partial f^{-1}}{\partial \mathbf{x}} \right| = p_Z(\mathbf{z}) \left| \det \frac{\partial f}{\partial \mathbf{z}} \right|^{-1}.</tex> Величина <tex>\left| \det \frac{\partial f}{\partial \mathbf{z}} \right|</tex> называется модулем [[Якобиан|якобиана]] преобразования и показывает, как локально изменяется объём при переходе от латентного пространства к пространству данных. Чтобы преобразование могло моделировать сложные распределения, его обычно составляют из композиции <tex>K</tex> более простых обратимых отображений: <tex>f = f_K \circ f_{K-1} \circ \dots \circ f_1, \quad \mathbf{z}_0 = \mathbf{z}, \quad \mathbf{z}_k = f_k(\mathbf{z}_{k-1}), \quad \mathbf{x} = \mathbf{z}_K.</tex> Плотность конечной переменной последовательно преобразуется: <tex>\log p_X(\mathbf{x}) = \log p_Z(\mathbf{z}_0) - \sum_{k=1}^K \log \left| \det \frac{\partial f_k}{\partial \mathbf{z}_{k-1}} \right|.</tex> Таким образом, вычисление логарифма плотности сводится к вычислению логарифма плотности в латентном пространстве и суммы логарифмов модулей якобианов всех промежуточных шагов. == История развития == Идея использования композиции нелинейных обратимых преобразований для моделирования сложных распределений восходит к классическим работам по [[Метод Монте-Карло|методам Монте-Карло]] и [[Нелинейный метод главных компонент|нелинейному анализу независимых компонент]] (ICA). В контексте глубокого обучения современная концепция нормализующих потоков была предложена [[Резенде, Данило Хименес|Данило Резенде]] и [[Мохамед, Шакир|Шакиром Мохамедом]] в статье 2015 года «Variational Inference with Normalizing Flows». Они ввели планарные и радиальные потоки — элементарные обратимые преобразования, наращиваемые на скрытое пространство [[Вариационный автокодировщик|вариационного автокодировщика]]. Следующим важным шагом стало семейство архитектур, основанных на идее разделения измерений (coupling layers). Дин и соавторы в модели NICE (2014) и Real NVP (2016) предложили аффинные coupling-слои, в которых половина компонент остаётся неизменной, а вторая половина аффинно преобразуется в зависимости от первой. Это позволило строить глубокие, быстро обратимые и вычислительно эффективные потоки. Кингма и Дхаривал в 2018 году расширили Real NVP до модели Glow, добавив обратимые 1×1 свёртки и активационную нормализацию, что позволило генерировать реалистичные изображения высокого разрешения. Параллельно развивались авторегрессионные потоки: Masked Autoregressive Flow (MAF) Папамакариоса и др. (2017) и Inverse Autoregressive Flow (IAF) Кингмы и др. (2016). Эти модели используют маскированные авторегрессионные сети (MADE) для параметризации преобразований, гарантируя треугольную структуру якобиана, что упрощает вычисление определителя. Дальнейшее развитие включало потоки на основе [[Сплайн|сплайнов]] (нейронные сплайновые потоки Дуркана и др., 2019), обеспечивающие большую гибкость преобразований; непрерывные во времени потоки, основанные на [[Нейронное обыкновенное дифференциальное уравнение|нейронных обыкновенных дифференциальных уравнениях]] (Neural ODE, FFJORD); а также остаточные потоки (Residual Flows), использующие методы оценки логарифма определителя для липшицевых остаточных сетей. == Математические основы == === Формула замены переменных в плотности === Пусть <tex>\mathbf{z} \sim p_Z(\mathbf{z})</tex> — случайный вектор, и <tex>f</tex> — [[Диффеоморфизм|диффеоморфизм]] (гладкое биективное отображение с гладким обратным). Тогда распределение случайного вектора <tex>\mathbf{x} = f(\mathbf{z})</tex> имеет плотность: <tex>p_X(\mathbf{x}) = p_Z(g(\mathbf{x})) \left| \det \mathbf{J}_g(\mathbf{x}) \right|,</tex> где <tex>g = f^{-1}</tex>, а <tex>\mathbf{J}_g = \frac{\partial g}{\partial \mathbf{x}}</tex> — матрица Якоби. Эквивалентно, через прямое преобразование: <tex>p_X(\mathbf{x}) = p_Z(\mathbf{z}) \left| \det \mathbf{J}_f(\mathbf{z}) \right|^{-1}, \quad \mathbf{z} = g(\mathbf{x}).</tex> Это классический результат из [[Теория вероятностей|теории вероятностей]]. В контексте потоков он служит основой для точного вычисления логарифмического правдоподобия. === Построение сложных потоков через композицию === Одиночное обратимое преобразование с простой структурой ограничено в выразительности. Моделирование сложных многомодальных распределений достигается композицией <tex>K</tex> преобразований <tex>f = f_K \circ \dots \circ f_1</tex>. Благодаря правилу цепочки для якобианов, логарифм модуля определителя общей композиции равен сумме логарифмов модулей определителей каждого шага: <tex>\log \left| \det \mathbf{J}_f(\mathbf{z}_0) \right| = \sum_{k=1}^K \log \left| \det \mathbf{J}_{f_k}(\mathbf{z}_{k-1}) \right|.</tex> Это даёт аддитивный вклад каждого слоя в логарифм плотности и позволяет обучать глубокие потоковые модели с помощью [[Стохастический градиентный спуск|стохастического градиентного спуска]]. === Вычисление логарифма плотности === Для заданного наблюдения <tex>\mathbf{x}</tex> вычисление <tex>\log p_X(\mathbf{x})</tex> требует: # Прямого прохода по потоку в обратном направлении: <tex>\mathbf{z} = g(\mathbf{x})</tex>. # Вычисления <tex>\log p_Z(\mathbf{z})</tex>. # Вычисления и суммирования логарифмов модулей якобианов каждого обратного слоя <tex>g_k</tex>. Для генерации выборки из модели, напротив, осуществляют проход в прямом направлении: извлекают <tex>\mathbf{z} \sim p_Z(\mathbf{z})</tex> и применяют <tex>f</tex>. == Архитектуры нормализующих потоков == === Элементарные преобразования === Первые нейросетевые потоки, предложенные Резенде и Мохамедом, — планарный и радиальный. Планарный поток задаётся как <tex>\mathbf{z}' = \mathbf{z} + \mathbf{u}\, h(\mathbf{w}^\top \mathbf{z} + b)</tex>, где <tex>\mathbf{w}, \mathbf{u}</tex> — векторы, <tex>b</tex> — скаляр, <tex>h</tex> — гладкая функция активации. Такие преобразования легко обратимы при определённых ограничениях, но имеют ограниченную выразительность и требуют наращивания большого числа слоёв для моделирования сложных распределений. === Потоки с разделением измерений (coupling flows) === Наиболее популярный класс архитектур. Входной вектор <tex>\mathbf{z}</tex> разбивается на две части: <tex>\mathbf{z} = (\mathbf{z}_a, \mathbf{z}_b)</tex>. Преобразование имеет вид: <tex>\mathbf{z}'_a = \mathbf{z}_a, \quad \mathbf{z}'_b = h(\mathbf{z}_b; \theta(\mathbf{z}_a)),</tex> где <tex>h</tex> — обратимая функция (например, аффинная: <tex>\mathbf{z}'_b = \mathbf{z}_b \odot \exp(s(\mathbf{z}_a)) + t(\mathbf{z}_a)</tex>), а <tex>\theta(\mathbf{z}_a) = (s(\mathbf{z}_a), t(\mathbf{z}_a))</tex> — произвольная нейронная сеть, не обязанная быть обратимой. Якобиан такого слоя имеет блочно-треугольную структуру, и его определитель равен произведению диагональных элементов матрицы <tex>\partial \mathbf{z}'_b / \partial \mathbf{z}_b</tex>, что вычисляется очень эффективно. Модели NICE (аддитивное coupling, где <tex>s \equiv 0</tex>), Real NVP (аффинное coupling) и Glow (добавляет обратимые 1×1 свёртки и чередование маскирования по каналам и пространственным измерениям) основаны на этом принципе. === Авторегрессионные потоки === В авторегрессионных потоках преобразование имеет вид: <tex>z'_i = h(z_i; \theta_i(\mathbf{z}_{1:i-1})),</tex> где <tex>\theta_i</tex> — нейросетевой параметризатор, зависящий только от предыдущих компонент. Тогда матрица Якоби нижнетреугольная, и определитель сводится к произведению частных производных <tex>\partial z'_i/\partial z_i</tex>. Masked Autoregressive Flow (MAF) использует маскированные авторегрессионные сети (MADE) для одновременного получения всех <tex>\theta_i</tex> и удобен для вычисления плотности (обратный проход), но генерация требует последовательного прохода по размерности. Inverse Autoregressive Flow (IAF) меняет направление зависимости, делая генерацию быстрой, а вычисление плотности — медленным. === Потоки на основе сплайнов === Чтобы повысить гибкость по сравнению с аффинными преобразованиями, в качестве элементарных обратимых функций <tex>h</tex> применяются монотонные рациональные квадратичные или кубические [[сплайн]]ы. Параметры сплайна (узлы, производные) предсказываются нейронной сетью на основе «неизменной» части вектора. Такие потоки достигают высокой выразительности при относительно небольшом числе слоёв и демонстрируют передовые результаты в оценке плотности. === Непрерывные во времени потоки === Идея, основанная на [[Нейронное обыкновенное дифференциальное уравнение|нейронных ОДУ]] (Neural ODE, Chen et al., 2018). Вместо дискретной композиции слоёв, преобразование задаётся как решение задачи Коши: <tex>\frac{d\mathbf{z}(t)}{dt} = \phi(\mathbf{z}(t), t; \theta), \quad \mathbf{z}(0) = \mathbf{z}, \quad \mathbf{z}(T) = \mathbf{x},</tex> где <tex>\phi</tex> — нейронная сеть, определяющая поле скоростей. Логарифм изменения плотности вдоль траектории даётся уравнением на мгновенное изменение логарифма плотности (формула Лиувилля-Остроградского): <tex>\frac{d \log p(\mathbf{z}(t))}{dt} = - \operatorname{tr} \left( \frac{\partial \phi}{\partial \mathbf{z}} \right).</tex> Метод FFJORD (Grathwohl et al., 2019) использует стохастическую оценку следа матрицы для эффективного обучения таких непрерывных потоков без явного вычисления якобиана. === Остаточные потоки === Остаточные сети вида <tex>f(\mathbf{z}) = \mathbf{z} + g(\mathbf{z})</tex> могут быть обратимыми при ограничении константы Липшица <tex>g</tex> (например, <tex>\operatorname{Lip}(g) < 1</tex>). Residual Flows (Behrmann et al., 2019) и i-ResNet используют методы оценки логарифма определителя через разложение в степенной ряд, что позволяет применять глубокие остаточные архитектуры в качестве потоков. == Обучение нормализующих потоков == === Максимизация правдоподобия === Стандартный подход к обучению — [[Метод максимального правдоподобия|максимизация правдоподобия]] на обучающей выборке <tex>\{\mathbf{x}^{(i)}\}_{i=1}^N</tex>. Целевая функция — средний логарифм правдоподобия: <tex>\mathcal{L}(\theta) = \frac{1}{N} \sum_{i=1}^N \log p_X(\mathbf{x}^{(i)}; \theta).</tex> Подставляя выражение потока, получаем <tex>\mathcal{L}(\theta) = \frac{1}{N} \sum_{i=1}^N \left[ \log p_Z(g(\mathbf{x}^{(i)}; \theta)) + \log \left| \det \mathbf{J}_g(\mathbf{x}^{(i)}; \theta) \right| \right] \to \max_\theta.</tex> Параметры нейронных сетей, входящих в слои, оптимизируются [[Градиентный спуск|градиентными методами]], при этом [[Обратное распространение ошибки|обратное распространение]] проходит через прямое/обратное преобразование и вычисление якобиана. === Вариационный вывод с потоками === Нормализующие потоки могут использоваться для построения богатых апостериорных распределений в [[Вариационный автокодировщик|вариационных автокодировщиках]] (VAE). Поток <tex>f_\phi</tex> преобразует простое начальное приближение <tex>q_0(\mathbf{z}|\mathbf{x})</tex> в более выразительное вариационное распределение <tex>q_K(\mathbf{z}|\mathbf{x})</tex>. Нижняя граница свидетельства (ELBO) в этом случае принимает вид: <tex>\mathcal{L}_{\text{VAE}} = \mathbb{E}_{\mathbf{z} \sim q_K}\left[ \log p(\mathbf{x}|\mathbf{z}) + \log p(\mathbf{z}) - \log q_K(\mathbf{z}|\mathbf{x}) \right],</tex> причём <tex>\log q_K(\mathbf{z}|\mathbf{x})</tex> вычисляется по формуле замены переменных, аналогичной основной. Такой подход, предложенный в пионерской работе Резенде и Мохамеда, позволяет приближать сложные апостериорные распределения и повышает качество латентных представлений. === Другие критерии обучения === Помимо максимизации правдоподобия, потоки могут обучаться с помощью: * [[Байесовский вывод|Байесовского вывода]] — как гибкие семейства приближений; * Контрастных и моментных методов — в задачах, где плотность известна с точностью до константы; * Обучения с учителем — для моделирования условных распределений <tex>p(\mathbf{x}|\mathbf{y})</tex> с помощью условных нормализующих потоков. == Связь с генеративным моделированием == Нормализующие потоки принадлежат к классу моделей с явной плотностью (в отличие от [[Генеративно-состязательная сеть|GAN]], которые моделируют только семплер, и [[Вариационный автокодировщик|VAE]], которые оптимизируют нижнюю границу правдоподобия). Это даёт ряд уникальных свойств: * '''Точное вычисление правдоподобия''' — возможно прямое сравнение моделей по тестовому правдоподобию и применение в задачах детекции аномалий. * '''Эффективная генерация''' — прямое преобразование латентных переменных, без [[Метод Монте-Карло|MCMC]] или стохастических итераций. * '''Обратимость''' — естественное получение латентного представления для любого входа, что полезно в задачах [[Сжатие данных|сжатия]], [[Интерпретация моделей|интерпретации]] и редактирования атрибутов. По сравнению с [[Диффузионные модели|диффузионными моделями]], потоки также предоставляют точную плотность, но делают это за один проход сети, а не через многошаговый процесс, хотя современные диффузионные модели могут достигать более высокого качества генерации изображений. Потоки часто служат компонентами в более сложных системах: например, нормализующие потоки используются в VAE как априорное или апостериорное распределение, а также для построения сложных латентных пространств в [[Дисперсионное представление|дисперсионных]] и гибридных моделях. == Преимущества и ограничения == === Преимущества === * '''Точная оценка плотности:''' аналитически вычисляемое правдоподобие позволяет строго оценивать качество модели и решать задачи, где значение плотности критично (поиск аномалий, статистические тесты). * '''Эффективная генерация:''' выборка из модели требует лишь одного прямого прохода, без сэмплирования из цепи Маркова. * '''Обратимость и латентное представление:''' каждому наблюдению однозначно сопоставляется латентный код, что упрощает анализ скрытых факторов и интерполяции. * '''Гибкость:''' архитектура потоков может адаптироваться под структуру данных (изображения, временные ряды, графы). === Ограничения === * '''Сохранение размерности:''' стандартные потоки требуют, чтобы размерность латентного пространства совпадала с размерностью данных, что может быть неэффективно для высокоразмерных данных с низкой внутренней размерностью. Существуют обобщения (инжективные потоки, многоуровневые модели), но это усложняет архитектуру. * '''Вычислительные затраты:''' вычисление якобиана и обратного преобразования для некоторых архитектур может быть ресурсоёмким, особенно в авторегрессионных потоках при генерации или в непрерывных потоках. * '''Ограниченная выразительность при малом числе слоёв:''' для моделирования сложных распределений с резкими границами могут потребоваться очень глубокие композиции или неограниченно гибкие элементы (сплайны, остаточные потоки), что увеличивает объём вычислений. * '''Топологические ограничения:''' диффеоморфизмы сохраняют топологию носителя распределения; если истинное распределение данных имеет принципиально иную топологию (например, сосредоточено на несвязных многообразиях), классические потоки могут испытывать трудности. Частичное решение — использование разрывов или стягивающих отображений. == Применения == === Оценка плотности и детекция аномалий === Благодаря точному логарифмическому правдоподобию, потоки успешно применяются для [[Обнаружение аномалий|обнаружения аномалий]] в изображениях, трафике сетей, промышленных данных. Низкое значение плотности подсказывает, что пример не характерен для обучающей выборки. === Генерация данных === Нормализующие потоки способны генерировать изображения (модель Glow), аудио (WaveFlow), трёхмерные молекулярные конфигурации и другие типы данных. Хотя по качеству изображений они могут уступать современным GAN и диффузионным моделям, возможность точного контроля над латентным пространством делает их привлекательными для задач, где важна интерпретируемость. === Улучшение вариационного вывода === Потоки используются для построения гибких апостериорных приближений в вариационных автокодировщиках (normalizing flow-based VAE). Это повышает логарифмическую нижнюю границу свидетельства и улучшает качество латентных представлений. === Обратные задачи и научные вычисления === Обратимость и точная плотность делают потоки подходящими для решения обратных задач (восстановление изображений, инпэинтинг), где необходимо семплировать из условных распределений. В вычислительной физике потоки применяются для моделирования плотности состояний, ускорения [[Метод Монте-Карло|марковских цепей Монте-Карло]] (MCMC) и генерации конфигураций в статистических системах. === Другие области === * '''Байесовский анализ:''' аппроксимация апостериорных распределений. * '''Сжатие данных:''' обратимость позволяет строить эффективные кодеки с точным контролем битрейта. * '''Стилизация и перенос признаков:''' манипуляции в латентном пространстве потока. == См. также == * [[Генеративное моделирование]] * [[Вариационный автокодировщик]] * [[Генеративно-состязательная сеть]] * [[Диффузионные модели]] * [[Авторегрессионная модель]] * [[Метод Монте-Карло]] * [[Байесовский вывод]] == Примечания == {{статья |автор = Rezende D. J., Mohamed S. |заглавие = Variational Inference with Normalizing Flows |издание = Proceedings of the 32nd International Conference on Machine Learning (ICML) |год = 2015 |страницы = 1530–1538 }} {{статья |автор = Dinh L., Krueger D., Bengio Y. |заглавие = NICE: Non-linear Independent Components Estimation |издание = 3rd International Conference on Learning Representations (ICLR), Workshop Track |год = 2015 }} {{статья |автор = Dinh L., Sohl-Dickstein J., Bengio S. |заглавие = Density estimation using Real NVP |издание = 5th International Conference on Learning Representations (ICLR) |год = 2017 }} {{статья |автор = Kingma D. P., Dhariwal P. |заглавие = Glow: Generative Flow with Invertible 1x1 Convolutions |издание = Advances in Neural Information Processing Systems 31 (NeurIPS) |год = 2018 }} {{статья |автор = Papamakarios G., Pavlakou T., Murray I. |заглавие = Masked Autoregressive Flow for Density Estimation |издание = Advances in Neural Information Processing Systems 30 (NIPS) |год = 2017 }} {{статья |автор = Kingma D. P., Salimans T., Jozefowicz R. et al. |заглавие = Improving Variational Inference with Inverse Autoregressive Flow |издание = Advances in Neural Information Processing Systems 29 (NIPS) |год = 2016 }} {{статья |автор = Chen R. T. Q., Rubanova Y., Bettencourt J., Duvenaud D. |заглавие = Neural Ordinary Differential Equations |издание = Advances in Neural Information Processing Systems 31 (NeurIPS) |год = 2018 }} {{статья |автор = Grathwohl W., Chen R. T. Q., Bettencourt J., Sutskever I., Duvenaud D. |заглавие = FFJORD: Free-form Continuous Dynamics for Scalable Reversible Generative Models |издание = 7th International Conference on Learning Representations (ICLR) |год = 2019 }} {{статья |автор = Durkan C., Bekasov A., Murray I., Papamakarios G. |заглавие = Neural Spline Flows |издание = Advances in Neural Information Processing Systems 32 (NeurIPS) |год = 2019 }} {{статья |автор = Behrmann J., Grathwohl W., Chen R. T. Q., Duvenaud D., Jacobsen J.-H. |заглавие = Invertible Residual Networks |издание = Proceedings of the 36th International Conference on Machine Learning (ICML) |год = 2019 }} {{статья |автор = Papamakarios G., Nalisnick E., Rezende D. J., Mohamed S., Lakshminarayanan B. |заглавие = Normalizing Flows for Probabilistic Modeling and Inference |издание = Journal of Machine Learning Research |год = 2021 |том = 22 |номер = 57 |страницы = 1–64 }} {{книга |автор = Kobyzev I., Prince S. J. D., Brubaker M. A. |заглавие = Normalizing Flows: An Introduction and Review of Current Methods |издательство = IEEE Transactions on Pattern Analysis and Machine Intelligence |год = 2021 }} [[Категория:Машинное обучение]] [[Категория:Генеративные модели]] [[Категория:Байесовская статистика]] [[Категория:Искусственные нейронные сети]]

• Шаблон:Mbox
• Шаблон:Well
• Шаблон:Книга
• Шаблон:Переводы
• Шаблон:Статья

Возврат к странице Нормализующий поток.