Имитационно-основанный вывод

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: {{well|Статья написана с использованием LLM '''GPT-5.5''' и проверена участником ~~~~}} == Определение == '''Имитаци...)
(Полностью удалено содержимое страницы)
 
Строка 1: Строка 1:
-
{{well|Статья написана с использованием LLM '''GPT-5.5''' и проверена участником [[Участник:Arsenii Kolesnikov|Arsenii Kolesnikov]] 08:45, 3 июля 2026 (MSD)}}
 
-
 
-
== Определение ==
 
-
 
-
'''Имитационно-основанный вывод''' (англ. ''simulation-based inference'', SBI), или '''вывод без явного правдоподобия''' (англ. ''likelihood-free inference''), — семейство методов [[Байесовский вывод|байесовского вывода]], применяемых в задачах, где плотность правдоподобия трудно вычислить, но можно запускать компьютерный симулятор исследуемого процесса.
 
-
 
-
Такая ситуация часто возникает в физике, биологии, эпидемиологии, климатическом моделировании, экономике и инженерных задачах. Симулятор может быть точным и сложным, но не иметь удобной аналитической функции правдоподобия.
 
-
 
-
== Мотивация ==
 
-
 
-
В классическом байесовском выводе требуется апостериорное распределение параметров:
 
-
 
-
:: <tex>p(\theta \mid x) = \frac{p(x\mid \theta)p(\theta)}{p(x)},</tex>
 
-
 
-
где <tex>\theta</tex> — параметры модели, <tex>x</tex> — наблюдения, <tex>p(\theta)</tex> — априорное распределение, <tex>p(x\mid\theta)</tex> — правдоподобие. В SBI предполагается, что <tex>p(x\mid\theta)</tex> невозможно вычислить явно, но можно сгенерировать данные:
 
-
 
-
:: <tex>\theta \sim p(\theta), \quad x \sim simulator(\theta).</tex>
 
-
 
-
Задача состоит в том, чтобы по наблюдению <tex>x_0</tex> восстановить распределение параметров <tex>p(\theta\mid x_0)</tex>.
 
-
 
-
== Математическая постановка ==
 
-
 
-
Пусть задан стохастический симулятор
 
-
 
-
:: <tex>x = S(\theta, \varepsilon),</tex>
 
-
 
-
где <tex>\varepsilon</tex> обозначает внутреннюю случайность. Для заданного наблюдения <tex>x_0</tex> требуется построить приближение апостериорного распределения
 
-
 
-
:: <tex>q_\phi(\theta\mid x_0) \approx p(\theta\mid x_0).</tex>
 
-
 
-
Современные методы SBI используют выборку пар <tex>(\theta_i,x_i)</tex>, полученных запуском симулятора, и обучают нейросетевую вероятностную модель.
 
-
 
-
== Приближённые байесовские вычисления ==
 
-
 
-
Исторически важный подход — '''приближённые байесовские вычисления''' (англ. ''Approximate Bayesian Computation'', ABC). В простейшем варианте генерируются параметры и данные, после чего параметр принимается, если симулированные данные близки к наблюдаемым:
 
-
 
-
:: <tex>d(s(x),s(x_0)) < \varepsilon,</tex>
 
-
 
-
где <tex>s(x)</tex> — статистики данных, <tex>d</tex> — метрика, <tex>\varepsilon</tex> — порог. Чем меньше порог, тем точнее приближение, но тем ниже доля принятых симуляций.
 
-
 
-
ABC хорошо объясняет идею SBI, но плохо масштабируется к высокоразмерным данным и дорогим симуляторам.
 
-
 
-
== Нейросетевые методы ==
 
-
 
-
Современный SBI часто использует [[Нейронная сеть|нейронные сети]] для оценки плотностей или отношений плотностей.
 
-
 
-
'''Neural posterior estimation''' строит модель
 
-
 
-
:: <tex>q_\phi(\theta\mid x)</tex>
 
-
 
-
и обучает её непосредственно приближать апостериорное распределение. Для гибкого задания плотности часто применяются [[Нормализующий поток|нормализующие потоки]].
 
-
 
-
'''Neural likelihood estimation''' строит приближение
 
-
 
-
:: <tex>q_\phi(x\mid\theta) \approx p(x\mid\theta),</tex>
 
-
 
-
после чего апостериорное распределение восстанавливается обычными методами байесовского вывода.
 
-
 
-
'''Neural ratio estimation''' обучает классификатор или функцию отношения плотностей, позволяющую оценить
 
-
 
-
:: <tex>r(x,\theta)=\frac{p(x\mid\theta)}{p(x)}.</tex>
 
-
 
-
Эти методы особенно полезны, когда данные имеют сложную структуру: изображения, временные ряды, события в детекторе или результаты численного моделирования.
 
-
 
-
== Последовательный вывод ==
 
-
 
-
Если симулятор дорогой, важно запускать его не по всему априорному распределению, а около областей параметров, совместимых с наблюдением. Поэтому применяются последовательные методы. На каждом раунде модель апостериорного распределения уточняется, а новые параметры выбираются из более информативного распределения предложений.
 
-
 
-
Идея последовательного SBI состоит в цикле:
 
-
# выбрать параметры для симуляции;
 
-
# сгенерировать данные симулятором;
 
-
# обновить нейросетевое приближение;
 
-
# сузить область дальнейших симуляций.
 
-
 
-
Такой подход может существенно повысить эффективность по числу запусков симулятора.
 
-
 
-
== Применения ==
 
-
 
-
SBI применяется в задачах, где прямой эксперимент дорог, а симулятор содержит экспертное знание:
 
-
* физика высоких энергий и обработка событий детекторов;
 
-
* астрофизика и космология;
 
-
* популяционная генетика;
 
-
* эпидемиологическое моделирование;
 
-
* нейронаука;
 
-
* климатическое моделирование;
 
-
* инженерные цифровые двойники.
 
-
 
-
В контексте [[AI4Science]] SBI является способом превратить сложный симулятор в инструмент статистического вывода: не только генерировать возможные миры, но и оценивать параметры реального процесса по наблюдениям.
 
-
 
-
== Достоинства и ограничения ==
 
-
 
-
Достоинства:
 
-
* не требуется явная формула правдоподобия;
 
-
* можно использовать существующие симуляторы;
 
-
* методы естественно выражают неопределённость;
 
-
* нейросетевые оценки работают с высокоразмерными данными.
 
-
 
-
Ограничения:
 
-
* большое число симуляций может быть дорогостоящим;
 
-
* результат зависит от корректности симулятора;
 
-
* возможна плохая калибровка апостериорного распределения;
 
-
* нужны диагностические проверки покрытия и чувствительности;
 
-
* выбор априорного распределения сильно влияет на вывод.
 
-
 
-
== См. также ==
 
-
 
-
* [[Байесовский вывод]]
 
-
* [[Апостериорная вероятность]]
 
-
* [[Генеративная модель]]
 
-
* [[Нормализующий поток]]
 
-
* [[AI4Science]]
 
-
* [[Проверка статистических гипотез]]
 
-
 
-
== Литература ==
 
-
 
-
<ref>Cranmer K., Brehmer J., Louppe G. The frontier of simulation-based inference. Proceedings of the National Academy of Sciences, 2020.</ref>
 
-
<ref>Papamakarios G., Murray I. Fast epsilon-free inference of simulation models with Bayesian conditional density estimation. NeurIPS, 2016.</ref>
 
-
<ref>Greenberg D. S., Nonnenmacher M., Macke J. H. Automatic posterior transformation for likelihood-free inference. ICML, 2019.</ref>
 
-
<ref>Lueckmann J.-M., Boelts J., Greenberg D. S., Goncalves P. J., Macke J. H. Benchmarking Simulation-Based Inference. AISTATS, 2021.</ref>
 
-
 
-
<references/>
 
-
 
-
[[Категория:Байесовские методы]]
 
-
[[Категория:Вероятностные модели]]
 
-
[[Категория:Научное машинное обучение]]
 
-
[[Категория:Энциклопедия анализа данных]]
 

Текущая версия