|
|
| Строка 1: |
Строка 1: |
| | | | |
| - | {{well|Статья написана с использованием LLM '''GPT-5.5''' и проверена участником [[Участник:Arsenii Kolesnikov|Arsenii Kolesnikov]] 08:45, 3 июля 2026 (MSD)}}
| |
| - |
| |
| - | == Определение ==
| |
| - |
| |
| - | '''Имитационно-основанный вывод''' (англ. ''simulation-based inference'', SBI), или '''вывод без явного правдоподобия''' (англ. ''likelihood-free inference''), — семейство методов [[Байесовский вывод|байесовского вывода]], применяемых в задачах, где плотность правдоподобия трудно вычислить, но можно запускать компьютерный симулятор исследуемого процесса.
| |
| - |
| |
| - | Такая ситуация часто возникает в физике, биологии, эпидемиологии, климатическом моделировании, экономике и инженерных задачах. Симулятор может быть точным и сложным, но не иметь удобной аналитической функции правдоподобия.
| |
| - |
| |
| - | == Мотивация ==
| |
| - |
| |
| - | В классическом байесовском выводе требуется апостериорное распределение параметров:
| |
| - |
| |
| - | :: <tex>p(\theta \mid x) = \frac{p(x\mid \theta)p(\theta)}{p(x)},</tex>
| |
| - |
| |
| - | где <tex>\theta</tex> — параметры модели, <tex>x</tex> — наблюдения, <tex>p(\theta)</tex> — априорное распределение, <tex>p(x\mid\theta)</tex> — правдоподобие. В SBI предполагается, что <tex>p(x\mid\theta)</tex> невозможно вычислить явно, но можно сгенерировать данные:
| |
| - |
| |
| - | :: <tex>\theta \sim p(\theta), \quad x \sim simulator(\theta).</tex>
| |
| - |
| |
| - | Задача состоит в том, чтобы по наблюдению <tex>x_0</tex> восстановить распределение параметров <tex>p(\theta\mid x_0)</tex>.
| |
| - |
| |
| - | == Математическая постановка ==
| |
| - |
| |
| - | Пусть задан стохастический симулятор
| |
| - |
| |
| - | :: <tex>x = S(\theta, \varepsilon),</tex>
| |
| - |
| |
| - | где <tex>\varepsilon</tex> обозначает внутреннюю случайность. Для заданного наблюдения <tex>x_0</tex> требуется построить приближение апостериорного распределения
| |
| - |
| |
| - | :: <tex>q_\phi(\theta\mid x_0) \approx p(\theta\mid x_0).</tex>
| |
| - |
| |
| - | Современные методы SBI используют выборку пар <tex>(\theta_i,x_i)</tex>, полученных запуском симулятора, и обучают нейросетевую вероятностную модель.
| |
| - |
| |
| - | == Приближённые байесовские вычисления ==
| |
| - |
| |
| - | Исторически важный подход — '''приближённые байесовские вычисления''' (англ. ''Approximate Bayesian Computation'', ABC). В простейшем варианте генерируются параметры и данные, после чего параметр принимается, если симулированные данные близки к наблюдаемым:
| |
| - |
| |
| - | :: <tex>d(s(x),s(x_0)) < \varepsilon,</tex>
| |
| - |
| |
| - | где <tex>s(x)</tex> — статистики данных, <tex>d</tex> — метрика, <tex>\varepsilon</tex> — порог. Чем меньше порог, тем точнее приближение, но тем ниже доля принятых симуляций.
| |
| - |
| |
| - | ABC хорошо объясняет идею SBI, но плохо масштабируется к высокоразмерным данным и дорогим симуляторам.
| |
| - |
| |
| - | == Нейросетевые методы ==
| |
| - |
| |
| - | Современный SBI часто использует [[Нейронная сеть|нейронные сети]] для оценки плотностей или отношений плотностей.
| |
| - |
| |
| - | '''Neural posterior estimation''' строит модель
| |
| - |
| |
| - | :: <tex>q_\phi(\theta\mid x)</tex>
| |
| - |
| |
| - | и обучает её непосредственно приближать апостериорное распределение. Для гибкого задания плотности часто применяются [[Нормализующий поток|нормализующие потоки]].
| |
| - |
| |
| - | '''Neural likelihood estimation''' строит приближение
| |
| - |
| |
| - | :: <tex>q_\phi(x\mid\theta) \approx p(x\mid\theta),</tex>
| |
| - |
| |
| - | после чего апостериорное распределение восстанавливается обычными методами байесовского вывода.
| |
| - |
| |
| - | '''Neural ratio estimation''' обучает классификатор или функцию отношения плотностей, позволяющую оценить
| |
| - |
| |
| - | :: <tex>r(x,\theta)=\frac{p(x\mid\theta)}{p(x)}.</tex>
| |
| - |
| |
| - | Эти методы особенно полезны, когда данные имеют сложную структуру: изображения, временные ряды, события в детекторе или результаты численного моделирования.
| |
| - |
| |
| - | == Последовательный вывод ==
| |
| - |
| |
| - | Если симулятор дорогой, важно запускать его не по всему априорному распределению, а около областей параметров, совместимых с наблюдением. Поэтому применяются последовательные методы. На каждом раунде модель апостериорного распределения уточняется, а новые параметры выбираются из более информативного распределения предложений.
| |
| - |
| |
| - | Идея последовательного SBI состоит в цикле:
| |
| - | # выбрать параметры для симуляции;
| |
| - | # сгенерировать данные симулятором;
| |
| - | # обновить нейросетевое приближение;
| |
| - | # сузить область дальнейших симуляций.
| |
| - |
| |
| - | Такой подход может существенно повысить эффективность по числу запусков симулятора.
| |
| - |
| |
| - | == Применения ==
| |
| - |
| |
| - | SBI применяется в задачах, где прямой эксперимент дорог, а симулятор содержит экспертное знание:
| |
| - | * физика высоких энергий и обработка событий детекторов;
| |
| - | * астрофизика и космология;
| |
| - | * популяционная генетика;
| |
| - | * эпидемиологическое моделирование;
| |
| - | * нейронаука;
| |
| - | * климатическое моделирование;
| |
| - | * инженерные цифровые двойники.
| |
| - |
| |
| - | В контексте [[AI4Science]] SBI является способом превратить сложный симулятор в инструмент статистического вывода: не только генерировать возможные миры, но и оценивать параметры реального процесса по наблюдениям.
| |
| - |
| |
| - | == Достоинства и ограничения ==
| |
| - |
| |
| - | Достоинства:
| |
| - | * не требуется явная формула правдоподобия;
| |
| - | * можно использовать существующие симуляторы;
| |
| - | * методы естественно выражают неопределённость;
| |
| - | * нейросетевые оценки работают с высокоразмерными данными.
| |
| - |
| |
| - | Ограничения:
| |
| - | * большое число симуляций может быть дорогостоящим;
| |
| - | * результат зависит от корректности симулятора;
| |
| - | * возможна плохая калибровка апостериорного распределения;
| |
| - | * нужны диагностические проверки покрытия и чувствительности;
| |
| - | * выбор априорного распределения сильно влияет на вывод.
| |
| - |
| |
| - | == См. также ==
| |
| - |
| |
| - | * [[Байесовский вывод]]
| |
| - | * [[Апостериорная вероятность]]
| |
| - | * [[Генеративная модель]]
| |
| - | * [[Нормализующий поток]]
| |
| - | * [[AI4Science]]
| |
| - | * [[Проверка статистических гипотез]]
| |
| - |
| |
| - | == Литература ==
| |
| - |
| |
| - | <ref>Cranmer K., Brehmer J., Louppe G. The frontier of simulation-based inference. Proceedings of the National Academy of Sciences, 2020.</ref>
| |
| - | <ref>Papamakarios G., Murray I. Fast epsilon-free inference of simulation models with Bayesian conditional density estimation. NeurIPS, 2016.</ref>
| |
| - | <ref>Greenberg D. S., Nonnenmacher M., Macke J. H. Automatic posterior transformation for likelihood-free inference. ICML, 2019.</ref>
| |
| - | <ref>Lueckmann J.-M., Boelts J., Greenberg D. S., Goncalves P. J., Macke J. H. Benchmarking Simulation-Based Inference. AISTATS, 2021.</ref>
| |
| - |
| |
| - | <references/>
| |
| - |
| |
| - | [[Категория:Байесовские методы]]
| |
| - | [[Категория:Вероятностные модели]]
| |
| - | [[Категория:Научное машинное обучение]]
| |
| - | [[Категория:Энциклопедия анализа данных]]
| |