Формула Байеса

Материал из MachineLearning.

Содержание

1 Основная идея
2 Исторический контекст
3 Вывод формулы
- 3.1 Полная форма
4 Интерпретация компонентов
- 4.1 Форма через отношения шансов
5 Пример с диагностическим тестом
6 Обобщение на случайные величины и параметры
7 Применение в статистике и машинном обучении
8 Байесовский вывод и принятие решений
9 Выбор априорного распределения
10 Вычислительные методы
11 Отличие от смежных понятий
12 Ограничения и типичные ошибки
13 См. также
14 Примечания
15 Литература

Формула Байеса (англ. Bayes’ theorem, Bayes’ rule) — соотношение теории вероятностей, связывающее прямую и обратную условные вероятности. Она позволяет вычислить вероятность некоторой гипотезы после получения новых данных, если известны исходная вероятность гипотезы и вероятность наблюдаемых данных при условии её истинности.

В статистике формула Байеса лежит в основе байесовского вывода. В машинном обучении она применяется в вероятностной классификации, оценивании параметров, сравнении моделей, построении байесовских сетей и последовательном обучении по поступающим данным^[1]^[1].

Основная идея

Формула Байеса описывает изменение вероятностей при появлении новой информации. До получения данных некоторой гипотезе приписывается исходная, или априорная, вероятность. Затем оценивается, насколько вероятно было бы наблюдать полученные данные, если бы гипотеза оказалась верной. Сочетание этих двух величин даёт апостериорную вероятность — вероятность гипотезы после учёта наблюдения.

В словесной форме принцип можно записать следующим образом:

апостериорная вероятность = правдоподобие × априорная вероятность / вероятность данных.

Основной смысл формулы состоит в переходе от вероятности наблюдения при известной причине к вероятности причины при известном наблюдении. Эти две условные вероятности обычно различны. Например, вероятность положительного результата теста при наличии заболевания не совпадает с вероятностью заболевания при положительном результате теста.

Данные изменяют оценку гипотезы не сами по себе, а через сравнение альтернативных объяснений. Если наблюдение значительно вероятнее при одной гипотезе, чем при других, её апостериорная вероятность возрастает. Если все гипотезы объясняют наблюдение примерно одинаково хорошо, новые данные почти не меняют их относительные вероятности.

Исторический контекст

Формула названа в честь английского математика и священника Томаса Байеса. Его работа An Essay towards Solving a Problem in the Doctrine of Chances была опубликована посмертно в 1763 году в журнале Philosophical Transactions of the Royal Society. Рукопись подготовил и представил Королевскому обществу Ричард Прайс^[1].

В работе рассматривалась обратная задача теории вероятностей: как по наблюдаемому числу успехов и неудач судить о неизвестной вероятности успеха в отдельном испытании. В современной терминологии это задача получения апостериорного распределения параметра биномиальной модели.

В конце XVIII — начале XIX века методы обратной вероятности были независимо развиты и существенно обобщены Пьером-Симоном Лапласом. Лаплас применял их к астрономии, демографии и оцениванию вероятностей причин по наблюдаемым следствиям^[1].

Современная формула Байеса является прямым следствием определения условной вероятности. Её значение связано не со сложностью математического вывода, а с тем, что она задаёт общее правило пересмотра вероятностных оценок при получении данных.

Вывод формулы

Пусть рассматриваются два случайных события. Условная вероятность первого события при условии наступления второго определяется как

$P(A\mid B)=\frac{P(A\cap B)}{P(B)},\quad P(B)>0.$

Числитель задаёт вероятность совместного наступления событий, а знаменатель ограничивает пространство рассматриваемых исходов теми случаями, когда условие выполнено.

Из определения следует правило умножения:

$P(A\cap B)=P(A\mid B)P(B).$

Если поменять события местами, та же вероятность их совместного наступления записывается в другом порядке:

$P(A\cap B)=P(B\mid A)P(A).$

Левые части двух равенств совпадают, поэтому совпадают и их правые части:

$P(A\mid B)P(B)=P(B\mid A)P(A).$

После деления на вероятность наблюдаемого события получается формула Байеса:

$P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B)},\quad P(B)>0.$

Таким образом, обратная условная вероятность выражается через прямую условную вероятность, априорную вероятность и общую вероятность наблюдения.

Полная форма

Если рассматривается несколько попарно несовместимых гипотез, образующих полную группу событий, общая вероятность наблюдения вычисляется по формуле полной вероятности:

$P(B)=\sum_i P(B\mid A_i)P(A_i).$

Каждое слагаемое описывает один возможный путь получения наблюдения: сначала реализуется определённая гипотеза, а затем при этой гипотезе появляются наблюдаемые данные.

Подстановка полной вероятности в знаменатель даёт

$P(A_k\mid B)=\frac{P(B\mid A_k)P(A_k)}{\sum_i P(B\mid A_i)P(A_i)}.$

Знаменатель учитывает все рассматриваемые объяснения данных и нормирует результат. Поэтому сумма апостериорных вероятностей полной группы гипотез равна единице.

Интерпретация компонентов

В статистическом применении элементы формулы Байеса имеют следующие интерпретации.

Априорная вероятность описывает сведения о гипотезе до учёта текущего наблюдения. Она может отражать частоту события, результаты предыдущих исследований, экспертные знания или ограничения предметной области.
Правдоподобие показывает, насколько вероятны полученные данные при условии истинности гипотезы. Правдоподобие рассматривается как функция гипотезы или параметра при фиксированных данных.
Маргинальная вероятность данных, также называемая свидетельством или маргинальным правдоподобием, учитывает все возможные гипотезы. Она служит нормирующим множителем.
Апостериорная вероятность представляет обновлённую вероятность гипотезы после учёта данных.

Правдоподобие не следует смешивать с апостериорной вероятностью. Высокое правдоподобие означает, что данные хорошо согласуются с гипотезой, но не гарантирует высокой вероятности самой гипотезы. Редкая гипотеза может хорошо объяснять наблюдение и всё же иметь небольшую апостериорную вероятность, если то же наблюдение часто возникает при более распространённых альтернативах.

Форма через отношения шансов

Формулу Байеса можно представить через отношение шансов гипотезы и её отрицания:

$\frac{P(H\mid D)}{P(\overline{H}\mid D)}=\frac{P(D\mid H)}{P(D\mid\overline{H})}\frac{P(H)}{P(\overline{H})}.$

Первый множитель в правой части, содержащий условные вероятности данных, называется отношением правдоподобия. В такой форме правило обновления формулируется особенно просто: априорные шансы умножаются на отношение правдоподобия и превращаются в апостериорные шансы.

Если данные значительно вероятнее при основной гипотезе, чем при её отрицании, отношение правдоподобия больше единицы и шансы гипотезы возрастают. Если данные лучше согласуются с альтернативой, её шансы уменьшаются.

Пример с диагностическим тестом

Рассмотрим условный диагностический тест. Предположим, что:

заболевание встречается у одного процента обследуемых;
тест даёт положительный результат у 99 процентов заболевших;
у пяти процентов здоровых людей тест также оказывается положительным.

Необходимо определить вероятность заболевания при положительном результате теста.

Удобно рассмотреть группу из 10 000 человек. В среднем заболевание будет у 100 человек. Среди них тест даст 99 положительных результатов. Остальные 9900 человек здоровы, но у 495 из них тест также окажется положительным.

Всего положительный результат получат 594 человека, из которых только 99 действительно имеют заболевание. Поэтому искомая вероятность равна

$\frac{99}{99+495}\approx 0.167.$

При заданных условиях вероятность заболевания после положительного результата составляет около 16,7 процента, а не 99 процентов.

Причина состоит в низкой исходной распространённости заболевания. Хотя тест редко пропускает заболевание, ложноположительные результаты возникают в гораздо более многочисленной группе здоровых людей. Пример показывает, почему чувствительность теста нельзя непосредственно интерпретировать как вероятность заболевания после положительного результата.

Игнорирование исходной распространённости события называется ошибкой базовой частоты. Она встречается в медицинской диагностике, обнаружении мошенничества, фильтрации нежелательных сообщений и других задачах, где положительный класс является редким.

Приведённые числа являются учебным примером и не предназначены для интерпретации конкретного медицинского теста.

Обобщение на случайные величины и параметры

Формула Байеса применяется не только к отдельным событиям, но и к случайным величинам, неизвестным параметрам и целым статистическим моделям.

Дискретные гипотезы

Для конечного или счётного множества гипотез формула имеет вид

$P(H_i\mid x)=\frac{P(x\mid H_i)P(H_i)}{\sum_j P(x\mid H_j)P(H_j)}.$

Апостериорная вероятность каждой гипотезы пропорциональна произведению её априорной вероятности и правдоподобия наблюдения. Знаменатель суммирует такие произведения по всем гипотезам.

Непрерывные параметры

Если неизвестная величина непрерывна, вместо вероятностей отдельных значений используются плотности вероятности:

$p(\theta\mid x)=\frac{p(x\mid\theta)p(\theta)}{p(x)}.$

В этой записи априорная плотность описывает неопределённость относительно параметра до наблюдения, а апостериорная плотность — после учёта данных.

Нормирующая плотность данных определяется интегрированием по всем допустимым значениям параметра:

$p(x)=\int p(x\mid\theta)p(\theta)d\theta.$

Она представляет среднее правдоподобие данных по априорному распределению параметра^[1].

Для непрерывной случайной величины значение плотности в отдельной точке не является вероятностью этой точки. Вероятность получают интегрированием плотности по некоторому интервалу или области.

Если требуется определить форму апостериорного распределения без вычисления нормирующего множителя, используют запись с точностью до коэффициента пропорциональности:

$p(\theta\mid x)\propto p(x\mid\theta)p(\theta).$

Такая запись показывает, что апостериорная плотность определяется произведением правдоподобия и априорной плотности. Для вычисления вероятностей и математических ожиданий полученную функцию необходимо нормировать.

Последовательное обновление

Если данные поступают по частям, апостериорное распределение после первой части можно использовать как априорное распределение на следующем шаге:

$p(\theta\mid D_1,D_2)\propto p(D_2\mid\theta,D_1)p(\theta\mid D_1).$

Такой подход позволяет обновлять модель по мере поступления наблюдений. Влияние ранее полученных данных уже содержится в текущем апостериорном распределении.

Если отдельные наблюдения условно независимы при известном параметре, общее правдоподобие представляется произведением:

$p(D\mid\theta)=\prod_{i=1}^{n}p(x_i\mid\theta).$

Каждое новое наблюдение последовательно корректирует распределение параметра. Этот принцип используется в потоковой обработке данных, байесовской фильтрации и онлайн-обучении.

Применение в статистике и машинном обучении

Вероятностная классификация

В задаче классификации требуется определить класс объекта по его признакам. Формула Байеса позволяет перейти от распределения признаков внутри каждого класса к вероятности класса при наблюдаемых признаках:

$P(y=k\mid x)=\frac{p(x\mid y=k)P(y=k)}{\sum_j p(x\mid y=j)P(y=j)}.$

Априорная вероятность может отражать частоту класса в обучающей выборке или в генеральной совокупности. Условное распределение признаков описывает, какие объекты характерны для каждого класса. Результатом является распределение вероятностей по классам.

Такой подход используется в порождающих моделях. Сначала оценивается совместное распределение признаков и классов, после чего с помощью формулы Байеса вычисляется необходимая условная вероятность.

Наивный байесовский классификатор

Наивный байесовский классификатор предполагает условную независимость признаков при известном классе:

$p(x_1,\ldots,x_d\mid y)=\prod_{j=1}^{d}p(x_j\mid y).$

Это предположение упрощает оценивание многомерного распределения. Вместо одной сложной функции достаточно оценить распределение каждого признака внутри каждого класса.

Для выбора класса можно сравнивать логарифмы ненормированных апостериорных вероятностей:

$\widehat{y}=\mathop{\rm arg\,max}_{y}\left(\log P(y)+\sum_{j=1}^{d}\log p(x_j\mid y)\right).$

Использование логарифмов заменяет произведение большим числом малых множителей на сумму и повышает численную устойчивость вычислений.

Условная независимость признаков редко выполняется точно. Тем не менее классификатор может сохранять хорошую точность, если ошибки в оценивании вероятностей не изменяют порядок классов. При этом полученные численные вероятности могут нуждаться в дополнительной калибровке^[1].

Наивные байесовские модели применяются в классификации документов, фильтрации спама, анализе тональности и других задачах с большим числом признаков.

Оценивание параметров

В байесовской статистике неизвестный параметр рассматривается как величина, неопределённость которой описывается распределением. После наблюдения обучающей выборки формула Байеса задаёт апостериорное распределение параметра.

В качестве точечной оценки можно использовать значение, при котором апостериорная плотность максимальна:

$\widehat{\theta}_{\rm MAP}=\mathop{\rm arg\,max}_{\theta}p(D\mid\theta)p(\theta).$

Такая оценка называется оценкой максимума апостериорной вероятности, или MAP-оценкой. Она учитывает как соответствие параметра данным, так и априорные ограничения.

Если априорная плотность постоянна в рассматриваемой параметризации, MAP-оценка совпадает с оценкой максимального правдоподобия. При непостоянном априорном распределении его отрицательный логарифм играет роль регуляризующего штрафа. Например, нормальное априорное распределение соответствует квадратичной регуляризации, а распределение Лапласа связано со штрафом, способствующим разреженности параметров.

Апостериорное предсказание

При прогнозировании нового значения можно учитывать не одну точечную оценку параметра, а всё его апостериорное распределение:

$p(y_*\mid x_*,D)=\int p(y_*\mid x_*,\theta)p(\theta\mid D)d\theta.$

Предсказание усредняется по возможным значениям параметра. Больший вес получают значения, лучше согласующиеся с обучающими данными, но неопределённость относительно параметров не отбрасывается.

Апостериорное усреднение особенно важно при небольших выборках, наличии нескольких сопоставимых объяснений данных и моделях с большим числом параметров.

Сравнение моделей

Формулу Байеса можно применять к статистическим моделям:

$P(M_i\mid D)=\frac{p(D\mid M_i)P(M_i)}{\sum_j p(D\mid M_j)P(M_j)}.$

Априорные вероятности задают исходные веса моделей, а маргинальное правдоподобие измеряет, насколько хорошо модель в среднем объясняет данные.

Маргинальное правдоподобие вычисляется интегрированием по параметрам:

$p(D\mid M_i)=\int p(D\mid\theta_i,M_i)p(\theta_i\mid M_i)d\theta_i.$

В отличие от максимального правдоподобия, эта величина учитывает не только наилучшую настройку модели, но и весь диапазон параметров, допускаемый априорным распределением. Слишком гибкая модель не получает преимущества только за счёт способности хорошо подстроиться под конкретную выборку, если большая часть её параметрического пространства плохо объясняет данные.

Отношение маргинальных правдоподобий двух моделей называется байесовским фактором. Результат сравнения может существенно зависеть от выбора априорных распределений параметров.

Байесовские сети

Байесовская сеть представляет совместное распределение случайных величин в виде ориентированного ациклического графа. Узлы соответствуют переменным, а рёбра отражают непосредственные вероятностные зависимости.

Совместное распределение переменных разлагается в произведение локальных условных распределений:

$p(x_1,\ldots,x_n)=\prod_{i=1}^{n}p(x_i\mid {\rm pa}(x_i)).$

Каждый множитель описывает распределение переменной при известных значениях её родительских узлов.

Формула Байеса используется для изменения направления вероятностного вывода. Например, модель может задавать вероятность симптома при заболевании, а после наблюдения симптома вычислять вероятность заболевания. Байесовские сети применяются в диагностике, экспертных системах, распознавании образов и анализе рисков^[1].

Байесовский вывод и принятие решений

Апостериорная вероятность характеризует неопределённость, но сама по себе не определяет оптимальное действие. Для принятия решения необходимо учитывать стоимость различных ошибок.

В случае конечного множества исходов оптимальным считается действие с минимальным апостериорным ожидаемым риском:

$a^*=\mathop{\rm arg\,min}_{a}\sum_y L(a,y)P(y\mid D).$

Функция потерь задаёт стоимость выбранного действия при каждом возможном исходе. Поэтому решение зависит одновременно от апостериорных вероятностей и последствий ошибок.

Например, в медицинском скрининге пропуск опасного заболевания может иметь значительно более высокую стоимость, чем дополнительное обследование здорового пациента. В такой ситуации рациональный порог принятия решения может быть существенно ниже половины.

Если все неправильные классификации имеют одинаковую стоимость, правило минимального риска сводится к выбору класса с наибольшей апостериорной вероятностью.

Выбор априорного распределения

Априорное распределение является частью статистической модели. Оно может отражать:

результаты предыдущих исследований;
знания предметной области;
физические и логические ограничения;
типичный масштаб параметров;
структуру связанных групп наблюдений;
необходимость регуляризации при небольшом объёме данных.

Информативное априорное распределение содержит существенные сведения о параметрах до анализа текущей выборки. Слабо информативное распределение главным образом ограничивает нереалистичные значения. Так называемые неинформативные распределения стремятся уменьшить влияние исходных предположений, однако полностью нейтрального выбора в общем случае не существует. Равномерное распределение в одной параметризации может стать неравномерным после замены переменной^[1].

При небольшом объёме данных априорное распределение может заметно влиять на результат. Поэтому на практике проводят анализ чувствительности: повторяют вычисления с несколькими содержательно допустимыми априорными распределениями и сравнивают выводы.

Гипотезе не следует присваивать строго нулевую априорную вероятность без достаточных оснований. Если исходная вероятность равна нулю, она останется нулевой после любого числа наблюдений.

Вычислительные методы

В простых моделях апостериорное распределение удаётся получить аналитически. Особенно удобны сопряжённые априорные распределения, при которых априорное и апостериорное распределения принадлежат одному семейству.

Например, бета-распределение является сопряжённым априорным распределением для вероятности успеха в биномиальной модели:

$\theta\mid D\sim {\rm Beta}(\alpha+s,\beta+n-s).$

После наблюдения выборки параметры априорного бета-распределения увеличиваются на число успехов и неудач. Это даёт простую интерпретацию последовательного накопления данных.

В сложных моделях нормирующий интеграл вычислить точно невозможно. Тогда применяются приближённые методы:

Метод Монте-Карло и Марковская цепь Монте-Карло;
Вариационный вывод;
последовательные методы Монте-Карло;
приближение Лапласа;
численное интегрирование для задач небольшой размерности.

Эти методы не заменяют формулу Байеса, а приближённо вычисляют заданное ею апостериорное распределение или его характеристики. В современных вероятностных моделях основная сложность обычно связана не с самой формулой, а с вычислением нормирующего множителя и интегралов по многомерному пространству параметров^[1].

Отличие от смежных понятий

Условная вероятность — более общее понятие, обозначающее вероятность события при наличии некоторого условия. Формула Байеса связывает две условные вероятности с противоположным направлением условия.
Формула полной вероятности вычисляет вероятность наблюдения через полную группу гипотез. В формуле Байеса она обычно используется для нахождения знаменателя.
Функция правдоподобия оценивает согласованность фиксированных данных с различными значениями параметра. Она не является распределением вероятности параметра и не обязана нормироваться по нему.
Метод максимального правдоподобия выбирает параметры, при которых наблюдаемые данные наиболее вероятны. Байесовский вывод дополнительно использует априорное распределение и получает распределение параметров, а не только точечную оценку.
Байесовский вывод — более широкий статистический подход, использующий формулу Байеса для оценивания параметров, проверки гипотез, прогнозирования и принятия решений. Сама формула Байеса является тождеством теории вероятностей и не зависит от выбора статистической философии.
Байесовская сеть — графическая вероятностная модель. Она использует условные вероятности и байесовский вывод, но не является другим названием формулы Байеса.

Ограничения и типичные ошибки

Подмена условных вероятностей

Наиболее распространённая ошибка состоит в перестановке события и условия:

$P(A\mid B)\ne P(B\mid A).$

Вероятность данных при гипотезе не равна вероятности гипотезы при данных. Для перехода между ними требуется учитывать априорную вероятность и вероятности альтернативных объяснений.

Игнорирование базовой частоты

Использование только чувствительности признака или теста без учёта распространённости события приводит к завышению вероятности редких гипотез. Особенно заметна эта ошибка в задачах с сильным дисбалансом классов.

Интерпретация правдоподобия как вероятности параметра

Правдоподобие рассматривается как функция параметра при фиксированных данных. Оно не задаёт вероятность параметра до тех пор, пока не будет объединено с априорным распределением и нормировано.

Зависимость от априорных предположений

При малой или малоинформативной выборке апостериорное распределение может существенно зависеть от выбранного априорного распределения. Это не является ошибкой формулы, но требует явного обоснования предположений и анализа чувствительности.

Зависимость от модели

Апостериорная вероятность условна не только на данных, но и на принятой модели. Неправильное семейство распределений, пропущенные переменные, ошибочное предположение о независимости или систематическая ошибка измерений могут привести к уверенным, но неверным выводам.

Сдвиг распределения

Если данные после внедрения модели имеют другое распределение, априорные вероятности классов и условные распределения признаков могут измениться. Поэтому вероятности, корректные на обучающей выборке, не обязательно сохраняют смысл в новых условиях.

Вероятность и причинность

Формула Байеса описывает вероятностную зависимость, но сама по себе не устанавливает причинную связь. Высокая условная вероятность может быть вызвана общей причиной, особенностями отбора данных или иной структурой зависимости. Для причинных выводов необходимы дополнительные предположения, экспериментальный дизайн или причинная модель.

Условие нулевой вероятности

В элементарной формулировке условная вероятность через отношение не определена, если вероятность условия равна нулю. В более общей теоретико-мерной постановке используются регулярные условные распределения. Это особенно важно для непрерывных величин, отдельные значения которых обычно имеют нулевую вероятность.

См. также

Примечания

Литература

Bayes T., Price R. An Essay towards Solving a Problem in the Doctrine of Chances // Philosophical Transactions of the Royal Society of London. — 1763. — Т. 53. — С. 370–418.
Bishop C. M. Pattern Recognition and Machine Learning. — New York: Springer, 2006. — ISBN 978-0-387-31073-2
Gelman A., Carlin J. B., Stern H. S., Dunson D. B., Vehtari A., Rubin D. B. Bayesian Data Analysis. — 3rd ed.. — Boca Raton: CRC Press, 2013. — ISBN 978-1-4398-4095-5
Hastie T., Tibshirani R., Friedman J. The Elements of Statistical Learning: Data Mining, Inference, and Prediction. — 2nd ed.. — New York: Springer, 2009.
Murphy K. P. Probabilistic Machine Learning: An Introduction. — Cambridge, MA: MIT Press, 2022.
Pearl J. Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference. — San Mateo, CA: Morgan Kaufmann, 1988.
Stigler S. M. The History of Statistics: The Measurement of Uncertainty before 1900. — Cambridge, MA: Harvard University Press, 1986.

Источник — «http://poligon.machinelearning.ru/wiki/index.php?title=%D0%A4%D0%BE%D1%80%D0%BC%D1%83%D0%BB%D0%B0_%D0%91%D0%B0%D0%B9%D0%B5%D1%81%D0%B0»