Точный тест Фишера

Материал из MachineLearning.

Текущая версия

Точный тест Фишера – это тест статистической значимости, используемый в анализе категориальных данных, когда размеры выборки малы (являются маленькими). Назван в честь его изобретателя, Р. A. Фишера, и является одним из класса точных тестов. Фишер разрабатывал тест после комментария от Muriel Bristol, которая утверждала, будто была в состоянии обнаружить, были ли чай или молоко добавлены сначала в ее чашку.

Тест обычно используется, чтобы исследовать значимость взаимосвязи между двумя переменными в факторной таблице размерности 2 x 2 (таблице сопряженности признаков). Величина вероятности P теста вычисляется, как если бы значения на границах таблицы известны. Например, в случае с дегустацией чая, госпожа Bristol знает число чашек с каждым способом приготовления (молоко или чай сначала), поэтому якобы предоставляет правильное число угадываний в каждой категории. Как было указано Фишером, в предположении нуль-гипотезы о независимости испытаний это ведет к использованию гипергеометрического распределения для данного счета в таблице.

С большими выборками в этой ситуации может использоваться тест хи-квадрат. Однако, этот тест не является подходящим, когда математические ожидания значений в любой из ячеек таблицы с заданными границами оказывается ниже 10: вычисленное выборочное распределение испытуемой статистической величины только приблизительно равно теоретическому распределению хи-квадрат, и приближение неадекватно в этих условиях (которые возникают, когда размеры выборки малы, или данные очень неравноценно распределены среди ячеек таблицы). Тест Фишера, как следует из его названия, является точным, и может поэтому использоваться независимо от особенностей выборки. Тест становится трудно вычислимым для больших выборок или хорошо уравновешенных таблиц, но к счастью именно для этих условий хорошо применим критерий хи-квадрат.

Для ручных вычислений тест выполним в только случае размерности факторных таблиц 2 x 2. Однако принцип теста может быть расширен на общий случай таблиц m x n, и некоторые статистические пакеты обеспечивают такие вычисления (иногда используя метод Монте-Карло, чтобы получить приближение).

Пример

Точные Тесты позволяют получать более аккуратный анализ для маленьких выборок или данных, которые редки. Точные Тесты непараметрических исследований – подходящий статистический инструмент для работы с неуравновешенными данными. Неуравновешенные данные, проанализированные асимптотическими методами, имеют тенденцию приводить к ненадежным результатам. Для больших и хорошо уравновешенных наборов данных точные и асимптотические оценки вероятностей p очень похожи. Но для маленьких, редких, или выведенных из равновесия данных, точные и асимптотические оценки могут быть весьма различными и дажепривести к противоположным заключениям относительно разрабатываемой гипотезы (Mehta, Patel, & Tsiatis, 1984; Mehta, 1995; Mehta & Patel, 1997).

Потребность в тесте Фишера возникает, когда у нас есть данные, разделенные на две категории двумя отдельными способами. Например, выборка подростков может быть разделена на категории с одной стороны по признаку пола (юноши и девушки), а с другой стороны – по признаку нахождения на диете или нет. Можно выдвинуть гипотезу, о том, что доля находящихся на диете людей выше среди девушек, чем среди юношей, и мы хотим удостовериться, является ли какое-нибудь наблюдаемое различие пропорций статистически значимым.

Данные могли бы быть похожими на следующие:

Такие данные не подходят для анализа методом хи-квадрат, потому что математические ожидания в таблице - все ниже 10, а в 2 × 2 факторной таблице число степеней свободы всегда 1.

Вопрос, который мы задаем об этих данных: зная, что 10 из 24 подростков - люди, сидящие на диете, и что 12 из этих 24 - девушки, какова вероятность, что 10 диетиков так неравноценно распределены между полами? Если бы мы выбрали 10 подростков наугад, какова вероятность, что 9 из них оказались взяты из набора 12 лиц женского пола, и только 1 из числа 12 юношей?

Прежде, чем продолжить исследование теста Фишера, введем необходимую нотацию. Обозначим числа в ячейках буквами a, b, c и d, соответственно, назовем итоги суммирования по строкам и столбцам маргинальными (граничными) итогами, и представим общий итог буквой n.

Теперь таблица выглядит следующим образом:

Фишер показал, что вероятность получения любого такого набора величин дается гипергеометрическим распределением:

где столбцы в скобках – биномиальные коэффициенты, а символ! указывает оператор факториала.

Эта формула дает точную вероятность наблюдения любого специфического набора данных, при условии заданных маргинальных итогов, общего итога и нулевой гипотезе об одинаковой предрасположенности к диете независимо от пола (соотношение между диетиками и людьми не находящимися на диете для юношей такое же, как для девушек).

Фишер показал, что мы можем иметь дело только со случаями, где маргинальные итоги (marginal totals)- те же самые, что и в приведенной таблице. В приведенном примере таких случаев 11. Из них только один столь же «перекошен» (в сторону женской склонности к диете) как и демонстрационный пример:

Чтобы оценить статистическую значимость наблюдаемых данных, то есть полную вероятность такого же или более выраженного «перекоса» в сторону нахождения девушек на диете, в предположении нулевой гипотезы мы должны вычислить вероятности ценности p для обеих этих таблиц и сложить их. Это дает, т.н. односторонний тест; для двустороннего теста мы должны также рассмотреть таблицы, которые так же перекошены, но в противоположном направлении (т.е. рассмотреть случай преимущественного нахождения на диете юношей).

К сожалению, классификация таблиц согласно тому, являются ли они 'чрезвычайно перекошенными', проблематична. Подход, используемый языком программирования R, предлагает вычислить величину критерия p, суммируя вероятности для всех таблиц с вероятностями, меньше чем или равными вероятности наблюдаемой таблицы. Для таблиц с малыми числами в ячейках двусторонняя оценка критерия может существенно отличаться от удвоенной величины односторонней оценки, в отличие от случая со статистическими данными, у которых есть симметрическое распределение выборки.

Большинство современных статистических пакетов вычисляет значение тестов Фишера, в некоторых случаях даже там, где приближение хи-квадрат также было бы приемлемым. Фактические вычисления, выполненные статистическими пакетами программ, будут как правило отличаться от описанных. В частности числовые трудности могут следовать из больших величин факториалов. Простые, но даже более эффективные вычислительные подходы основаны на использовании гамма-функции или логарифмической гамма-функции, однако точное вычисление гипергеометрических и биномиальных вероятностей - область современных исследований.

Литература

• Fisher, R. A. 1922. "On the interpretation of χ2 from contingency tables, and the calculation of P". Journal of the Royal Statistical Society 85(1):87-94.
• Fisher, R. A. 1954 Statistical Methods for research workers. Oliver and Boyd.
• Mehta, C. R. 1995. SPSS 6.1 Exact test for Windows. Englewood Cliffs, NJ: Prentice Hall.
• Mehta, C. R., Patel, N. R., & Tsiatis, A. A. 1984. Exact significance testing to establish treatment equivalence with ordered categorical data. Biometrics, 40(3), 819-825.
• Mehta, C. R.& Patel, N. R. 1997. Exact inference in categorical data. Biometrics, 53(1), 112-117.

См. также

Гипергеометрическое распределение

Ссылки

• [1] Точный тест Фишера, калькулятор
• [2] On-line точный тест Фишера, с примерами
• [3] On-line точный тест Фишера, работающий с большими значениями клеток
• [4] mathworld.wolfram.com Рассмотрение m x n расширения точного теста Фишера