Критерий хи-квадрат

Материал из MachineLearning.

Перейти к: навигация, поиск

Содержание

Определение

Критерий \chi^2 - наиболее часто используемый статистический критерий для проверки гипотезы H_0, что наблюдаемая случайная величина подчиняется некому теоретическому закону распределения.

Пусть дана случайная величина X .

Гипотеза H_0 : с. в. X подчиняется закону распределения F(x).


Для проверки гипотезы рассмотрим выборку, состоящую из n независимых наблюдений над с.в. X: X^n = \left( x_1, \cdots \x_n \right), \; x_i \in \left[ a, b \right], \; \forall i=1 \dots n . По выборке построим эмпирическое распределение F^*(x) с.в X. Сравнение эмпирического F^*(x) и теоретического распределения F(x) производится с помощью специально подобранной случайной величины — критерия согласия. Рассмотрим критерий согласия Пирсона (критерий \chi^2):


Гипотеза H_0^* : Хn порождается функцией F^*(x).

Разделим [a,b] на k непересекающихся интервалов (a_i, b_i], \; i=1 \dots k;

Пусть n_j - количество наблюдений в j-м интервале: n_j = \sum_{i=1}^n \left[ a_i <x \leq b_i \right] ;

p_j = F(b_j)-F(a_j) - вероятность попадания наблюдения в j-ый интервал при выполнении гипотезы H_0^* ;

E_j = np_j Ожидаемое число попаданий в j-ый интервал;

Статистика: \chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-1}^2 - Распределение хи-квадрат с k-1 степенью свободы.

Проверка гипотезы H_0

Распределение хи-квадрат
Распределение хи-квадрат

В зависимости от значения критерия \chi^2, гипотеза H_0 может приниматься, либо отвергаться:

  • \chi^2_1 < \chi^2 < \chi^2_2, гипотеза H_0 выполняется.
  • \chi^2 \leq \chi^2_1 (попадает в левый "хвост" распределения) гипотеза H_0 отвергается.
  • \chi^2 \geq \chi^2_2 (попадает в правый "хвост" распределения) гипотеза H_0 отвергается.

Пример 1

Проверим гипотезу H_0: если взять случайную выборку 100 человек из некоторой популяции, в которой количество мужчин и женщин примерно одинаково (встречаются с одинаковой частотой), то в наблюдаемой выборке отношение количества мужчин и женщин будет соотноситься с частотой по всей популяции (50/50). Пусть в наблюдаемой выборке 46 мужчин и 54 женщины, тогда число степеней свобод k-1=2-1=1 и

\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j}= \frac{\left(46-50 \right)^2}{50}+\frac{\left(54-50 \right)^2}{50}=0,64

Т.о. при уровне значимости \alpha=0.05 гипотеза H_0 выполняется (см. таблицу значений ф-ии \chi^2_1).

Сложная гипотеза

Гипотеза H_0^*: Хn порождается функцией F(x,\theta),\; \theta \in R^d,\; \theta - неизвестна. Найдем \hat{\theta} с помощью метода максимального правдоподобия.

p_j(\theta)=F(b_j,\theta)-F(a_j,\theta), n_j = \sum_{i=1}^n \left[ a_i <x \leq b_i \right] , \left(a_j,b_j \right] - фиксированы при j=1 \dots k.

\hat{\theta} = \arg \max_{\theta} \sum n_j \ln p_j(\theta)


Теорема Фишера Для проверки сложной гипотезы критерий \chi^2 представляется в виде:

\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-d-1}^2, где E_j=n p_j\left(\hat{\theta}\right)

Пример 2

Пусть есть квадрат на местности, разделенный сеткой из 24-ёх горизонтальных и 24-ёх вертикальных линий на 576 равных участков. По квадрату производится артиллерийский обстрел. Подсчитывается количество попаданий снарядов в каждый из участков. Получены следующие данные: 0 попаданий - 229 участков, 1 попадание - 211 участок, 2 - 93, 3 - 35, 4 - 7, 5 и 6 - 0, 7 - 1 попадание. Гипотеза H_0: стрельба случайна (нет "целевых" участков).

Закон редких событий (распределение Пуассона)

P{S=j}=\frac{\lambda^j}{j!}e^{-\lambda}, S - число попаданий \hat{\lambda}=0.924

\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j}= 32.6 \sim \chi_{8-1-1}^2

Тогда при уровне значимости \alpha=0.05 гипотеза H_0 не выполняется (см. таблицу значений ф-ии \chi^2_6).

Объединим события (4,5,6,7) с малой частотой попаданий в одно, тогда имеем:

1 попадание - 211 участок, 2 - 93, 3 - 35, {4,5,6,7} - 8.

\chi^2 = 1.05 \sim \chi_{5-1-1}^2

огда при уровне значимости \alpha=0.05 гипотеза H_0</tex> верна.

Проблемы

Критерий \chi^2 ошибается на выборках с низкочастотоными (редкими) событиями. Решить эту проблему можно отбросив либо объединив низкочастотные события с другими событиями.

Литература

Ссылки

[Критерий хи-квадрат (en.wiki)]

Источник — «http://poligon.machinelearning.ru/wiki/index.php?title=%D0%9A%D1%80%D0%B8%D1%82%D0%B5%D1%80%D0%B8%D0%B9_%D1%85%D0%B8-%D0%BA%D0%B2%D0%B0%D0%B4%D1%80%D0%B0%D1%82»
Личные инструменты