Критерий хи-квадрат

Материал из MachineLearning.

(Различия между версиями)

Текущая версия

Содержание

1 Определение
2 Проверка гипотезы
3 Пример 1
4 Сложная гипотеза
5 Пример 2
6 Проблемы
7 Дополнения
8 Литература
9 Ссылки

Критерий $\chi^2$ - статистический критерий для проверки гипотезы $H_0$ , что наблюдаемая случайная величина подчиняется некому теоретическому закону распределения.

Определение

Пусть дана случайная величина X .

Гипотеза $H_0$ : с. в. X подчиняется закону распределения $F(x)$ .

Для проверки гипотезы рассмотрим выборку, состоящую из n независимых наблюдений над с.в. X: $X^n = \left( x_1, \cdots x_n \right), \; x_i \in \left[ a, b \right], \; \forall i=1 \dots n$ . По выборке построим эмпирическое распределение $F^*(x)$ с.в X. Сравнение эмпирического $F^*(x)$ и теоретического распределения $F(x)$ (предполагаемого в гипотезе) производится с помощью специально подобранной функции — критерия согласия. Рассмотрим критерий согласия Пирсона (критерий $\chi^2$ ):

Гипотеза $H_0^*$ : Хⁿ порождается функцией $F^*(x)$ .

Разделим [a,b] на k непересекающихся интервалов $(a_i, b_i], \; i=1 \dots k$ ;

Пусть $n_j$ - количество наблюдений в j-м интервале: $n_j = \sum_{i=1}^n \left[ a_j <x_i \leq b_j \right]$ ;

$p_j = F(b_j)-F(a_j)$ - вероятность попадания наблюдения в j-ый интервал при выполнении гипотезы $H_0^*$ ;

$E_j = np_j$ - ожидаемое число попаданий в j-ый интервал;

Статистика: $\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-1}^2$ - Распределение хи-квадрат с k-1 степенью свободы.

Проверка гипотезы $H_0$

Распределение хи-квадрат

В зависимости от значения критерия $\chi^2$ , гипотеза $H_0$ может приниматься, либо отвергаться:

$\chi^2_1 < \chi^2 < \chi^2_2$ , гипотеза $H_0$ выполняется.

$\chi^2 \leq \chi^2_1$ (попадает в левый "хвост" распределения). Следовательно, теоретические и практические значения очень близки. Если, к примеру, происходит проверка генератора случайных чисел, который сгенерировал n чисел из отрезка [0,1] и гипотеза $H_0$ : выборка $X^n$ распределена равномерно на [0,1], тогда генератор нельзя называть случайным (гипотеза случайности не выполняется), т.к. выборка распределена слишком равномерно, но гипотеза $H_0$ выполняется.

$\chi^2 \geq \chi^2_2$ (попадает в правый "хвост" распределения) гипотеза $H_0$ отвергается.

Пример 1

Проверим гипотезу $H_0$ : если взять случайную выборку 100 человек из всего населения острова Кипр (генеральной совокупности), где количество мужчин и женщин примерно одинаково (встречаются с одинаковой частотой), то в наблюдаемой выборке отношение количества мужчин и женщин будет соотноситься с частотой как и во всей генеральной выборке(50/50). Пусть в наблюдаемой выборке 46 мужчин и 54 женщины, тогда число степеней свобод $k-1=2-1=1$ и

$\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j}= \frac{\left(46-50 \right)^2}{50}+\frac{\left(54-50 \right)^2}{50}=0,64$

Т.о. при уровне значимости $\alpha=0.05$ о выполнении гипотезы $H_0$ ничего сказать нельзя т.к. значение $\chi^2$ > $\chi_{0.05,1}^2$ (см. Таблицу распределения $\chi^2_1$ ).

Сложная гипотеза

Гипотеза $H_0^*$ : Хⁿ порождается функцией $F(x,\theta),\; \theta \in R^d,\; \theta$ - неизвестный параметр. Найдем приближенное значение параметра $\hat{\theta}$ с помощью метода максимального правдоподобия, основанного на частотах (фиксируем интервалы $\left(a_j,b_j \right]$ для $j=1 \dots k$ ).

$n_j = \sum_{i=1}^n \left[ a_j <x_i \leq b_j \right]$ - число попаданий значений элементов выборки в j-ый интервал.

$p_j(\theta)=F(b_j,\theta)-F(a_j,\theta)$ ,

$\hat{\theta} = \arg \max_{\theta} \sum n_j \ln p_j(\theta)$

Теорема Фишера Для проверки сложной гипотезы критерий $\chi^2$ представляется в виде:

$\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-d-1}^2$ , где $E_j=n p_j\left(\hat{\theta}\right)$

Пример 2

Задача о бомбардировках Лондона [Лагутин, Т2]. Задача возникла в связи с бомбардировками Лондона во время Второй мировой войны. Для улучшения организации оборонительных мероприятий, необходимо было понять цель противника. Для этого территорию города условно разделили сеткой из 24-ёх горизонтальных и 24-ёх вертикальных линий на 576 равных участков. В течении некторого времени в центре организации обороны города собиралась информация о количестве попаданий снарядов в каждый из участков. В итоге были получены следующие данные:

Число попаданий	0	1	2	3	4	5	6	7
Количество участков	229	211	93	35	7	0	0	1

Гипотеза $H_0$ : стрельба случайна (нет "целевых" участков).

Закон редких событий (распределение Пуассона)

$P\{S=j\}=\frac{\lambda^j}{j!}e^{-\lambda}$ , где S - число попаданий, $\hat{\lambda}=0.924$ .

$\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j}= 32.6 \sim \chi_{8-1-1}^2$

Тогда при уровне значимости $\alpha=0.05$ гипотеза $H_0$ не выполняется (см. таблицу значений ф-ии $\chi^2_6$ ).

Объединим события (4,5,6,7) с малой частотой попаданий в одно, тогда имеем:

Число попаданий	0	1	2	3	4-7
Количество участков	229	211	93	35	8

$\chi^2 = 1.05 \sim \chi_{5-1-1}^2$ , тогда при $\alpha=0.05$ гипотеза $H_0$ верна.

Проблемы

Критерий $\chi^2$ ошибается на выборках с низкочастотными (редкими) событиями. Решить эту проблему можно отбросив низкочастотные события, либо объединив их с другими событиями. Этот способ называется коррекцией Йетса (Yates' correction).

Дополнения

Эта статья не отражает всех нюансов применения критериев согласия типа $\chi^2$ . Для корректного применения критерия целесообразно ознакомиться со следующими источниками:

Литература

Лапач С. Н. , Чубенко А. В., Бабич П. Н. Статистика в науке и бизнесе. (стр. 204,316) — Киев: Морион, 2002.

Лагутин М. Б. Наглядная математическая статистика. (Том 2, стр. 174) — М.: П-центр, 2003.

Кулаичев А. П. Методы и средства комплексного анализа данных. (стр. 162) — М.: Форум–Инфра-М, 2006.

Ссылки

Это незавершённая статья. Вы поможете проекту, исправив и дополнив её.

Источник — «http://poligon.machinelearning.ru/wiki/index.php?title=%D0%9A%D1%80%D0%B8%D1%82%D0%B5%D1%80%D0%B8%D0%B9_%D1%85%D0%B8-%D0%BA%D0%B2%D0%B0%D0%B4%D1%80%D0%B0%D1%82»

Категории: Незавершённые статьи | Прикладная статистика | Статистические тесты | Энциклопедия анализа данных

@@ Строка 1: / Строка 1: @@
 {{TOCright}}
-{{UnderConstruction|[[Участник:Венжега Андрей|Венжега Андрей]] 00:08, 14 ноября 2008 (MSK)}}
+Критерий <tex>\chi^2</tex> - статистический критерий для проверки гипотезы <tex> H_0</tex>, что наблюдаемая случайная величина подчиняется некому теоретическому закону распределения.
 == Определение ==
-Критерий <tex>\chi^2</tex> - наиболее часто используемый статистический критерий для проверки гипотезы <tex> H_0</tex>, что наблюдаемая случайная величина подчиняется некому теоретическому закону распределения.
 Пусть дана случайная величина X .
 '''Гипотеза <tex> H_0 </tex>''': с. в. X подчиняется закону распределения <tex>F(x)</tex>.
 Для проверки гипотезы рассмотрим выборку, состоящую из n независимых наблюдений над с.в. X:
-<tex>X^n = \left( x_1, \cdots \x_n \right), \; x_i \in \left[ a, b \right], \; \forall i=1 \dots n </tex>.
+<tex>X^n = \left( x_1, \cdots x_n \right), \; x_i \in \left[ a, b \right], \; \forall i=1 \dots n </tex>.
-По выборке построим эмпирическое распределение <tex>F^*(x)</tex> с.в X. Сравнение эмпирического <tex>F^*(x)</tex> и теоретического распределения <tex>F(x)</tex> производится с помощью специально подобранной случайной величины — [[Критерий согласия|критерия согласия]]. Рассмотрим критерий согласия Пирсона (критерий <tex>\chi^2</tex>):
+По выборке построим эмпирическое распределение <tex>F^*(x)</tex> с.в X. Сравнение эмпирического <tex>F^*(x)</tex> и теоретического распределения <tex>F(x)</tex> (предполагаемого в гипотезе) производится с помощью специально подобранной функции — [[Критерий согласия|критерия согласия]]. Рассмотрим критерий согласия Пирсона (критерий <tex>\chi^2</tex>):
 '''Гипотеза <tex> H_0^* </tex>''': Х<sup>n</sup> порождается функцией <tex>F^*(x)</tex>.
@@ Строка 19: / Строка 15: @@
 Разделим [a,b] на k непересекающихся интервалов <tex> (a_i, b_i], \; i=1 \dots k</tex>;
-Пусть <tex>n_j</tex> - количество наблюдений в j-м интервале: <tex> n_j = \sum_{i=1}^n \left[ a_i <x \leq b_i \right] </tex>;
+Пусть <tex>n_j</tex> - количество наблюдений в j-м интервале: <tex> n_j = \sum_{i=1}^n \left[ a_j <x_i \leq b_j \right] </tex>;
 <tex>p_j = F(b_j)-F(a_j)</tex> - вероятность попадания наблюдения в j-ый интервал при выполнении гипотезы <tex> H_0^* </tex>;
-<tex>E_j = np_j</tex> Ожидаемое число попаданий в j-ый интервал;
+<tex>E_j = np_j</tex> - ожидаемое число попаданий в j-ый интервал;
-'''Статистика:''' <tex>\chi^2 = \sum_{i=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-1}^2</tex>  - [[Распределение хи-квадрат|Распределение хи-квадрат]] с k-1 степенью свободы.
+'''Статистика:''' <tex>\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-1}^2</tex>  - [[Распределение хи-квадрат|Распределение хи-квадрат]] с k-1 степенью свободы.
-== Проверка гипотезы ==
+== Проверка гипотезы <tex>H_0</tex> ==
 [[Изображение:Chi-square.png|280px|thumb|Распределение хи-квадрат]]
-В  зависимости от значения критерия <tex>\chi^2</tex>, может выполняться одна из гипотез:
+В  зависимости от значения критерия <tex>\chi^2</tex>, гипотеза <tex>H_0</tex> может приниматься, либо отвергаться:
-* гипотеза неслучайности
+* <tex>\chi^2_1 < \chi^2 < \chi^2_2</tex>, гипотеза <tex>H_0</tex> выполняется.
-<tex>\chi^2_1 < \chi^2 < \chi^2_2</tex>, гипотеза <tex>H_0</tex> выполняется.
-* гипотеза случайности
+* <tex>\chi^2 \leq \chi^2_1</tex> (попадает в левый "хвост" распределения). Следовательно, теоретические и практические значения очень близки. Если, к примеру, происходит проверка генератора случайных чисел, который сгенерировал n чисел из отрезка [0,1] и гипотеза <tex>H_0</tex>: выборка <tex>X^n</tex> распределена равномерно на [0,1], тогда генератор нельзя называть случайным (гипотеза случайности не выполняется), т.к. выборка распределена слишком равномерно, но гипотеза <tex>H_0</tex> выполняется.
-<tex>\chi^2 \leq \chi^2_1</tex> (попадает в левый "хвост" распределения) гипотеза <tex>H_0</tex> отвергается.
-* гипотеза согласия
+* <tex>\chi^2 \geq \chi^2_2</tex> (попадает в правый "хвост" распределения) гипотеза <tex>H_0</tex> отвергается.
-<tex>\chi^2 \geq \chi^2_1</tex> (попадает в левый "хвост" распределения) гипотеза <tex>H_0</tex> отвергается.
+== Пример 1 ==
+Проверим гипотезу <tex>H_0</tex>: если взять случайную выборку 100 человек из  всего [http://ru.wikipedia.org/wiki/%D0%9D%D0%B0%D1%81%D0%B5%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5_%D0%9A%D0%B8%D0%BF%D1%80%D0%B0 населения острова Кипр] (генеральной совокупности), где количество мужчин и женщин примерно одинаково (встречаются с одинаковой частотой), то в наблюдаемой выборке отношение количества мужчин и женщин будет соотноситься с частотой как и во всей генеральной выборке(50/50). Пусть в наблюдаемой выборке 46 мужчин и 54 женщины, тогда число степеней свобод <tex>k-1=2-1=1</tex> и
+<tex>\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j}= \frac{\left(46-50 \right)^2}{50}+\frac{\left(54-50 \right)^2}{50}=0,64 </tex>
+Т.о. при уровне значимости <tex>\alpha=0.05</tex> о выполнении гипотезы <tex>H_0</tex>  ничего сказать нельзя
+т.к. значение <tex>\chi^2</tex>> <tex>\chi_{0.05,1}^2</tex> (см. [http://ru.wikipedia.org/wiki/Квантили_распределения_хи-квадрат Таблицу распределения <tex>\chi^2_1</tex>]).
 == Сложная гипотеза ==
-== Теорема Фишера ==
+Гипотеза <tex>H_0^*</tex>: Х<sup>n</sup> порождается функцией <tex>F(x,\theta),\; \theta \in R^d,\;  \theta</tex> - неизвестный параметр. Найдем приближенное значение параметра <tex>\hat{\theta}</tex> с помощью [[Метод максимального правдоподобия|метода максимального правдоподобия]], основанного на частотах (фиксируем интервалы <tex>\left(a_j,b_j \right]</tex> для <tex>j=1 \dots k</tex>).
+<tex> n_j = \sum_{i=1}^n \left[ a_j <x_i \leq b_j \right] </tex> - число попаданий значений элементов выборки в j-ый интервал.
+<tex>p_j(\theta)=F(b_j,\theta)-F(a_j,\theta)</tex>,
+<tex>\hat{\theta} = \arg \max_{\theta} \sum n_j \ln p_j(\theta) </tex>
+'''Теорема Фишера''' Для проверки сложной гипотезы критерий <tex>\chi^2</tex> представляется в виде:
+<tex>\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-d-1}^2</tex>, где  <tex>E_j=n p_j\left(\hat{\theta}\right)</tex>
+== Пример 2 ==
+'''Задача о бомбардировках Лондона [Лагутин, Т2].'''
+Задача возникла в связи с бомбардировками Лондона во время Второй мировой войны. Для улучшения организации оборонительных мероприятий, необходимо было понять цель противника. Для этого территорию города условно разделили сеткой из 24-ёх горизонтальных и 24-ёх вертикальных линий на 576 равных участков. В течении некторого времени в центре организации обороны города собиралась информация о количестве попаданий снарядов в каждый из участков. В итоге были получены следующие данные:
+{| border=1 cellpadding="6" cellspacing="0"
+|- align="center"
+! Число попаданий
+|0 || 1 || 2 || 3 || 4 || 5 || 6 || 7
+|- align="center"
+! Количество участков
+|229 || 211 || 93 || 35 || 7 || 0 || 0 || 1
+|}
+Гипотеза <tex>H_0</tex>: стрельба случайна (нет "целевых" участков).
+Закон редких событий ([[Распределение Пуассона|распределение Пуассона]])
+<tex>P\{S=j\}=\frac{\lambda^j}{j!}e^{-\lambda}</tex>, где S - число попаданий,  <tex>\hat{\lambda}=0.924</tex>.
+<tex>\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j}= 32.6 \sim \chi_{8-1-1}^2</tex>
+Тогда при уровне значимости <tex>\alpha=0.05</tex> гипотеза <tex>H_0</tex> не выполняется (см. [http://www.statsoft.ru/home/textbook/modules/sttable.html таблицу значений ф-ии <tex>\chi^2_6</tex>]).
+Объединим события (4,5,6,7) с малой частотой попаданий в одно, тогда имеем:
+{| border=1 cellpadding="6" cellspacing="0"
+|- align="center"
+! Число попаданий
+|0 || 1 || 2 || 3 || 4-7
+|- align="center"
+! Количество участков
+|229 || 211 || 93 || 35 || 8
+|}
+<tex>\chi^2 = 1.05 \sim \chi_{5-1-1}^2</tex>, тогда при <tex>\alpha=0.05</tex> гипотеза <tex>H_0</tex> верна.
+== Проблемы ==
+Критерий <tex>\chi^2</tex> ошибается на выборках с низкочастотными (редкими) событиями. Решить эту проблему можно отбросив низкочастотные события, либо объединив их с другими событиями. Этот способ называется коррекцией Йетса (Yates' correction).
+== Дополнения ==
+Эта статья не отражает всех нюансов применения критериев согласия типа <tex>\chi^2</tex>. Для корректного применения критерия целесообразно ознакомиться со следующими источниками:
+* [http://ami.nstu.ru/~headrd/seminar/xi_square/start1.htm Р 50.1.033–2001. Рекомендации по стандартизации. Прикладная статистика. Правила проверки согласия опытного распределения с теоретическим. Часть I. Критерии типа хи-квадрат. – М.: Изд-во стандартов. 2002. – 87 с.]
+* [http://ami.nstu.ru/~headrd/seminar/publik_html/mr_x2_1998.pdf Прикладная статистика. Правила проверки согласия опытного распределения с теоретическим. Методические рекомендации. Часть I. Критерии типа <tex>\chi^2</tex>. – Новосибирск: Изд-во НГТУ, 1998. – 126 c.]
+* [http://ami.nstu.ru/~headrd/seminar/publik_html/Statistical_Data_Analysis.pdf Статистический анализ данных, моделирование и исследование вероятностных закономерностей. Компьютерный подход : монография. – Новосибирск : Изд-во НГТУ, 2011. – 888 с. (главы 2 и 4)]
 == Литература ==
+''Лапач С. Н. , Чубенко А. В., Бабич П. Н.'' Статистика в науке и бизнесе. (стр. 204,316) — Киев: Морион, 2002.
+''Лагутин М. Б.'' Наглядная математическая статистика. (Том 2, стр. 174) — М.: П-центр, 2003.
+''Кулаичев А. П.'' Методы и средства комплексного анализа данных. (стр. 162) — М.: Форум–Инфра-М, 2006.
 == Ссылки ==
-[[http://en.wikipedia.org/wiki/Pearson%27s_chi-square_test Критерий хи-квадрат (en.wiki)]]
+* [[http://en.wikipedia.org/wiki/Pearson%27s_chi-square_test Критерий хи-квадрат (en.wiki)]]
+* [http://ru.wikipedia.org/wiki/%D0%9A%D0%B2%D0%B0%D0%BD%D1%82%D0%B8%D0%BB%D0%B8_%D1%80%D0%B0%D1%81%D0%BF%D1%80%D0%B5%D0%B4%D0%B5%D0%BB%D0%B5%D0%BD%D0%B8%D1%8F_%D1%85%D0%B8-%D0%BA%D0%B2%D0%B0%D0%B4%D1%80%D0%B0%D1%82 Квантили распределения хи-квадрат]
 {{stub}}
 [[Категория:Прикладная статистика]]
+[[Категория:Статистические тесты]]
 [[Категория:Энциклопедия анализа данных]]