Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{TOCright}} Критерий <tex>\chi^2</tex> - статистический критерий для проверки гипотезы <tex> H_0</tex>, что наблюдаемая случайная величина подчиняется некому теоретическому закону распределения. == Определение == Пусть дана случайная величина X . '''Гипотеза <tex> H_0 </tex>''': с. в. X подчиняется закону распределения <tex>F(x)</tex>. Для проверки гипотезы рассмотрим выборку, состоящую из n независимых наблюдений над с.в. X: <tex>X^n = \left( x_1, \cdots x_n \right), \; x_i \in \left[ a, b \right], \; \forall i=1 \dots n </tex>. По выборке построим эмпирическое распределение <tex>F^*(x)</tex> с.в X. Сравнение эмпирического <tex>F^*(x)</tex> и теоретического распределения <tex>F(x)</tex> (предполагаемого в гипотезе) производится с помощью специально подобранной функции — [[Критерий согласия|критерия согласия]]. Рассмотрим критерий согласия Пирсона (критерий <tex>\chi^2</tex>): '''Гипотеза <tex> H_0^* </tex>''': Хⁿ порождается функцией <tex>F^*(x)</tex>. Разделим [a,b] на k непересекающихся интервалов <tex> (a_i, b_i], \; i=1 \dots k</tex>; Пусть <tex>n_j</tex> - количество наблюдений в j-м интервале: <tex> n_j = \sum_{i=1}^n \left[ a_j <x_i \leq b_j \right] </tex>; <tex>p_j = F(b_j)-F(a_j)</tex> - вероятность попадания наблюдения в j-ый интервал при выполнении гипотезы <tex> H_0^* </tex>; <tex>E_j = np_j</tex> - ожидаемое число попаданий в j-ый интервал; '''Статистика:''' <tex>\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-1}^2</tex> - [[Распределение хи-квадрат|Распределение хи-квадрат]] с k-1 степенью свободы. == Проверка гипотезы <tex>H_0</tex> == [[Изображение:Chi-square.png|280px|thumb|Распределение хи-квадрат]] В зависимости от значения критерия <tex>\chi^2</tex>, гипотеза <tex>H_0</tex> может приниматься, либо отвергаться: * <tex>\chi^2_1 < \chi^2 < \chi^2_2</tex>, гипотеза <tex>H_0</tex> выполняется. * <tex>\chi^2 \leq \chi^2_1</tex> (попадает в левый "хвост" распределения). Следовательно, теоретические и практические значения очень близки. Если, к примеру, происходит проверка генератора случайных чисел, который сгенерировал n чисел из отрезка [0,1] и гипотеза <tex>H_0</tex>: выборка <tex>X^n</tex> распределена равномерно на [0,1], тогда генератор нельзя называть случайным (гипотеза случайности не выполняется), т.к. выборка распределена слишком равномерно, но гипотеза <tex>H_0</tex> выполняется. * <tex>\chi^2 \geq \chi^2_2</tex> (попадает в правый "хвост" распределения) гипотеза <tex>H_0</tex> отвергается. == Пример 1 == Проверим гипотезу <tex>H_0</tex>: если взять случайную выборку 100 человек из всего [http://ru.wikipedia.org/wiki/%D0%9D%D0%B0%D1%81%D0%B5%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5_%D0%9A%D0%B8%D0%BF%D1%80%D0%B0 населения острова Кипр] (генеральной совокупности), где количество мужчин и женщин примерно одинаково (встречаются с одинаковой частотой), то в наблюдаемой выборке отношение количества мужчин и женщин будет соотноситься с частотой как и во всей генеральной выборке(50/50). Пусть в наблюдаемой выборке 46 мужчин и 54 женщины, тогда число степеней свобод <tex>k-1=2-1=1</tex> и <tex>\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j}= \frac{\left(46-50 \right)^2}{50}+\frac{\left(54-50 \right)^2}{50}=0,64 </tex> Т.о. при уровне значимости <tex>\alpha=0.05</tex> о выполнении гипотезы <tex>H_0</tex> ничего сказать нельзя т.к. значение <tex>\chi^2</tex>> <tex>\chi_{0.05,1}^2</tex> (см. [http://ru.wikipedia.org/wiki/Квантили_распределения_хи-квадрат Таблицу распределения <tex>\chi^2_1</tex>]). == Сложная гипотеза == Гипотеза <tex>H_0^*</tex>: Хⁿ порождается функцией <tex>F(x,\theta),\; \theta \in R^d,\; \theta</tex> - неизвестный параметр. Найдем приближенное значение параметра <tex>\hat{\theta}</tex> с помощью [[Метод максимального правдоподобия|метода максимального правдоподобия]], основанного на частотах (фиксируем интервалы <tex>\left(a_j,b_j \right]</tex> для <tex>j=1 \dots k</tex>). <tex> n_j = \sum_{i=1}^n \left[ a_j <x_i \leq b_j \right] </tex> - число попаданий значений элементов выборки в j-ый интервал. <tex>p_j(\theta)=F(b_j,\theta)-F(a_j,\theta)</tex>, <tex>\hat{\theta} = \arg \max_{\theta} \sum n_j \ln p_j(\theta) </tex> '''Теорема Фишера''' Для проверки сложной гипотезы критерий <tex>\chi^2</tex> представляется в виде: <tex>\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j} \sim \chi_{k-d-1}^2</tex>, где <tex>E_j=n p_j\left(\hat{\theta}\right)</tex> == Пример 2 == '''Задача о бомбардировках Лондона [Лагутин, Т2].''' Задача возникла в связи с бомбардировками Лондона во время Второй мировой войны. Для улучшения организации оборонительных мероприятий, необходимо было понять цель противника. Для этого территорию города условно разделили сеткой из 24-ёх горизонтальных и 24-ёх вертикальных линий на 576 равных участков. В течении некторого времени в центре организации обороны города собиралась информация о количестве попаданий снарядов в каждый из участков. В итоге были получены следующие данные: {| border=1 cellpadding="6" cellspacing="0" |- align="center" ! Число попаданий |0 || 1 || 2 || 3 || 4 || 5 || 6 || 7 |- align="center" ! Количество участков |229 || 211 || 93 || 35 || 7 || 0 || 0 || 1 |} Гипотеза <tex>H_0</tex>: стрельба случайна (нет "целевых" участков). Закон редких событий ([[Распределение Пуассона|распределение Пуассона]]) <tex>P\{S=j\}=\frac{\lambda^j}{j!}e^{-\lambda}</tex>, где S - число попаданий, <tex>\hat{\lambda}=0.924</tex>. <tex>\chi^2 = \sum_{j=1}^k \frac{ \left( n_j-E_j \right)^2}{E_j}= 32.6 \sim \chi_{8-1-1}^2</tex> Тогда при уровне значимости <tex>\alpha=0.05</tex> гипотеза <tex>H_0</tex> не выполняется (см. [http://www.statsoft.ru/home/textbook/modules/sttable.html таблицу значений ф-ии <tex>\chi^2_6</tex>]). Объединим события (4,5,6,7) с малой частотой попаданий в одно, тогда имеем: {| border=1 cellpadding="6" cellspacing="0" |- align="center" ! Число попаданий |0 || 1 || 2 || 3 || 4-7 |- align="center" ! Количество участков |229 || 211 || 93 || 35 || 8 |} <tex>\chi^2 = 1.05 \sim \chi_{5-1-1}^2</tex>, тогда при <tex>\alpha=0.05</tex> гипотеза <tex>H_0</tex> верна. == Проблемы == Критерий <tex>\chi^2</tex> ошибается на выборках с низкочастотными (редкими) событиями. Решить эту проблему можно отбросив низкочастотные события, либо объединив их с другими событиями. Этот способ называется коррекцией Йетса (Yates' correction). == Литература == ''Лапач С. Н. , Чубенко А. В., Бабич П. Н.'' Статистика в науке и бизнесе. (стр. 204,316) — Киев: Морион, 2002. ''Лагутин М. Б.'' Наглядная математическая статистика. (Том 2, стр. 174) — М.: П-центр, 2003. ''Кулаичев А. П.'' Методы и средства комплексного анализа данных. (стр. 162) — М.: Форум–Инфра-М, 2006. == Ссылки == [[http://en.wikipedia.org/wiki/Pearson%27s_chi-square_test Критерий хи-квадрат (en.wiki)]] {{stub}} [[Категория:Прикладная статистика]] [[Категория:Статистические тесты]] [[Категория:Энциклопедия анализа данных]]

• Шаблон:Stub
• Шаблон:TOCright
• Шаблон:Заготовка

Возврат к странице Критерий хи-квадрат.