Статистический анализ данных (курс лекций, К.В.Воронцов)/2010

Материал из MachineLearning.

(Различия между версиями)

Версия 20:47, 20 октября 2010

Содержание

1 Задание 1. Исследование свойств одномерных статистических критериев на модельных данных
- 1.1 Пример задания
- 1.2 Задания
2 Задание 2. Анализ реальных данных
3 Ссылки

Задание 1. Исследование свойств одномерных статистических критериев на модельных данных

Необходимо провести исследование одного или нескольких классических критериев проверки статистических гипотез. Интерес представляет поведение достигаемого уровня значимости (p-value) как функции размера выборок и параметров распределения. В соответствии с индивидуальными параметрами задания необходимо указанным способом сгенерировать одну или несколько выборок из заданного распределения, выполнить проверку гипотезы при помощи соответствующего критерия, а затем многократно повторить эту процедуру для различных значений параметров. По результатам расчётов необходимо построить требуемые в задании графики, среди которых могут быть следующие:

график зависимости достигаемого уровня значимости от значений параметров при однократном проведении эксперимента;
график зависимости достигаемого уровня значимости от значений параметров, усреднённого по большому количеству повторений эксперимента (например, по 100, 500, 1000 повторений);
график с эмпирическими оценками мощности критерия для разных значений параметров.

В качестве оценки мощности принимается доля отвержений нулевой гипотезы среди всех проверок. То есть, если эксперимент повторялся $k$ раз для каждого набора значений параметра, и в $m$ из $k$ случаев гипотеза была отвергнута на некотором фиксированном уровне значимости $\alpha$ (примем $\alpha=0.05$ ), оценкой мощности будет отношение $m/k$ .

Необходимо сдать: выполненный в LaTex или Microsoft Word отчёт с описанием алгоритма, построенными графиками и выводами (объяснение полученных результатов моделирования, границы применимости критерия и т.д.), а также *.m-файл, при запуске которого на экран выводятся графики, соответствующие имеющимся в отчёте (допускается, хотя и не рекомендуется использование среды R).

Пример задания

Исследуем поведение классического двухвыборочного критерия Стьюдента для проверки гипотезы однородности против альтернативы сдвига при разных значениях параметров.

$x^n = (x_1,\ldots,x_n)\sim N(\mu_1,\sigma),\;\; y^n = (y_1,\ldots,y_n)\sim N(\mu_2,\sigma);$

$H_0\,:\; \mu_1=\mu_2,$

$H_1\,:\; \mu_1\neq\mu_2.$

$\sigma = 1; \;\;\; \mu_1=0; \;\;\; \mu_2=0\,:\,0.05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.$

При каждом значении $\mu_2$ выборки для разных значений $n$ генерируются независимо.

График 1: значения достигаемого уровня значимости при однократной генерации выборок.

График 2: значения достигаемого уровня значимости, усрёднённые по 100 экспериментам.

График 3: значения эмпирических оценок мощности критерия при проведении 100 экспериментов ( $\alpha=0.05$ ).

Задания

Анализ устойчивости критериев к нарушению предположений

Исследовать устойчивость одновыборочного критерия Стьюдента к нарушению предположения о нормальности данных. $x^n$ — смесь распределений $N(\mu,1)$ и $U[-a+\mu,a+\mu]$ с весами $p$ и $1-p$ соответственно (при генерации выборки используется случайный датчик — если его значение не превосходит $p$ , то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного). Для разных значений параметров выборки генерируются независимо.
$H_0\,:\; \mu=0, \;\; H_1\,:\; \mu\neq 0;$
$p=0\,:\,0.02\,:\,1; \;\; \mu=-1\,:\,0.05\,:\,1; \;\; n=100.$
Построить графики вида 1, 2, 3, сделать выводы о чувствительности критерия к зашумлению выборки.

Вишневский Валерий: $a=1.$

Гарсиа Анхела: $a=5.$

Дергунов Вадим: $a=10.$

Исследовать устойчивость двухвыборочного критерия Стьюдента для независимых выборок к нарушению предположения о нормальности данных. $x^n \sim N(\mu_1,1),$ $y^n$ — смесь распределений $N(\mu_2,1)$ и $U[-a+\mu_2,a+\mu_2]$ с весами $p$ и $1-p$ соответственно (при генерации выборки используется случайный датчик — если его значение не превосходит $p$ , то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного). Для разных значений параметров выборки генерируются независимо.
$H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2;$
$\mu_1=0; \;\; p=0\,:\,0.02\,:\,1; \;\; \mu_2=-1\,:\,0.05\,:\,1; \;\; n=100.$
Построить графики вида 1, 2, 3, сделать выводы о чувствительности критерия к зашумлению одной из выборок.

Добров Григорий: $a=1.$

Дячкин Олег: $a=5.$

Ерошенко Александр: $a=10.$

Анализ чувствительности критериев к редактированию выборки

Известно, что исключение из выборки определённых наблюдений зачастую может достаточно сильно повлиять на результат анализа. Необходимо исследовать чувствительность одновыборочного критерия критерия Стьюдента к редактированию выборки.
$x^n \sim N(\mu,\sigma);$
$H_0\,:\; \mu=0, \;\;\; H_1\,:\; \mu>0.$
При каждом значении параметра $\mu$ генерируется выборка размера $n$ , проводится проверка гипотезы $H_0$ , затем по некоторому правилу из выборки исключается один из элементов, проверка гипотезы повторяется, затем исключается ещё один, и т.д. Обозначим за $K$ максимальное число исключённых в таком процессе элементов. Построить графики вида 1, 2, 3, сделать выводы о чувствительности критерия к редактированию выборки.

Когадеева Мария: $n=100;\;\;K=50;\;\;\sigma=1;\;\;\mu=-1\,:\,0.01\,:\,1;\;\;$ на каждом шаге исключается максимальный элемент.

Колесниченко Алексей: $n=200;\;\;K=100;\;\;\sigma=5;\;\;\mu=-2\,:\,0.02\,:\,2;\;\;$ на каждом шаге исключается максимальный элемент.

Кошманова Наталья: $n=100;\;\;K=50;\;\;\sigma=2;\;\;\mu=-2\,:\,0.02\,:\,2;\;\;$ на каждом шаге исключается минимальный элемент.

Лаптев Дмитрий: $n=200;\;\;K=100;\;\;\sigma=5;\;\;\mu=-3\,:\,0.03\,:\,3;\;\;$ на каждом шаге исключается минимальный элемент.

Анализ поведения схожих критериев

Требуется исследовать поведение указанной пары статистических критериев, подходящих для решения одной и той же задачи, сравнить мощность и достигаемые уровни значимости и сделать выводы о границах применимости критериев. Необходимо для каждого из критериев построить графики зависимости достигаемых уровней значимости и оценок мощностей от параметров, и показать, в каких областях изменения параметров предпочтительнее использовать тот или иной критерий. Выбрать вид графиков так, чтобы различия между критериями были видны наиболее ясно (например, график вида 4).

График 4: значения эмпирических оценок мощности критериев при проведении 100 экспериментов.

$x^n \sim N(0,1),\;\;y^n \sim N(\mu,1);$
$H_0\,:\; \mu=0, \;\;\; H_1\,:\; \mu\neq 0;$
$\mu=-2\,:\,0.02\,:\,2;\;\; n=10\,:\,5\,:\,100.$

Логачев Юрий: двухвыборочный критерий Стьюдента для независимых выборок и критерий Уилкоксона-Манна-Уитни.

Полежаева Елена: двухвыборочный критерий Стьюдента для связных выборок и критерий Уилкоксона для связных выборок.

Прокашева Ольга: двухвыборочные критерий Стьюдента для связных и независимых выборок.

Пятков Евгений: критерий Уилкоксона-Манна-Уитни и медианный критерий.

Сизов Алексей: критерий Уилкоксона для связных выборок и критерий знаков.

Кожахметова Жанна: критерий знаков и медианный критерий.

$x^n \sim Be(p_1),\;\;y^n \sim Be(p_2);$
$a = \sum_{n}I$x_i=1$,\;\; b = \sum_{n}I$x_i=0$,\;\; c = \sum_{n}I$y_i=1$,\;\; d = \sum_{n}I$y_i=0$;$
$H_0\,:$ связь между признаками в таблице сопряжённости 2×2, задаваемой величинами $a, b, c, d,$ отсутствует; $\;\;\; H_1\,:$ признаки связаны между собой.

Слепнева Екатерина: критерий хи-квадрат и точный критерий Фишера. $p_1=0\,:\,0.02\,:\,1; \;\; p_2=0\,:\,0.02\,:\,1; \;\;n=50.$

Тишин Кирилл: критерий хи-квадрат и точный критерий Фишера. $p_1=0.5; \;\; p_2=0\,:\,0.05\,:\,1; \;\;n=10\,:\,2\,:\,50.$

$x^n$ — смесь распределений $N(0,1)$ и $U[-a,a]$ с весами $p$ и $1-p$ соответственно (при генерации выборки используется случайный датчик — если его значение не превосходит $p$ , то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного).
$H_0\,:\; x \sim N(0,1), \;\;\; H_1\,:\; H_0$ неверна;
$p=0\,:\,0.02\,:\,1; \;\; n=10\,:\,5\,:\,100.$

Чернышов Виктор: критерий Шапиро-Уилка и критерий Колмогорова-Смирнова. $a=1.$

Чиркова Алла: критерий омега-квадрат и критерий Шапиро-Уилка. $a=2.$

Шевцова Алена: критерий хи-квадрат и критерий омега-квадрат. $a=5.$

Щичко Антон: критерий Колмогорова-Смирнова и критерий хи-квадрат. $a=7.$

Задание 2. Анализ реальных данных

Ниже приведены описания анализируемых данных и постановки задач. Сами данные каждый студент может получить по электронной почте сразу после сдачи первого задания. При проведении анализа можно пользоваться любыми доступными программными средствами. Необходимо предоставить подробный письменный отчёт по проведённому исследованию, содержащий выводы и описания каждого этапа анализа — используемые методы, обоснование их применимости, промежуточные результаты вычислений, графики. Помимо выводов, касающихся математических особенностей решения, необходимо включить в отчёт заключения, сформулированные в терминах предметной области, которые могли бы быть понятны гипотетическому заказчику-нематематику.

Летальность пациентов с сепсисом

По 454 пациентам с сепсисом (лихорадка, тахикардия, тахипноэ и острая недостаточность по крайней мере одной системы органов) имеются следующие данные: оценка начального состояния по шкале APACHE острых и хронических функциональных изменений, факт наступления смерти в течение 30 дней после начала исследования (для каждого значения APACHE score приведены общее число пациентов в таком состоянии и соответствующее число пациентов, умерших в течение 30 дней).

Когадеева Мария: оценить вероятность наступления в 30-дневный срок летального исхода в зависимости от исходного состояния. Построить функции, дающие точечную оценку и границы 95% доверительного интервала.

Линейные размеры тысячефранковых банкнот

Банкнота в 1000 швейцарских франков серии, действовавшей в период с 1911 по 1958. Красным обозначены измеренные величины.

Имеются данные измерений двухсот швейцарских тысячефранковых банкнот, бывших в обращении в первой половине XX века. Сто из банкнот были настоящими, а сто - поддельными. Измерены следующие величины: $X_1$ — длина банкноты, $X_2$ —ширина банкноты с левой стороны, $X_3$ —ширина банкноты с правой стороны, $X_4$ —расстояние от нижнего края до рамки рисунка, $X_5$ — расстояние от нижнего края до рамки рисунка, $X_6$ — длина диагонали рисунка.

Логачев Юрий: построить функцию, оценивающую по данным измерений вероятность того, что имеющаяся банкнота фальшивая, и 95% доверительный интервал для этой вероятности.

Пятков Евгений: построить функции, оценивающие вероятность того, что имеющаяся банкнота фальшивая, по признакам $X_1-X_3$ и по признакам $X_4-X_6$ . Сравнить эффективность выявления фальшивых купюр по двум группам признаков, сделать выводы.

Ценообразование бриллиантов

Имеются данные о цене и потребительских качествах 308 бриллиантов, продававшихся в Сингапуре в 2000 году. Известны: вес бриллианта в каратах, цвет (закодирован буквами латинского алфавита: наиболее чистый цвет — буквой D, менее чистые — буквами E, F, G и т.д., чем ближе к концу алфавита, тем "грязнее"), группа чистоты (отсутствие дефектов, профессиональная оценка, выдаваемая специалистами при исследовании бриллианта в лупу десятикратного увеличения; бриллианты без трещин и включений получают оценку IF ("internally flawless"), далее в порядке убывания чистоты следуют группы VVS1 и VVS2 ("very very slightly imperfect"), VS1 и VS2 ("very slightly imperfect")), название организации, выдавшей сертификат по группе чистоты (GIA — Gemmological Institute of America, IGI — International Gemmological Institute, HRD — Hoge Raad Voor Diamant), стоимость бриллианта в сингапурских долларах.

Полежаева Елена: построить модель ценообразования бриллиантов, учитывая все особенности имеющихся данных.

Кожахметова Жанна: отличается ли средняя цена бриллиантов, сертифицированных различными организациями?

Сизов Алексей: какой признак более значимо влияет на цену бриллиантов — цвет или чистота?

N: существует общепринятая система классификации бриллиантов на мелкие — до 0.29 карата, средние — от 0.30 до 0.99 карата и крупные — свыше 1 карата. Достаточно ли для предсказания цены знать о весе бриллианта только к какому классу он относится, или предсказания с использованием знаний о точном весе значимо лучше?

Ссылки

Источник — «http://poligon.machinelearning.ru/wiki/index.php?title=%D0%A1%D1%82%D0%B0%D1%82%D0%B8%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85_%28%D0%BA%D1%83%D1%80%D1%81_%D0%BB%D0%B5%D0%BA%D1%86%D0%B8%D0%B9%2C_%D0%9A.%D0%92.%D0%92%D0%BE%D1%80%D0%BE%D0%BD%D1%86%D0%BE%D0%B2%29/2010»

Категория: Учебные курсы

@@ Строка 97: / Строка 97: @@
 ::Полежаева Елена: построить модель ценообразования бриллиантов, учитывая все особенности имеющихся данных.
 ::Кожахметова Жанна: отличается ли средняя цена бриллиантов, сертифицированных различными организациями?
-::N: какой признак более значимо влияет на цену бриллиантов&nbsp;— цвет или чистота?
+::Сизов Алексей: какой признак более значимо влияет на цену бриллиантов&nbsp;— цвет или чистота?
 ::N: существует общепринятая система классификации бриллиантов на мелкие&nbsp;— до 0.29 карата, средние&nbsp;— от 0.30 до 0.99 карата и крупные&nbsp;— свыше 1 карата. Достаточно ли для предсказания цены знать о весе бриллианта только к какому классу он относится, или предсказания с использованием знаний о точном весе значимо лучше?