Шкала измерения
Материал из MachineLearning.
(Новая: {{UnderConstruction|Alfina Iamaeva 21:44, 14 июля 2026 (MSD)}}) |
|||
| (28 промежуточных версий не показаны.) | |||
| Строка 1: | Строка 1: | ||
| - | {{ | + | {{well|Статья написана с использованием LLM '''DeepSeek-V4''' и проверена участником [[Участник:Alfina Iamaeva|Alfina Iamaeva]] 15:47, 19 июля 2026 (MSD)}} |
| + | '''Уровни измерения''' (также '''шкалы измерения'''; анг. levels of measurement, scales of measure) — типология, классифицирующая измерительные шкалы в зависимости от типа математических соотношений, которые сохраняются между значениями шкалы и измеряемыми эмпирическими свойствами объектов. Понятие является фундаментальным для [[Статистика|статистики]], [[Анализ данных|анализа данных]] и [[Машинное обучение|машинного обучения]], поскольку определяет множество допустимых операций с данными и корректных методов их обработки. | ||
| + | |||
| + | == История == | ||
| + | |||
| + | Классификация уровней измерения была предложена американским психологом и основателем психофизики [[Стивенс, Стэнли Смит|Стэнли Смитом Стивенсом]] в 1946 году в статье «О теории шкал измерения» (''On the Theory of Scales of Measurement'')<ref name="stevens1946">{{Статья|автор=Stevens S. S.|заглавие=On the Theory of Scales of Measurement|ссылка=|язык=en|издание=[[Science]]|год=1946|том=103|номер=2684|страницы=677–680|doi=10.1126/science.103.2684.677}}</ref><ref name="babich2012">{{Статья|автор=Бабич Н.С., Хоменко В.И.|заглавие=Типология уровней измерения в социологии: традиционные и альтернативные подходы|ссылка=https://cyberleninka.ru/article/n/tipologiya-urovney-izmereniya-v-sotsiologii-traditsionnye-i-alternativnye-podhody-1|язык=ru|издание=Социология: методология, методы, математическое моделирование|год=2012|номер=35|страницы=5-28}}</ref>. Стивенс предположил, что характер измерительной шкалы определяется группой допустимых преобразований значений, при которых не теряется исходная информация об объектах. Он выделил четыре уровня, образующих иерархию: номинальный, порядковый, интервальный и уровень отношений<ref name="stevens1946" />. | ||
| + | |||
| + | Первоначально эта типология была разработана для психологических измерений, но впоследствии стала общепринятой в социологии, экономике и других науках. Несмотря на широкое распространение, подход Стивенса подвергался критике. Исследователи отмечали, что строгое следование его предписаниям часто игнорируется на практике, а сама типология служит скорее методической эвристикой, нежели жестким ограничением<ref name="babich2012" />. Тем не менее, понимание уровней измерения остаётся критически важным для выбора корректных статистических методов и алгоритмов анализа данных. | ||
| + | |||
| + | == Классификация шкал == | ||
| + | |||
| + | В основе классификации лежит понятие [[Допустимое преобразование|допустимого преобразования]] шкалы — функции <tex>f(x)</tex>, применение которой ко всем значениям шкалы сохраняет все существенные эмпирические отношения между объектами. | ||
| + | |||
| + | === Номинальная шкала (шкала наименований) === | ||
| + | |||
| + | '''Номинальная шкала''' (''nominal scale'') — это шкала, значения которой служат лишь для различения объектов и их отнесения к определённым категориям. Единственной допустимой операцией является проверка на равенство (<tex>=</tex>) или неравенство (<tex>\ne</tex>)<ref name="stevens1946" /><ref name="joVE">{{Cite web|url=https://app.jove.com/ru/science-education/v/12798/nominal-level-of-measurement|title=Номинальный уровень измерения|publisher=JoVE|lang=ru|accessdate=2026-07-19}}</ref>. Числа, присвоенные категориям, не имеют количественного смысла: их нельзя сравнивать по величине, складывать или усреднять. Допустимым преобразованием является любая взаимно-однозначная (инъективная) замена меток (перестановка). | ||
| + | |||
| + | : '''Примеры''': пол (мужской/женский), национальность, тип заболевания, код региона, идентификационный номер. | ||
| + | |||
| + | : '''Допустимые статистики''': частоты (количество объектов в каждой категории), [[Мода (статистика)|мода]], [[Таблица сопряжённости|таблицы сопряжённости]], [[Критерий хи-квадрат|критерий <tex>\chi^2</tex>]]. | ||
| + | |||
| + | === Логическая шкала (булева шкала) === | ||
| + | |||
| + | '''Логическая шкала''' (''boolean scale'') является частным случаем номинальной шкалы, в которой выделено ровно две категории, обычно интерпретируемые как «истина» (''true'') и «ложь» (''false''). В отличие от общей номинальной шкалы, для логической шкалы определены не только операции сравнения на равенство, но и булевы операции, а также импликация. Эти операции имеют чёткий содержательный смысл и инвариантны относительно преобразований, сохраняющих истинностные значения. Допустимые преобразования — любая биекция (перестановка), но на практике используют тождественное преобразование или логическое отрицание (0↔1). | ||
| + | |||
| + | : '''Примеры''': наличие/отсутствие признака (есть ли у пациента симптом), факт прохождения теста, бинарный флаг активности пользователя, гендерная принадлежность (при кодировании 0/1). | ||
| + | |||
| + | : '''Допустимые операции''': все операции для номинальной шкалы, булева логика, вычисление вероятности, [[отношение шансов]] (''odds ratio''). | ||
| + | |||
| + | === Порядковая шкала (ординальная шкала) === | ||
| + | |||
| + | '''Порядковая шкала''' (''ordinal scale'') не только классифицирует объекты, но и задаёт отношение порядка между категориями, позволяя ранжировать их по степени выраженности измеряемого свойства<ref name="bigpsyho">{{Cite web|url=https://rus-big-psyho.slovaronline.com/2961-%d0%a3%d1%80%d0%be%d0%b2%d0%bd%d0%b8%20%d0%b8%d0%b7%d0%bc%d0%b5%d1%80%d0%b5%d0%bd%d0%b8%d1%8f|title=Уровни измерения|publisher=Большая психологическая энциклопедия|lang=ru|accessdate=2026-07-19}}</ref>. Однако интервалы между категориями не равны и не имеют количественного смысла<ref name="babich2012" />. Допустимыми преобразованиями являются любые монотонные (строго возрастающие или убывающие) функции <tex>f(x)</tex>, которые сохраняют порядок: если <tex>x_1 < x_2</tex>, то <tex>f(x_1) < f(x_2)</tex>. | ||
| + | |||
| + | : '''Примеры''': оценки по шкале Лайкерта («очень плохо», «плохо», «хорошо», «отлично»), уровни образования (начальное, среднее, высшее), социально-экономический статус, результаты соревнований (места с 1-го по N-е). | ||
| + | |||
| + | : '''Допустимые статистики''': [[Медиана (статистика)|медиана]], [[Квартиль|квартили]], [[процентиль|процентили]], ранговые корреляции ([[Корреляция Спирмена|коэффициент Спирмена]], [[Корреляция Кендалла|коэффициент Кендалла]]). | ||
| + | |||
| + | === Ранговая шкала === | ||
| + | |||
| + | '''Ранговая шкала''' (''rank scale'') представляет собой частный случай порядковой шкалы, в которой все категории строго упорядочены и каждому объекту присваивается уникальный ранг (место) без пропусков. В классическом определении ранговой шкалы предполагается, что ранги уникальны, однако на практике часто допускаются и равные ранги (например, при ничье в соревнованиях). В отличие от общей порядковой шкалы, здесь не допускаются «связи» (''ties'') — ситуации, когда два объекта имеют одинаковый ранг. Ранговая шкала возникает, например, при упорядочивании результатов соревнований или при [[Ранжирование|ранжировании]] экспертами. Допустимые преобразования — только строго монотонные, но на практике часто используются преобразования, сохраняющие только порядок мест (например, обращение рангов). Группа автоморфизмов шире, чем у интервальной, но уже, чем у общей порядковой, так как уникальность рангов фиксирована. | ||
| + | |||
| + | : '''Примеры''': место в спортивном турнире (1-е, 2-е, 3-е), порядок приоритета задач, результаты голосования с уникальными предпочтениями. | ||
| + | |||
| + | : '''Особенности''': для ранговых шкал допустимы статистики, основанные на сумме рангов ([[Критерий Уилкоксона|критерий Манна-Уитни]], [[Критерий Крускала-Уоллиса|критерий Крускала-Уоллиса]]), а также ранговые корреляции. | ||
| + | |||
| + | === Интервальная шкала === | ||
| + | |||
| + | '''Интервальная шкала''' (''interval scale'') обладает свойствами порядковой шкалы и, кроме того, позволяет измерить и сравнивать расстояния (интервалы) между значениями. Это становится возможным благодаря введению единицы измерения. Однако нулевая точка на такой шкале выбирается произвольно и не означает отсутствия измеряемого свойства. Допустимыми преобразованиями являются [[Аффинное преобразование|линейные преобразования]] вида <tex>f(x) = a \cdot x + b</tex>, где <tex>a > 0</tex><ref name="stevens1946" />. При таком преобразовании сохраняется отношение интервалов, но не отношение самих значений. | ||
| + | |||
| + | : '''Примеры''': температура по шкале Цельсия или Фаренгейта, календарные даты (например, годы от Рождества Христова), IQ. | ||
| + | |||
| + | : '''Допустимые статистики''': все статистики для порядковой шкалы, плюс [[Среднее арифметическое|среднее арифметическое]], [[Стандартное отклонение|стандартное отклонение]], [[Коэффициент корреляции Пирсона|коэффициент корреляции Пирсона]]. | ||
| + | |||
| + | === Шкала отношений === | ||
| + | |||
| + | '''Шкала отношений''' (''ratio scale'') является наиболее информативной. Она обладает всеми свойствами интервальной шкалы и, вдобавок, имеет естественную, содержательно интерпретируемую нулевую точку, которая соответствует полному отсутствию измеряемого свойства. Это позволяет говорить о том, во сколько раз одно значение больше другого. Допустимым преобразованием является только преобразование подобия (масштабирование) <tex>f(x) = a \cdot x</tex>, где <tex>a > 0</tex><ref name="stevens1946" />. | ||
| + | |||
| + | : '''Примеры''': длина, масса, время (длительность), возраст, доход, абсолютная температура (шкала Кельвина). | ||
| + | |||
| + | : '''Допустимые статистики''': допустимы все статистики, включая вычисление среднего геометрического, коэффициента вариации и любых отношений. | ||
| + | |||
| + | : Важно отметить, что для шкалы Цельсия нуль выбран произвольно (температура замерзания воды), поэтому утверждение «20 °C в два раза теплее, чем 10 °C» некорректно. Для шкалы Кельвина (нуль — абсолютный нуль) подобное утверждение справедливо<ref name="bigpsyho" />. | ||
| + | |||
| + | === Абсолютная шкала === | ||
| + | |||
| + | '''Абсолютная шкала''' (''absolute scale'') является наиболее строгим уровнем измерения. Она обладает всеми свойствами шкалы отношений и, кроме того, имеет естественную единицу измерения, которая не может быть изменена. Единственным допустимым преобразованием является тождественное преобразование <tex>f(x) = x</tex><ref>{{Книга|автор=Hand D.J.|заглавие=Statistics: A Very Short Introduction|ссылка=|ответственный=|издание=|место=Oxford|издательство=Oxford University Press|год=2008|страницы=|страниц=|isbn=978-0199233564|язык=en}}</ref>. Это означает, что абсолютная шкала является инвариантной относительно любого преобразования, кроме тождественного. Группа автоморфизмов состоит из единственного элемента. | ||
| + | |||
| + | : '''Примеры''': количество объектов (число яблок, количество студентов), вероятность события, двоичные переменные (0 или 1) в том смысле, что интерпретация «0» и «1» абсолютна (хотя логическая шкала допускает отрицание, содержательно часто используется именно абсолютное кодирование, где 0 означает отсутствие, а 1 — наличие). Абсолютной также является шкала для измерения [[Теория информации|количества информации]] в битах. | ||
| + | |||
| + | : '''Допустимые статистики''': все статистики, применимые к шкале отношений, однако интерпретация среднего и дисперсии здесь наиболее естественна. Особое значение имеют подсчёты (например, [[частотная вероятность]]). | ||
| + | |||
| + | {| class="wikitable" | ||
| + | |+ Уровни измерения и допустимые преобразования (полная классификация) | ||
| + | ! Уровень измерения !! Допустимое преобразование <tex>f(x)</tex> !! Группа автоморфизмов !! Сохраняемые отношения | ||
| + | |- | ||
| + | | Номинальный || <tex>f(x)</tex> — любая взаимно-однозначная функция || Все перестановки || Равенство (<tex>=</tex>) | ||
| + | |- | ||
| + | | Логический (булев) || <tex>f(x) = x</tex> или <tex>f(x) = 1-x</tex> (отрицание) || Циклическая группа <tex>\mathbb{Z}_2</tex> || Равенство, булевы операции | ||
| + | |- | ||
| + | | Порядковый || <tex>f(x)</tex> — любая строго монотонная функция || Все строго монотонные преобразования || Порядок (<tex><, ></tex>) | ||
| + | |- | ||
| + | | Ранговый || <tex>f(x)</tex> — строго монотонная, сохраняющая уникальность и полноту рангов || Все строго монотонные (суженные на множество рангов) || Порядок, уникальность | ||
| + | |- | ||
| + | | Интервальный || <tex>f(x) = a \cdot x + b,\ a > 0</tex> || Аффинная группа <tex>\mathrm{Aff}(1)</tex> || Отношения интервалов (<tex>(x_1-x_2)/(x_3-x_4)</tex>) | ||
| + | |- | ||
| + | | Отношений || <tex>f(x) = a \cdot x,\ a > 0</tex> || Мультипликативная группа <tex>\mathbb{R}_{>0}</tex> || Отношения значений (<tex>x_1/x_2</tex>) | ||
| + | |- | ||
| + | | Абсолютный || <tex>f(x) = x</tex> || Тривиальная группа || Все отношения, включая абсолютную величину | ||
| + | |} | ||
| + | |||
| + | == Ослабление шкалы == | ||
| + | |||
| + | '''Ослабление шкалы''' (''scale weakening'', ''scale degradation'') — это процедура перехода от более сильного уровня измерения к более слабому путём применения к данным преобразования, которое не является допустимым для исходной шкалы. Такое преобразование всегда приводит к потере информации, но может быть необходимо для защиты конфиденциальности ([[Анонимизация данных|анонимизация]]), упрощения анализа или приведения данных к формату, совместимому с определёнными алгоритмами<ref>{{Статья|автор=Karr A.F., Lin X., Sanil A.P., Reiter J.P.|заглавие=Privacy-Preserving Analysis of Vertically Partitioned Data Using Secure Computation|ссылка=|язык=en|издание=Journal of Official Statistics|год=2009|том=25|номер=3|страницы=323-344}}</ref>. Основные виды ослабления: | ||
| + | |||
| + | * '''Обобщение (категоризация)''': <tex>f(x) = v</tex>, где <tex>v</tex> — константа (например, замена всех точных значений возраста на метку «взрослый»). Это ослабляет любую шкалу до номинальной с одной категорией (полная потеря информации). | ||
| + | * '''Биннинг (дискретизация)''': <tex>f(x) = k</tex>, если <tex>a_k \le x < a_{k+1}</tex> с ограничением <tex>a \le f(x) \le b</tex>. Этот подход преобразует интервальную или относительную шкалу в порядковую. Пример: разбиение возраста на группы (0–18, 19–35, 36–60, 60+) с потерей информации о точных интервалах. | ||
| + | * '''Ранжирование''': преобразование <tex>f(x) = \sum [x \ge a_k]</tex>, где <tex>[\cdot]</tex> — [[Индикатор (математика)|индикаторная функция]] события. Это преобразование переводит интервальную шкалу в ранговую, сохраняя только порядок объектов и теряя информацию о величине расстояний между ними. | ||
| + | |||
| + | Важно понимать, что ослабление шкалы — это необратимая операция: по ослабленным данным невозможно восстановить исходные значения без дополнительной информации. Ослабление часто применяется в [[Непараметрическая статистика|непараметрической статистике]], где ранговые методы устойчивы к выбросам, но ценой потери мощности критериев. | ||
| + | |||
| + | === Усиление шкалы === | ||
| + | |||
| + | '''Усиление шкалы''' (''scale strengthening'') — это процедура, обратная ослаблению, при которой данным приписывается более сильный уровень измерения, чем тот, которым они объективно обладают. В отличие от ослабления, усиление не является строго допустимым преобразованием, поскольку опирается на дополнительные предположения о данных, которые могут быть ошибочными. Усиление всегда вносит информацию, которой в исходных данных не было, и потому требует особой осторожности. | ||
| + | |||
| + | Типичные примеры усиления шкалы: | ||
| + | |||
| + | * '''Присвоение чисел порядковым категориям''': например, кодирование ответов по шкале Лайкерта («очень плохо» = 1, «плохо» = 2, «хорошо» = 3, «отлично» = 4) и последующее вычисление среднего арифметического. Это неявно предполагает, что интервалы между категориями равны, что может не соответствовать действительности. Такой подход широко распространён в социологических опросах, но подвергается критике со стороны строгих статистиков<ref name="babich2012" />. | ||
| + | * '''Замена категории на внешнюю статистику''': например, замена номинального признака «регион» на средний доход в этом регионе, вычисленный по внешним данным. Это приписывает категориям количественные значения, основанные на предположении о релевантности внешней статистики. | ||
| + | |||
| + | К усилению шкалы прибегают редко и с осторожностью, как правило, когда это необходимо для применения определённых алгоритмов машинного обучения или статистических методов, требующих числовых данных. При этом важно оценивать потенциальные искажения, которые могут возникнуть из-за неверных предположений. | ||
| + | |||
| + | == Значение для анализа данных и машинного обучения == | ||
| + | |||
| + | В прикладных задачах анализа данных и машинного обучения тип шкалы является ключевым фактором при выборе [[Функция потерь|функции потерь]], метода [[Кодирование признаков|кодирования признаков]] и стратегии [[Предобработка данных|предобработки данных]]. | ||
| + | |||
| + | === Влияние на выбор функции потерь === | ||
| + | |||
| + | Выбор функции потерь определяется тем, какое сравнение прогноза модели и истинного значения является содержательным. | ||
| + | |||
| + | * '''Для интервальных и относительных шкал''' ([[Регрессионный анализ|задачи регрессии]]) имеет смысл сравнение по величине ошибки. Поэтому используются функции, основанные на разности, например, '''[[Среднеквадратическая ошибка|MSE]]''' (''Mean Squared Error''), '''MAE''' (''Mean Absolute Error''), '''Huber Loss'''. Эти функции штрафуют модель за абсолютное или квадратичное отклонение предсказания от истинного значения. | ||
| + | * '''Для номинальных шкал''' ([[Задача классификации|задачи классификации]]) сравнение по величине не имеет смысла; важно, совпадает ли предсказанный класс с истинным. Поэтому используются функции, оценивающие качество вероятностных предсказаний, например, '''[[Перекрестная энтропия|Cross-Entropy]]''' (логарифмическая функция потерь). Для бинарной классификации используется '''[[Бинарная кросс-энтропия|Binary Cross-Entropy]]'''. | ||
| + | * '''Для порядковых шкал''' (задачи порядковой регрессии) используются специализированные функции потерь, учитывающие порядок классов. Классическим подходом является '''Cumulative Logit Loss''' (потеря на основе кумулятивной логит-модели). Для порядковой переменной с <tex>K</tex> категориями модель оценивает кумулятивные вероятности <tex>P(y \le k \mid x)</tex> для <tex>k = 1, \dots, K-1</tex>. Потеря определяется как отрицательный логарифм правдоподобия<ref>{{Статья|автор=McCullagh P.|заглавие=Regression Models for Ordinal Data|ссылка=|язык=en|издание=Journal of the Royal Statistical Society. Series B|год=1980|том=42|номер=2|страницы=109-142}}</ref>: | ||
| + | <tex>\mathcal{L} = - \sum_{i=1}^{N} \sum_{k=1}^{K-1} \left[ y_i \le k \right] \log P(y_i \le k \mid x_i) + \left[ y_i > k \right] \log (1 - P(y_i \le k \mid x_i))</tex> | ||
| + | |||
| + | где <tex>[\cdot]</tex> — индикаторная функция. Эта функция потерь явно учитывает порядок категорий и часто используется в градиентных алгоритмах (например, в реализациях XGBoost и LightGBM для порядковой классификации)<ref>{{Статья|автор=Gutiérrez P.A., Pérez-Ortiz M., Sánchez-Monedero J., Fernández-Navarro F., Hervás-Martínez C.|заглавие=Ordinal Regression Methods: Survey and Experimental Study|ссылка=|язык=en|издание=IEEE Transactions on Knowledge and Data Engineering|год=2016|том=28|номер=1|страницы=127-146|doi=10.1109/TKDE.2015.2457911}}</ref>. | ||
| + | |||
| + | === Влияние на методы кодирования категориальных признаков === | ||
| + | |||
| + | Алгоритмы машинного обучения, как правило, работают с числовыми данными, поэтому категориальные признаки требуют специального кодирования. | ||
| + | |||
| + | * '''Номинальные признаки''' (неупорядоченные категории). Наиболее распространённым является '''[[One-Hot Encoding]]''' (метод фиктивных переменных), который создаёт бинарный вектор для каждой категории. Это универсальный метод, применимый в большинстве алгоритмов ([[Линейная регрессия]], [[Метод опорных векторов|SVM]], [[Нейронная сеть|нейронные сети]]). В случае большого числа категорий используется '''[[Target Encoding]]''' (среднее целевой переменной по категории) с регуляризацией для предотвращения переобучения. Этот метод особенно эффективен в [[Дерево решений|древовидных]] моделях ([[Градиентный бустинг|XGBoost]], [[CatBoost]], [[LightGBM]]), так как позволяет извлечь информацию о связи категории с целевой переменной<ref>{{Книга|автор=Kuhn M., Johnson K.|заглавие=Feature Engineering and Selection: A Practical Approach for Predictive Models|ссылка=|ответственный=|издание=|место=|издательство=CRC Press|год=2019|страницы=|страниц=|isbn=978-1138079229|язык=en}}</ref>. | ||
| + | * '''Порядковые признаки''' (упорядоченные категории). Используется '''[[Ordinal Encoding]]''' (порядковое кодирование), при котором каждой категории присваивается целое число в соответствии с её рангом (например, «низкий»=1, «средний»=2, «высокий»=3). Такое кодирование сохраняет порядок и может использоваться в алгоритмах, чувствительных к ранжированию (например, в деревьях решений). Однако его применение в линейных моделях предполагает, что расстояния между категориями равны, что не всегда верно. В таких случаях можно использовать ''сглаженное'' порядковое кодирование или специализированные контрасты. | ||
| + | |||
| + | ==== Кодирование признаков с высоким числом категорий (high-cardinality) ==== | ||
| + | |||
| + | При работе с номинальными признаками, имеющими большое количество уникальных значений (сотни и тысячи), One-Hot Encoding становится неэффективным из-за резкого увеличения размерности пространства признаков и разреженности данных. В этом случае применяют '''Target Encoding''' (целевое кодирование), которое заменяет каждую категорию на среднее значение целевой переменной для объектов этой категории. | ||
| + | |||
| + | Однако наивное использование среднего по категории приводит к [[Переобучение|переобучению]], особенно для редких категорий. Для регуляризации используется '''сглаженное целевое кодирование''' (''smoothed target encoding'') с формулой<ref>{{Книга|автор=Prokhorenkova L., Gusev G., Vorobev A., Dorogush A.V., Gulin A.|заглавие=CatBoost: unbiased boosting with categorical features|ссылка=|ответственный=|издание=Advances in Neural Information Processing Systems|место=|издательство=|год=2018|страницы=6638-6648|isbn=|язык=en}}</ref>: | ||
| + | |||
| + | <tex>\hat{y}_{cat} = \frac{{mean}_{target} \cdot n + {mean}_{global} \cdot m}{n + m}</tex> | ||
| + | |||
| + | где <tex>{mean}_{target}</tex> — среднее целевой переменной в данной категории, <tex>n</tex> — число объектов в категории, <tex>{mean}_{global}</tex> — среднее целевой переменной по всей обучающей выборке, <tex>m</tex> — гиперпараметр сглаживания (чем больше <tex>m</tex>, тем сильнее категория «стягивается» к глобальному среднему). Такой подход позволяет эффективно кодировать высококардинальные признаки, сохраняя информативность и устойчивость к переобучению. | ||
| + | |||
| + | === Влияние на нормализацию и стандартизацию === | ||
| + | |||
| + | Предобработка числовых признаков также зависит от уровня измерения. | ||
| + | |||
| + | * '''Для шкал интервалов и отношений''' стандартной практикой является '''стандартизация (Z-нормализация)''' или '''нормализация (Min-Max Scaling)'''. Эти процедуры центрируют и масштабируют данные, что необходимо для алгоритмов, чувствительных к масштабу признаков ([[Градиентный спуск|градиентный спуск]], [[Метод опорных векторов|SVM]], [[Метод главных компонент|PCA]])<ref>{{Книга|автор=Géron A.|заглавие=Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow|ссылка=|ответственный=|издание=2nd ed|место=|издательство=O'Reilly Media|год=2019|страницы=|страниц=|isbn=978-1492032649|язык=en}}</ref>. Основные формулы: | ||
| + | * '''Z-стандартизация''': <tex>z = \frac{x - \mu}{\sigma}</tex>, где <tex>\mu</tex> — среднее, <tex>\sigma</tex> — стандартное отклонение. Полученные данные имеют нулевое среднее и единичную дисперсию. | ||
| + | * '''Нормализация по максимуму (масштабирование на максимум)''': <tex>x' = \frac{x}{\max(|x|)}</tex> (сохраняет знак, диапазон <tex>[-1, 1]</tex>). | ||
| + | * '''Min-Max нормализация''': <tex>x' = \frac{x - \min(x)}{\max(x) - \min(x)}</tex> (приводит данные к диапазону <tex>[0, 1]</tex>). | ||
| + | |||
| + | Параметры масштабирования (<tex>\mu, \sigma, \min, \max</tex>) вычисляются '''исключительно по обучающей выборке''' и затем применяются к тестовой выборке и новым данным. Это предотвращает утечку информации из тестового множества и обеспечивает корректную оценку обобщающей способности модели<ref>{{Книга|автор=Hastie T., Tibshirani R., Friedman J.|заглавие=The Elements of Statistical Learning|ссылка=|ответственный=|издание=2nd ed|место=New York|издательство=Springer|год=2009|страницы=|страниц=|isbn=978-0387848570|язык=en}}</ref>. | ||
| + | * '''Для порядковых шкал''' применение стандартизации или нормализации не имеет строгого математического обоснования, так как среднее и дисперсия для порядковых данных не являются репрезентативными статистиками. Однако на практике это иногда делается для совместимости с алгоритмами. Более корректным подходом является использование ранговых преобразований. | ||
| + | * '''Для номинальных признаков''' после кодирования (например, [[One-Hot Encoding]]) применение стандартизации к полученным бинарным признакам обычно не требуется и может исказить их интерпретацию, хотя иногда используется для улучшения сходимости градиентных методов в нейронных сетях. | ||
| + | |||
| + | '''Критичность нормализации для различных алгоритмов''': | ||
| + | * '''Линейная регрессия''', '''логистическая регрессия''', '''SVM с линейным ядром''', '''PCA''': нормализация критична, так как эти алгоритмы вычисляют расстояния или используют градиентный спуск, и признаки с большими масштабами доминируют над остальными. | ||
| + | * '''SVM с RBF-ядром''': нормализация абсолютно необходима, поскольку RBF-ядро <tex>K(x, x') = \exp(-\gamma \|x - x'\|^2)</tex> основано на евклидовом расстоянии, и признаки с разными масштабами искажают геометрию пространства. | ||
| + | * '''Деревья решений и ансамбли на их основе''' ([[Случайный лес|Random Forest]], [[Градиентный бустинг|XGBoost, LightGBM, CatBoost]]): нормализация '''не нужна''', так как деревья принимают решения на основе пороговых сравнений отдельных признаков, которые инвариантны к монотонным преобразованиям (включая линейное масштабирование). | ||
| + | |||
| + | == Циклические признаки как особый случай == | ||
| + | |||
| + | '''Циклические признаки''' (''circular features''), такие как час дня, день недели, месяц года, не полностью описываются классической типологией Стивенса, так как обладают свойствами как порядковой, так и интервальной шкалы, но с важным дополнением — периодичностью. Значение 23:59 и 00:00 находятся рядом, несмотря на максимальную разницу в числовом представлении<ref>{{Статья|автор=Horn C., Ling C. X.|заглавие=Dealing with Cyclic Data in Machine Learning|ссылка=|язык=en|издание=Proceedings of the 19th International FLAIRS Conference|год=2006|страницы=346-351}}</ref>. | ||
| + | |||
| + | * '''Проблема''': использование наивного числового кодирования (например, 0..23) нарушает свойство непрерывности, так как расстояние между 23 и 0 оказывается большим, что вводит алгоритм в заблуждение. Неприменимость стандартных шкал связана с тем, что группа автоморфизмов для циклического признака включает в себя сдвиг по модулю периода. | ||
| + | * '''Решение''': циклические признаки преобразуются в две компоненты с помощью тригонометрических функций, проецируя их на единичную окружность: | ||
| + | |||
| + | <tex>x_{\sin} = \sin\left(\frac{2\pi \cdot x}{T}\right)</tex> | ||
| + | |||
| + | <tex>x_{\cos} = \cos\left(\frac{2\pi \cdot x}{T}\right)</tex> | ||
| + | |||
| + | где <tex>x</tex> — значение признака, <tex>T</tex> — период (24 для часа, 7 для дня недели). Полученные признаки <tex>(x_{\sin}, x_{\cos})</tex> можно рассматривать как значения на интервальной шкале (поскольку они являются координатами на плоскости), что позволяет корректно вычислять расстояния и использовать их в любых алгоритмах машинного обучения<ref>{{Книга|автор=Zheng A., Casari A.|заглавие=Feature Engineering for Machine Learning|ссылка=|ответственный=|издание=|место=|издательство=O'Reilly Media|год=2018|страницы=|страниц=|isbn=978-1491953242|язык=en}}</ref>. | ||
| + | |||
| + | == См. также == | ||
| + | * [[Допустимое преобразование]] | ||
| + | * [[Группа автоморфизмов]] | ||
| + | * [[Кодирование категориальных признаков]] | ||
| + | * [[Нормализация и стандартизация признаков]] | ||
| + | * [[Порядковая регрессия]] | ||
| + | * [[Циклические признаки]] | ||
| + | * [[Ослабление и усиление шкал признаков]] | ||
| + | |||
| + | == Примечания == | ||
| + | {{примечания|2}} | ||
| + | |||
| + | == Литература == | ||
| + | * {{Статья|автор=Stevens S. S.|заглавие=On the Theory of Scales of Measurement|ссылка=|язык=en|издание=[[Science]]|год=1946|том=103|номер=2684|страницы=677–680|doi=10.1126/science.103.2684.677}} | ||
| + | * {{Книга|автор=Anderson T. W.|заглавие=An Introduction to Multivariate Statistical Analysis|ссылка=|ответственный=|издание=3rd ed|место=Hoboken|издательство=Wiley-Interscience|год=2003|страницы=|страниц=|isbn=978-0471360919|язык=en}} | ||
| + | * {{Статья|автор=Бабич Н.С., Хоменко В.И.|заглавие=Типология уровней измерения в социологии: традиционные и альтернативные подходы|ссылка=https://cyberleninka.ru/article/n/tipologiya-urovney-izmereniya-v-sotsiologii-traditsionnye-i-alternativnye-podhody-1|язык=ru|издание=Социология: методология, методы, математическое моделирование|год=2012|номер=35|страницы=5-28}} | ||
| + | * {{Книга|автор=Kuhn M., Johnson K.|заглавие=Feature Engineering and Selection: A Practical Approach for Predictive Models|ссылка=|ответственный=|издание=|место=|издательство=CRC Press|год=2019|страницы=|страниц=|isbn=978-1138079229|язык=en}} | ||
| + | * {{Книга|автор=Géron A.|заглавие=Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow|ссылка=|ответственный=|издание=2nd ed|место=|издательство=O'Reilly Media|год=2019|страницы=|страниц=|isbn=978-1492032649|язык=en}} | ||
| + | * {{Книга|автор=Zheng A., Casari A.|заглавие=Feature Engineering for Machine Learning|ссылка=|ответственный=|издание=|место=|издательство=O'Reilly Media|год=2018|страницы=|страниц=|isbn=978-1491953242|язык=en}} | ||
Текущая версия
| | Статья написана с использованием LLM DeepSeek-V4 и проверена участником Alfina Iamaeva 15:47, 19 июля 2026 (MSD) |
Уровни измерения (также шкалы измерения; анг. levels of measurement, scales of measure) — типология, классифицирующая измерительные шкалы в зависимости от типа математических соотношений, которые сохраняются между значениями шкалы и измеряемыми эмпирическими свойствами объектов. Понятие является фундаментальным для статистики, анализа данных и машинного обучения, поскольку определяет множество допустимых операций с данными и корректных методов их обработки.
Содержание |
История
Классификация уровней измерения была предложена американским психологом и основателем психофизики Стэнли Смитом Стивенсом в 1946 году в статье «О теории шкал измерения» (On the Theory of Scales of Measurement)[1][1]. Стивенс предположил, что характер измерительной шкалы определяется группой допустимых преобразований значений, при которых не теряется исходная информация об объектах. Он выделил четыре уровня, образующих иерархию: номинальный, порядковый, интервальный и уровень отношений[1].
Первоначально эта типология была разработана для психологических измерений, но впоследствии стала общепринятой в социологии, экономике и других науках. Несмотря на широкое распространение, подход Стивенса подвергался критике. Исследователи отмечали, что строгое следование его предписаниям часто игнорируется на практике, а сама типология служит скорее методической эвристикой, нежели жестким ограничением[1]. Тем не менее, понимание уровней измерения остаётся критически важным для выбора корректных статистических методов и алгоритмов анализа данных.
Классификация шкал
В основе классификации лежит понятие допустимого преобразования шкалы — функции , применение которой ко всем значениям шкалы сохраняет все существенные эмпирические отношения между объектами.
Номинальная шкала (шкала наименований)
Номинальная шкала (nominal scale) — это шкала, значения которой служат лишь для различения объектов и их отнесения к определённым категориям. Единственной допустимой операцией является проверка на равенство () или неравенство (
)[1][1]. Числа, присвоенные категориям, не имеют количественного смысла: их нельзя сравнивать по величине, складывать или усреднять. Допустимым преобразованием является любая взаимно-однозначная (инъективная) замена меток (перестановка).
- Примеры: пол (мужской/женский), национальность, тип заболевания, код региона, идентификационный номер.
- Допустимые статистики: частоты (количество объектов в каждой категории), мода, таблицы сопряжённости, критерий
.
Логическая шкала (булева шкала)
Логическая шкала (boolean scale) является частным случаем номинальной шкалы, в которой выделено ровно две категории, обычно интерпретируемые как «истина» (true) и «ложь» (false). В отличие от общей номинальной шкалы, для логической шкалы определены не только операции сравнения на равенство, но и булевы операции, а также импликация. Эти операции имеют чёткий содержательный смысл и инвариантны относительно преобразований, сохраняющих истинностные значения. Допустимые преобразования — любая биекция (перестановка), но на практике используют тождественное преобразование или логическое отрицание (0↔1).
- Примеры: наличие/отсутствие признака (есть ли у пациента симптом), факт прохождения теста, бинарный флаг активности пользователя, гендерная принадлежность (при кодировании 0/1).
- Допустимые операции: все операции для номинальной шкалы, булева логика, вычисление вероятности, отношение шансов (odds ratio).
Порядковая шкала (ординальная шкала)
Порядковая шкала (ordinal scale) не только классифицирует объекты, но и задаёт отношение порядка между категориями, позволяя ранжировать их по степени выраженности измеряемого свойства[1]. Однако интервалы между категориями не равны и не имеют количественного смысла[1]. Допустимыми преобразованиями являются любые монотонные (строго возрастающие или убывающие) функции , которые сохраняют порядок: если
, то
.
- Примеры: оценки по шкале Лайкерта («очень плохо», «плохо», «хорошо», «отлично»), уровни образования (начальное, среднее, высшее), социально-экономический статус, результаты соревнований (места с 1-го по N-е).
- Допустимые статистики: медиана, квартили, процентили, ранговые корреляции (коэффициент Спирмена, коэффициент Кендалла).
Ранговая шкала
Ранговая шкала (rank scale) представляет собой частный случай порядковой шкалы, в которой все категории строго упорядочены и каждому объекту присваивается уникальный ранг (место) без пропусков. В классическом определении ранговой шкалы предполагается, что ранги уникальны, однако на практике часто допускаются и равные ранги (например, при ничье в соревнованиях). В отличие от общей порядковой шкалы, здесь не допускаются «связи» (ties) — ситуации, когда два объекта имеют одинаковый ранг. Ранговая шкала возникает, например, при упорядочивании результатов соревнований или при ранжировании экспертами. Допустимые преобразования — только строго монотонные, но на практике часто используются преобразования, сохраняющие только порядок мест (например, обращение рангов). Группа автоморфизмов шире, чем у интервальной, но уже, чем у общей порядковой, так как уникальность рангов фиксирована.
- Примеры: место в спортивном турнире (1-е, 2-е, 3-е), порядок приоритета задач, результаты голосования с уникальными предпочтениями.
- Особенности: для ранговых шкал допустимы статистики, основанные на сумме рангов (критерий Манна-Уитни, критерий Крускала-Уоллиса), а также ранговые корреляции.
Интервальная шкала
Интервальная шкала (interval scale) обладает свойствами порядковой шкалы и, кроме того, позволяет измерить и сравнивать расстояния (интервалы) между значениями. Это становится возможным благодаря введению единицы измерения. Однако нулевая точка на такой шкале выбирается произвольно и не означает отсутствия измеряемого свойства. Допустимыми преобразованиями являются линейные преобразования вида , где
[1]. При таком преобразовании сохраняется отношение интервалов, но не отношение самих значений.
- Примеры: температура по шкале Цельсия или Фаренгейта, календарные даты (например, годы от Рождества Христова), IQ.
- Допустимые статистики: все статистики для порядковой шкалы, плюс среднее арифметическое, стандартное отклонение, коэффициент корреляции Пирсона.
Шкала отношений
Шкала отношений (ratio scale) является наиболее информативной. Она обладает всеми свойствами интервальной шкалы и, вдобавок, имеет естественную, содержательно интерпретируемую нулевую точку, которая соответствует полному отсутствию измеряемого свойства. Это позволяет говорить о том, во сколько раз одно значение больше другого. Допустимым преобразованием является только преобразование подобия (масштабирование) , где
[1].
- Примеры: длина, масса, время (длительность), возраст, доход, абсолютная температура (шкала Кельвина).
- Допустимые статистики: допустимы все статистики, включая вычисление среднего геометрического, коэффициента вариации и любых отношений.
- Важно отметить, что для шкалы Цельсия нуль выбран произвольно (температура замерзания воды), поэтому утверждение «20 °C в два раза теплее, чем 10 °C» некорректно. Для шкалы Кельвина (нуль — абсолютный нуль) подобное утверждение справедливо[1].
Абсолютная шкала
Абсолютная шкала (absolute scale) является наиболее строгим уровнем измерения. Она обладает всеми свойствами шкалы отношений и, кроме того, имеет естественную единицу измерения, которая не может быть изменена. Единственным допустимым преобразованием является тождественное преобразование [1]. Это означает, что абсолютная шкала является инвариантной относительно любого преобразования, кроме тождественного. Группа автоморфизмов состоит из единственного элемента.
- Примеры: количество объектов (число яблок, количество студентов), вероятность события, двоичные переменные (0 или 1) в том смысле, что интерпретация «0» и «1» абсолютна (хотя логическая шкала допускает отрицание, содержательно часто используется именно абсолютное кодирование, где 0 означает отсутствие, а 1 — наличие). Абсолютной также является шкала для измерения количества информации в битах.
- Допустимые статистики: все статистики, применимые к шкале отношений, однако интерпретация среднего и дисперсии здесь наиболее естественна. Особое значение имеют подсчёты (например, частотная вероятность).
| Уровень измерения | Допустимое преобразование | Группа автоморфизмов | Сохраняемые отношения |
|---|---|---|---|
| Номинальный | | Все перестановки | Равенство ( |
| Логический (булев) | | Циклическая группа | Равенство, булевы операции |
| Порядковый | | Все строго монотонные преобразования | Порядок ( |
| Ранговый | | Все строго монотонные (суженные на множество рангов) | Порядок, уникальность |
| Интервальный | | Аффинная группа | Отношения интервалов ( |
| Отношений | | Мультипликативная группа | Отношения значений ( |
| Абсолютный | | Тривиальная группа | Все отношения, включая абсолютную величину |
Ослабление шкалы
Ослабление шкалы (scale weakening, scale degradation) — это процедура перехода от более сильного уровня измерения к более слабому путём применения к данным преобразования, которое не является допустимым для исходной шкалы. Такое преобразование всегда приводит к потере информации, но может быть необходимо для защиты конфиденциальности (анонимизация), упрощения анализа или приведения данных к формату, совместимому с определёнными алгоритмами[1]. Основные виды ослабления:
- Обобщение (категоризация):
, где
— константа (например, замена всех точных значений возраста на метку «взрослый»). Это ослабляет любую шкалу до номинальной с одной категорией (полная потеря информации).
- Биннинг (дискретизация):
, если
с ограничением
. Этот подход преобразует интервальную или относительную шкалу в порядковую. Пример: разбиение возраста на группы (0–18, 19–35, 36–60, 60+) с потерей информации о точных интервалах.
- Ранжирование: преобразование
, где
— индикаторная функция события. Это преобразование переводит интервальную шкалу в ранговую, сохраняя только порядок объектов и теряя информацию о величине расстояний между ними.
Важно понимать, что ослабление шкалы — это необратимая операция: по ослабленным данным невозможно восстановить исходные значения без дополнительной информации. Ослабление часто применяется в непараметрической статистике, где ранговые методы устойчивы к выбросам, но ценой потери мощности критериев.
Усиление шкалы
Усиление шкалы (scale strengthening) — это процедура, обратная ослаблению, при которой данным приписывается более сильный уровень измерения, чем тот, которым они объективно обладают. В отличие от ослабления, усиление не является строго допустимым преобразованием, поскольку опирается на дополнительные предположения о данных, которые могут быть ошибочными. Усиление всегда вносит информацию, которой в исходных данных не было, и потому требует особой осторожности.
Типичные примеры усиления шкалы:
- Присвоение чисел порядковым категориям: например, кодирование ответов по шкале Лайкерта («очень плохо» = 1, «плохо» = 2, «хорошо» = 3, «отлично» = 4) и последующее вычисление среднего арифметического. Это неявно предполагает, что интервалы между категориями равны, что может не соответствовать действительности. Такой подход широко распространён в социологических опросах, но подвергается критике со стороны строгих статистиков[1].
- Замена категории на внешнюю статистику: например, замена номинального признака «регион» на средний доход в этом регионе, вычисленный по внешним данным. Это приписывает категориям количественные значения, основанные на предположении о релевантности внешней статистики.
К усилению шкалы прибегают редко и с осторожностью, как правило, когда это необходимо для применения определённых алгоритмов машинного обучения или статистических методов, требующих числовых данных. При этом важно оценивать потенциальные искажения, которые могут возникнуть из-за неверных предположений.
Значение для анализа данных и машинного обучения
В прикладных задачах анализа данных и машинного обучения тип шкалы является ключевым фактором при выборе функции потерь, метода кодирования признаков и стратегии предобработки данных.
Влияние на выбор функции потерь
Выбор функции потерь определяется тем, какое сравнение прогноза модели и истинного значения является содержательным.
- Для интервальных и относительных шкал (задачи регрессии) имеет смысл сравнение по величине ошибки. Поэтому используются функции, основанные на разности, например, MSE (Mean Squared Error), MAE (Mean Absolute Error), Huber Loss. Эти функции штрафуют модель за абсолютное или квадратичное отклонение предсказания от истинного значения.
- Для номинальных шкал (задачи классификации) сравнение по величине не имеет смысла; важно, совпадает ли предсказанный класс с истинным. Поэтому используются функции, оценивающие качество вероятностных предсказаний, например, Cross-Entropy (логарифмическая функция потерь). Для бинарной классификации используется Binary Cross-Entropy.
- Для порядковых шкал (задачи порядковой регрессии) используются специализированные функции потерь, учитывающие порядок классов. Классическим подходом является Cumulative Logit Loss (потеря на основе кумулятивной логит-модели). Для порядковой переменной с
категориями модель оценивает кумулятивные вероятности
для
. Потеря определяется как отрицательный логарифм правдоподобия[1]:
где — индикаторная функция. Эта функция потерь явно учитывает порядок категорий и часто используется в градиентных алгоритмах (например, в реализациях XGBoost и LightGBM для порядковой классификации)[1].
Влияние на методы кодирования категориальных признаков
Алгоритмы машинного обучения, как правило, работают с числовыми данными, поэтому категориальные признаки требуют специального кодирования.
- Номинальные признаки (неупорядоченные категории). Наиболее распространённым является One-Hot Encoding (метод фиктивных переменных), который создаёт бинарный вектор для каждой категории. Это универсальный метод, применимый в большинстве алгоритмов (Линейная регрессия, SVM, нейронные сети). В случае большого числа категорий используется Target Encoding (среднее целевой переменной по категории) с регуляризацией для предотвращения переобучения. Этот метод особенно эффективен в древовидных моделях (XGBoost, CatBoost, LightGBM), так как позволяет извлечь информацию о связи категории с целевой переменной[1].
- Порядковые признаки (упорядоченные категории). Используется Ordinal Encoding (порядковое кодирование), при котором каждой категории присваивается целое число в соответствии с её рангом (например, «низкий»=1, «средний»=2, «высокий»=3). Такое кодирование сохраняет порядок и может использоваться в алгоритмах, чувствительных к ранжированию (например, в деревьях решений). Однако его применение в линейных моделях предполагает, что расстояния между категориями равны, что не всегда верно. В таких случаях можно использовать сглаженное порядковое кодирование или специализированные контрасты.
Кодирование признаков с высоким числом категорий (high-cardinality)
При работе с номинальными признаками, имеющими большое количество уникальных значений (сотни и тысячи), One-Hot Encoding становится неэффективным из-за резкого увеличения размерности пространства признаков и разреженности данных. В этом случае применяют Target Encoding (целевое кодирование), которое заменяет каждую категорию на среднее значение целевой переменной для объектов этой категории.
Однако наивное использование среднего по категории приводит к переобучению, особенно для редких категорий. Для регуляризации используется сглаженное целевое кодирование (smoothed target encoding) с формулой[1]:
где — среднее целевой переменной в данной категории,
— число объектов в категории,
— среднее целевой переменной по всей обучающей выборке,
— гиперпараметр сглаживания (чем больше
, тем сильнее категория «стягивается» к глобальному среднему). Такой подход позволяет эффективно кодировать высококардинальные признаки, сохраняя информативность и устойчивость к переобучению.
Влияние на нормализацию и стандартизацию
Предобработка числовых признаков также зависит от уровня измерения.
- Для шкал интервалов и отношений стандартной практикой является стандартизация (Z-нормализация) или нормализация (Min-Max Scaling). Эти процедуры центрируют и масштабируют данные, что необходимо для алгоритмов, чувствительных к масштабу признаков (градиентный спуск, SVM, PCA)[1]. Основные формулы:
- Z-стандартизация:
, где
— среднее,
— стандартное отклонение. Полученные данные имеют нулевое среднее и единичную дисперсию.
- Нормализация по максимуму (масштабирование на максимум):
(сохраняет знак, диапазон
).
- Min-Max нормализация:
(приводит данные к диапазону
).
Параметры масштабирования () вычисляются исключительно по обучающей выборке и затем применяются к тестовой выборке и новым данным. Это предотвращает утечку информации из тестового множества и обеспечивает корректную оценку обобщающей способности модели[1].
- Для порядковых шкал применение стандартизации или нормализации не имеет строгого математического обоснования, так как среднее и дисперсия для порядковых данных не являются репрезентативными статистиками. Однако на практике это иногда делается для совместимости с алгоритмами. Более корректным подходом является использование ранговых преобразований.
- Для номинальных признаков после кодирования (например, One-Hot Encoding) применение стандартизации к полученным бинарным признакам обычно не требуется и может исказить их интерпретацию, хотя иногда используется для улучшения сходимости градиентных методов в нейронных сетях.
Критичность нормализации для различных алгоритмов:
- Линейная регрессия, логистическая регрессия, SVM с линейным ядром, PCA: нормализация критична, так как эти алгоритмы вычисляют расстояния или используют градиентный спуск, и признаки с большими масштабами доминируют над остальными.
- SVM с RBF-ядром: нормализация абсолютно необходима, поскольку RBF-ядро
основано на евклидовом расстоянии, и признаки с разными масштабами искажают геометрию пространства.
- Деревья решений и ансамбли на их основе (Random Forest, XGBoost, LightGBM, CatBoost): нормализация не нужна, так как деревья принимают решения на основе пороговых сравнений отдельных признаков, которые инвариантны к монотонным преобразованиям (включая линейное масштабирование).
Циклические признаки как особый случай
Циклические признаки (circular features), такие как час дня, день недели, месяц года, не полностью описываются классической типологией Стивенса, так как обладают свойствами как порядковой, так и интервальной шкалы, но с важным дополнением — периодичностью. Значение 23:59 и 00:00 находятся рядом, несмотря на максимальную разницу в числовом представлении[1].
- Проблема: использование наивного числового кодирования (например, 0..23) нарушает свойство непрерывности, так как расстояние между 23 и 0 оказывается большим, что вводит алгоритм в заблуждение. Неприменимость стандартных шкал связана с тем, что группа автоморфизмов для циклического признака включает в себя сдвиг по модулю периода.
- Решение: циклические признаки преобразуются в две компоненты с помощью тригонометрических функций, проецируя их на единичную окружность:
где — значение признака,
— период (24 для часа, 7 для дня недели). Полученные признаки
можно рассматривать как значения на интервальной шкале (поскольку они являются координатами на плоскости), что позволяет корректно вычислять расстояния и использовать их в любых алгоритмах машинного обучения[1].
См. также
- Допустимое преобразование
- Группа автоморфизмов
- Кодирование категориальных признаков
- Нормализация и стандартизация признаков
- Порядковая регрессия
- Циклические признаки
- Ослабление и усиление шкал признаков
Примечания
Литература
- Stevens S. S. On the Theory of Scales of Measurement // Science. — 1946. — Т. 103. — № 2684. — С. 677–680.
- Anderson T. W. An Introduction to Multivariate Statistical Analysis. — 3rd ed. — Hoboken: Wiley-Interscience, 2003. — ISBN 978-0471360919
- Бабич Н.С., Хоменко В.И. Типология уровней измерения в социологии: традиционные и альтернативные подходы // Социология: методология, методы, математическое моделирование. — 2012. — № 35. — С. 5-28.
- Kuhn M., Johnson K. Feature Engineering and Selection: A Practical Approach for Predictive Models. — CRC Press, 2019. — ISBN 978-1138079229
- Géron A. Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow. — 2nd ed. — O'Reilly Media, 2019. — ISBN 978-1492032649
- Zheng A., Casari A. Feature Engineering for Machine Learning. — O'Reilly Media, 2018. — ISBN 978-1491953242

