Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{well|Статья написана с использованием LLM '''DeepSeek-V3-0324''' и проверена участником [[Участник:Nikita Elкhin|Nikita Elкhin]] 03:08, 19 июля 2026 (MSD)}} == Обучение со слабым контролем == '''Обучение со слабым контролем''' (Weakly Supervised Learning) — парадигма [[машинное обучение|машинного обучения]], в которой обучающая выборка содержит несовершенную разметку: неполную, неточную, зашумлённую или порождённую эвристическими правилами. В отличие от [[обучение с учителем|обучения с учителем]], где требуется идеально размеченный набор данных <tex>\mathcal{D} = \{(x_i, y_i)\}_{i=1}^N</tex>, слабый контроль использует более дешёвые, но небезупречные источники информации о целевой переменной. Цель остаётся классической — построить предиктивную модель <tex>f_\theta: \mathcal{X} \to \mathcal{Y}</tex>, минимизирующую ожидаемый риск <tex>R(f) = \mathbb{E}_{(x,y)\sim P}[\ell(f(x), y)]</tex>. Ключевая проблема заключается в том, чтобы извлечь полезный сигнал из слабых меток и подавить систематические ошибки, привносимые источниками слабого контроля. == Определение == Пусть <tex>P(x,y)</tex> — истинное совместное распределение признаков и точных меток. В классической постановке доступна выборка <tex>\mathcal{D} = \{(x_i, y_i)\}_{i=1}^N \sim P</tex>. В слабо контролируемом обучении вместо точных меток <tex>y_i</tex> наблюдаются ''слабые сигналы'' <tex>\tilde{s}_i</tex>, связанные с <tex>y_i</tex> стохастической или детерминированной, но неизвестной функцией. Обучающая выборка имеет вид <tex>S = \{(x_i, \tilde{s}_i)\}_{i=1}^N</tex>, где структура <tex>\tilde{s}_i</tex> определяется типом слабого контроля. Задача состоит в нахождении параметров <tex>\theta</tex>, обеспечивающих низкий истинный риск, несмотря на несовершенство наблюдаемых сигналов. == Типы слабой разметки == === Неполная разметка === При '''неполной разметке''' точные метки доступны лишь для малого подмножества примеров, а остальные данные не размечены: <tex>S = \{(x_i, y_i)\}_{i=1}^l \cup \{x_i\}_{i=l+1}^{N}, \quad l \ll N.</tex> Эта постановка совпадает с [[обучение с частичным привлечением учителя|обучением с частичным привлечением учителя]] и является простейшим видом слабого контроля. Основная цель — использовать структуру немаркированных данных для улучшения обобщающей способности модели, обученной на малом количестве точных меток. === Неточная разметка === '''Неточная разметка''' (Inexact Supervision) возникает, когда метки заданы не для отдельных объектов, а для групп объектов (''bags''). Классическим примером служит [[множественное обучение с учителем]] (Multiple Instance Learning, MIL). Обучающая выборка состоит из мешков <tex>\{(X_i, Y_i)\}_{i=1}^m</tex>, где <tex>X_i = \{x_{i1}, \dots, x_{in_i}\}</tex> — множество экземпляров, а <tex>Y_i \in \{0,1\}</tex> — метка мешка. Скрытые метки экземпляров <tex>y_{ij} \in \{0,1\}</tex> удовлетворяют стандартному предположению: <tex>Y_i = \max_{j} y_{ij}.</tex> Модель должна уметь предсказывать как метки новых мешков, так и, во многих приложениях, метки отдельных экземпляров. === Зашумленная разметка === '''Зашумленная разметка''' (Inaccurate Supervision) характеризуется тем, что наблюдаемые метки <tex>\tilde{y}_i</tex> содержат ошибки. Распространённой моделью является класс-условный шум (class-conditional noise), задаваемый матрицей переходов <tex>T \in [0,1]^{C \times C}</tex>, где <tex>C = |\mathcal{Y}|</tex>: <tex>T_{ij} = P(\tilde{y} = j \mid y = i).</tex> В этом случае обучающая выборка имеет вид <tex>S = \{(x_i, \tilde{y}_i)\}_{i=1}^N</tex>. Необходимо либо оценить матрицу <tex>T</tex> для коррекции потерь, либо построить робастную к шуму модель напрямую. === Программная разметка === '''Программная разметка''' (Programmatic Supervision, Data Programming) порождается множеством эвристических функций разметки (labeling functions, LFs) <tex>\lambda_j: \mathcal{X} \to \mathcal{Y} \cup \{0\}</tex>, где <tex>0</tex> означает воздержание от голосования. Каждая функция <tex>\lambda_j</tex> может быть детерминированным правилом, моделью distant supervision, регулярным выражением и т.п. Для каждого объекта <tex>x_i</tex> получается матрица голосов <tex>\Lambda_i = (\lambda_1(x_i), \dots, \lambda_n(x_i)) \in (\mathcal{Y} \cup \{0\})^n.</tex> Функции могут конфликтовать и обладают различной, априори неизвестной точностью. Задача состоит в агрегировании голосов для получения качественных тренировочных меток без доступа к вручную размеченным данным. Наиболее известной реализацией этого подхода является система [[Snorkel (система)|Snorkel]]<ref>Ratner A., Bach S., Ehrenberg H., Fries J., Wu S., Ré C. Snorkel: Rapid training data creation with weak supervision // PVLDB. – 2017. – Т. 11. – №. 3. – С. 269–282.</ref>. === Обучение по пропорциям меток === В '''обучении по пропорциям меток''' (Learning from Label Proportions, LLP) данные разделены на группы <tex>\{G_k\}_{k=1}^K</tex>, и для каждой группы известна только доля объектов каждого класса: <tex>p_{k,c} = \frac{1}{|G_k|}\sum_{i \in G_k} \mathbf{1}[y_i = c].</tex> Индивидуальные метки <tex>y_i</tex> остаются скрытыми. LLP применяется, например, в задачах, где доступны агрегированные статистические данные, но конфиденциальность не позволяет раскрывать метки отдельных экземпляров<ref>Quadrianto N., Smola A. J., Caetano T. S., Le Q. V. Estimating labels from label proportions // ICML. – 2008.</ref>. == Методы обучения со слабым контролем == === Генеративные модели агрегации меток === Ключевым этапом в программной разметке является вывод вероятностных меток <tex>\hat{y}_i</tex> из зашумлённых голосов <tex>\Lambda_i</tex>. В подходе Data Programming строится [[генеративная модель]] вида <tex>P(y, \Lambda) \propto \prod_{j=1}^n \phi_j(\lambda_j, y),</tex> где фактор-потенциалы <tex>\phi_j</tex> параметризуют точность каждой функции разметки (например, <tex>\phi_j(\lambda_j, y) = \exp(\theta_j \mathbf{1}[\lambda_j = y])</tex>). Параметры <tex>\theta_j</tex> оцениваются методом максимального правдоподобия без знания истинных меток с помощью [[EM-алгоритм|EM-алгоритма]] или его приближений<ref>Ratner A., De Sa C., Wu S., Selsam D., Ré C. Data programming: Creating large training sets, quickly // NeurIPS. – 2016.</ref>. После оценки распределения вычисляются вероятности <tex>\hat{y}_i = P(y=1 \mid \Lambda_i) \in [0,1],</tex> которые затем используются как мягкие метки для обучения дискриминативной модели <tex>f_\theta</tex> с [[кросс-энтропия|кросс-энтропийной]] функцией потерь: <tex>\mathcal{L}(\theta) = -\sum_{i=1}^N \bigl( \hat{y}_i \log f_\theta(x_i) + (1-\hat{y}_i)\log(1-f_\theta(x_i)) \bigr).</tex> Современные расширения, такие как FlyingSquid, используют структурированные факторные графы и позволяют работать с многомерными метками и зависимостями между LFs. === Робастные функции потерь и коррекция ошибок === Для борьбы с зашумлёнными метками применяют два основных семейства методов. Первое — использование робастных к шуму функций потерь. Например, средняя абсолютная ошибка (MAE) и обобщённая кросс-энтропия (Generalized Cross-Entropy) демонстрируют устойчивость при высоком уровне шума<ref>Zhang Z., Sabuncu M. R. Generalized cross entropy loss for training deep neural networks with noisy labels // NeurIPS. – 2018.</ref>. Второе — коррекция потерь с помощью оценки матрицы переходов <tex>T</tex>. При прямой коррекции (forward correction) модифицированная потеря имеет вид <tex>\ell^\rightarrow(f_\theta(x), \tilde{y}) = \sum_{y \in \mathcal{Y}} T_{y,\tilde{y}} \, \ell(f_\theta(x), y).</tex> Матрица <tex>T</tex> может быть оценена на отдельном достоверном наборе данных или адаптивно в процессе обучения. === Отбор и перевзвешивание примеров === Подходы, основанные на гипотезе ''small-loss'', предполагают, что на ранних этапах обучения [[нейронная сеть]] лучше запоминает чистые примеры, а затем начинает подстраиваться под шум. Метод '''Co-teaching'''<ref>Han B., Yao Q., Yu X., Niu G., Xu M., Hu W., Tsang I. W., Sugiyama M. Co-teaching: Robust training of deep neural networks with extremely noisy labels // NeurIPS. – 2018.</ref> поддерживает две сети, каждая из которых отбирает долю <tex>R(T)</tex> примеров с наименьшей потерей из текущего мини-батча и передаёт их своему напарнику для обновления весов. Процедура снижает риск закрепления ошибок. Альтернативный подход '''MentorNet'''<ref>Jiang L., Zhou Z., Leung T., Li L.-J., Fei-Fei L. MentorNet: Learning data-driven curriculum for very deep neural networks // ICML. – 2018.</ref> обучает дополнительную сеть-ментора, которая назначает веса примерам, тем самым реализуя динамическое перевзвешивание. === Мета-обучение === Методы мета-обучения используют небольшой чистый валидационный набор <tex>\mathcal{D}_{clean}</tex> для адаптации обучения на зашумлённой выборке. В частности, '''Meta-Weight-Net'''<ref>Shu J., Xie Q., Yi L., Zhao Q., Zhou S., Xu Z., Meng D. Meta-Weight-Net: Learning an explicit mapping for sample weighting // NeurIPS. – 2019.</ref> параметризует веса примеров через многослойный перцептрон с входом — значением потерь, и мета-обучает его так, чтобы модель, оптимизированная с этими весами, минимизировала ошибку на <tex>\mathcal{D}_{clean}</tex>. Это позволяет автоматически подавлять вклад предположительно некорректных меток. == Применения == Обучение со слабым контролем широко востребовано в задачах, где получение точной разметки чрезмерно дорого или практически невозможно: * '''Компьютерное зрение''': [[детекция объектов]] по слабым меткам на уровне изображения (есть объект/нет объекта), семантическая сегментация по тегам. * '''Обработка естественного языка''': извлечение отношений и типизация сущностей с помощью distant supervision, где эвристики порождают зашумлённые метки на основе знаний из баз данных. * '''Медицинская диагностика''': агрегирование диагнозов нескольких врачей с разной квалификацией и разрешение межэкспертной вариативности. * '''Анализ временных рядов и аудио''': разметка событий по глобальным меткам или пропорциям. == Литература == <references />

• Шаблон:Mbox
• Шаблон:Well

Возврат к странице Обучение со слабым контролем.