Многозадачное обучение

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(→Математическая постановка задачи)
Строка 12: Строка 12:
== Математическая постановка задачи ==
== Математическая постановка задачи ==
-
/Users/user/Downloads/Multi-task-Learning-based-Neural-Network-MTL-NN-model-for-training-multiple-related_fig1_335692542.html
 
Пусть задано множество из <tex>T</tex> связанных задач машинного обучения, проиндексированных как <tex>t \in \{1, \dots, T\}</tex>. Для каждой задачи <tex>t</tex> доступна обучающая выборка <tex>D_t = \{(x_{i}^t, y_{i}^t)\}_{i=1}^{N_t}</tex>, где <tex>N_t</tex> — объем выборки для задачи <tex>t</tex>. Пространство входных признаков <tex>\mathcal{X}</tex> зачастую предполагается общим для всех задач (хотя существуют постановки с асимметричными признаковыми пространствами), в то время как пространства ответов <tex>\mathcal{Y}_t</tex> могут существенно различаться в зависимости от типа решаемой задачи (например, <tex>\mathcal{Y}_1 = \{0, 1\}</tex> для бинарной классификации и <tex>\mathcal{Y}_2 = \mathbb{R}</tex> для регрессии).
Пусть задано множество из <tex>T</tex> связанных задач машинного обучения, проиндексированных как <tex>t \in \{1, \dots, T\}</tex>. Для каждой задачи <tex>t</tex> доступна обучающая выборка <tex>D_t = \{(x_{i}^t, y_{i}^t)\}_{i=1}^{N_t}</tex>, где <tex>N_t</tex> — объем выборки для задачи <tex>t</tex>. Пространство входных признаков <tex>\mathcal{X}</tex> зачастую предполагается общим для всех задач (хотя существуют постановки с асимметричными признаковыми пространствами), в то время как пространства ответов <tex>\mathcal{Y}_t</tex> могут существенно различаться в зависимости от типа решаемой задачи (например, <tex>\mathcal{Y}_1 = \{0, 1\}</tex> для бинарной классификации и <tex>\mathcal{Y}_2 = \mathbb{R}</tex> для регрессии).

Версия 11:07, 16 июля 2026

Содержание

Статья написана с использованием LLM и проверена участником Dmitrii Vishovan 15:01, 16 июля 2026 (MSD)


Введение и определение

Многозадачное обучение (англ. Multi-Task Learning, MTL) — это парадигма машинного обучения, при которой одна модель обучается решать несколько связанных задач одновременно, используя общее представление данных (shared representation).

В классическом машинном обучении (Single-Task Learning) для каждой задачи строится отдельная независимая модель. В MTL модель оптимизирует единую функцию потерь, объединяющую ошибки всех задач. Цель многозадачного обучения состоит в том, чтобы улучшить обобщающую способность модели и качество предсказаний для каждой отдельной задачи за счет знаний, извлеченных из других задач.

Интуитивно: Когда человек учится управлять мотоциклом, ему сильно помогает тот факт, что он уже умеет держать равновесие на велосипеде и знает правила дорожного движения из опыта вождения автомобиля. Разные, но связанные навыки усиливают друг друга. В машинном обучении, если мы учим нейросеть предсказывать возраст человека по фотографии, параллельное обучение её предсказывать пол и эмоции заставит сеть лучше выделять ключевые черты лица (глаза, морщины, текстуру кожи), что повысит точность предсказания возраста.


Математическая постановка задачи

Пусть задано множество из T связанных задач машинного обучения, проиндексированных как t \in \{1, \dots, T\}. Для каждой задачи t доступна обучающая выборка D_t = \{(x_{i}^t, y_{i}^t)\}_{i=1}^{N_t}, где N_t — объем выборки для задачи t. Пространство входных признаков \mathcal{X} зачастую предполагается общим для всех задач (хотя существуют постановки с асимметричными признаковыми пространствами), в то время как пространства ответов \mathcal{Y}_t могут существенно различаться в зависимости от типа решаемой задачи (например, \mathcal{Y}_1 = \{0, 1\} для бинарной классификации и \mathcal{Y}_2 = \mathbb{R} для регрессии).

Модель многозадачного обучения формализуется как семейство функций f_t: \mathcal{X} \to \mathcal{Y}_t, параметризованных вектором (или тензором) весов \Theta. Вектор параметров структурно декомпозируется на общую и специфичные компоненты:

\Theta = \Theta_{sh} \cup \{\Theta_1, \dots, \Theta_T\}.

Математически процесс вывода (инференса) для конкретной задачи t можно представить как суперпозицию двух отображений:

\hat{y}^t = f_t(x; \Theta) = h_t(g(x; \Theta_{sh}); \Theta_t),

где:

  • g(\cdot; \Theta_{sh}): \mathcal{X} \to \mathbb{R}^d — функция извлечения универсальных признаков (shared representation), переводящая исходный объект в d-мерное латентное пространство.
  • h_t(\cdot; \Theta_t): \mathbb{R}^d \to \mathcal{Y}_t — функция-предиктор («голова» задачи), которая формирует итоговое предсказание на основе извлеченных скрытых признаков.

Минимизация совместного эмпирического риска

В рамках парадигмы минимизации эмпирического риска (ERM), обучение модели сводится к поиску оптимальных параметров \hat{\Theta}, минимизирующих глобальный функционал качества. Этот функционал представляет собой выпуклую комбинацию эмпирических рисков отдельных задач с добавлением регуляризационного члена:

\mathcal{L}_{total}(\Theta) = \sum_{t=1}^T w_t \mathcal{L}_t(f_t(X^t; \Theta), Y^t) + \lambda \mathcal{R}(\Theta) \to \min_{\Theta}

где:

  • \mathcal{L}_t — дифференцируемая функция потерь для задачи t (например, кросс-энтропия для классификации или среднеквадратичная ошибка для регрессии);
  • w_t \ge 0 — весовые коэффициенты, определяющие относительную значимость задачи t в процессе оптимизации. В современных архитектурах w_t могут быть не просто константами, а обучаемыми параметрами, динамически адаптирующимися в процессе градиентного спуска (адаптивное взвешивание).
  • \mathcal{R}(\Theta) — член регуляризации, накладывающий структурные ограничения на веса модели. В контексте MTL часто используются специализированные матричные нормы (например, ядерная норма или групповое LASSO / L_{2,1}-норма) для принудительного отбора признаков, полезных сразу для нескольких задач.
  • \lambda — гиперпараметр, контролирующий силу регуляризации.

Базовые архитектуры MTL в глубоком обучении

Архитектуры многозадачного обучения традиционно делятся на два класса в зависимости от способа распределения параметров:

Жесткое разделение параметров (Hard Parameter Sharing)

Это самый популярный и простой подход. В нем скрытые слои нейросети (feature extractors) являются общими для всех задач ($\Theta_{sh}$), а на вершине сети формируются независимые «головы» (heads) для каждой задачи ($\Theta_t$).

  • Преимущества: Кардинально снижает риск переобучения. Чем больше задач мы решаем одновременно, тем сложнее модели запомнить шум в данных для одной конкретной задачи. Также требует меньше памяти и вычислительных ресурсов при инференсе.
  • Недостатки: Эффективен только если задачи сильно коррелируют. Если задачи конфликтуют, качество модели падает (эффект Negative Transfer).

Мягкое разделение параметров (Soft Parameter Sharing)

В этом подходе каждая задача имеет свою собственную независимую нейронную сеть. Однако скрытые слои разных сетей обмениваются информацией. Расстояние между параметрами разных моделей регуляризуется (например, через $L_2$-норму), либо используются механизмы внимания для смешивания признаков (например, архитектура Cross-Stitch Networks).

  • Преимущества: Более гибкий подход, позволяющий избежать интерференции при слабой связи задач.
  • Недостатки: Резкое увеличение количества параметров и вычислительной сложности.

Продвинутые архитектуры: MMoE

Для решения проблемы конфликтующих задач (когда улучшение одной задачи ведет к деградации другой) в 2018 году исследователи из Google предложили архитектуру MMoE (Multi-gate Mixture-of-Experts).

Она адаптирует концепцию Mixture-of-Experts (MoE) для многозадачного обучения. Вместо одного общего "ствола" (как в Hard Sharing), модель использует несколько параллельных подсетей — «экспертов». Для каждой конкретной задачи $t$ обучается свой шлюз (Gate) — легковесная сеть, которая с помощью функции Softmax решает, выход какого из экспертов наиболее полезен для текущей задачи. $$ f_t(x) = \sum_{i=1}^E g_{t,i}(x) \cdot expert_i(x) $$ MMoE стала индустриальным стандартом в рекомендательных системах для одновременного предсказания кликабельности (CTR) и вероятности конверсии (CVR).

Проблемы MTL и методы их решения

Главный вызов в MTL — это явление Negative Transfer (Отрицательный перенос). Оно возникает, когда задачи противоречат друг другу, и градиенты, приходящие от их функций потерь, указывают в разные стороны (происходит градиентная интерференция).

Для борьбы с этим используются продвинутые методы балансировки функций потерь (подбор весов $w_t$):

  1. Устранение неопределенности (Uncertainty Weighting): Предложен в работе Kendall et al. (2018). Метод оценивает гомоскедастичную (зависящую от задачи) неопределенность и динамически снижает вес $w_t$ для задач с высоким уровнем шума, позволяя модели сфокусироваться на более "чистых" задачах.
  2. GradNorm: Алгоритм динамически настраивает веса функций потерь так, чтобы нормы градиентов от всех задач были примерно равны. Это не дает задаче с крутыми градиентами доминировать над остальными.
  3. PCGrad (Projecting Conflicting Gradients): Метод изменяет сами векторы градиентов. Если градиенты двух задач направлены в противоположные стороны (угол между ними больше 90 градусов), алгоритм проецирует градиент одной задачи на нормаль к градиенту другой, устраняя конфликт.

Почему MTL работает? (Теоретическое обоснование)

В своей классической работе 1997 года Рич Каруана (Rich Caruana) выделил несколько механизмов, благодаря которым MTL превосходит однозадачное обучение:

  • Неявная аугментация данных: Каждая задача приносит дополнительный шум и паттерны, действуя как эффективный регуляризатор.
  • Фокусировка внимания (Attention Focusing): Если признаки сильно зашумлены, модели сложно понять, на что обращать внимание. Дополнительные задачи обеспечивают дополнительный "сигнал" для правильного отбора признаков.
  • Подслушивание (Eavesdropping): Признак G может быть легко выучен через задачу A, но трудно через задачу B. Обучая их вместе, задача B может "подслушать" и использовать признак G.

Применение в индустрии

  • Обработка естественного языка (NLP): Флагманская модель BERT обучается в режиме MTL. Она одновременно решает задачу предсказания пропущенного слова (Masked Language Modeling) и задачу бинарной классификации — является ли следующее предложение логическим продолжением предыдущего (Next Sentence Prediction).
  • Компьютерное зрение (CV): Модели семейства Mask R-CNN параллельно решают задачи предсказания рамок объектов (Bounding Box Regression), классификации объекта внутри рамки и попиксельной сегментации маски.
  • Рекомендательные системы: Практически любая крупная лента (VK, YouTube, Дзен) использует MTL для одновременного предсказания вероятности клика (Click), лайка (Like), комментария и глубины просмотра (Watch Time).

Литература

  • Caruana R. Multitask learning // Machine Learning. — 1997. — Т. 28. — С. 41–75.
  • Ruder S. An Overview of Multi-Task Learning in Deep Neural Networks // arXiv preprint arXiv:1706.05098. — 2017.
  • Ma C. et al. Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts // Proceedings of the 24th ACM SIGKDD. — 2018.
  • Kendall A., Gal Y., Cipolla R. Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics // CVPR. — 2018.

См. также

Источник — «http://poligon.machinelearning.ru/wiki/index.php?title=%D0%9C%D0%BD%D0%BE%D0%B3%D0%BE%D0%B7%D0%B0%D0%B4%D0%B0%D1%87%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5»
Личные инструменты