Downstream task

Материал из MachineLearning.

Целевая задача ( 'Downstream task' ) — в машинном обучении и анализе данных это конкретная прикладная проблема, для решения которой строится, адаптируется или применяется модель. В классической постановке обучения с учителем целевая задача является основной и единственной: модель обучается непосредственно на размеченных данных для этой задачи. Однако в контексте трансферного обучения и самообучаемого обучения термин приобретает особое значение: целевой задачей называют ту прикладную проблему, для которой адаптируется модель, предварительно обученная на другой (исходной) задаче ^[1].

Целевая задача является конечной целью всего процесса машинного обучения, определяя выбор архитектуры, функции потерь, метрик оценки и стратегии переноса знаний. Понимание природы целевой задачи критически важно для успешного применения методов трансферного обучения и избежания отрицательного переноса ^[1].

Содержание

1 Терминология и базовые понятия
2 Исторический контекст
3 Математическая постановка
4 Классификация целевых задач
- 4.1 По типу обучения
- 4.2 По области применения
5 Целевая задача в трансферном обучении
6 Выбор и оценка качества
- 6.1 Критерии выбора исходной задачи
- 6.2 Метрики оценки качества
7 Применения
8 Ограничения и открытые вопросы
9 Практические рекомендации
10 См. также
11 Примечания
12 Литература
13 Ссылки

Терминология и базовые понятия

В контексте машинного обучения под целевой задачей (downstream task) понимается прикладная проблема, которая решается с использованием результатов предыдущих этапов обработки данных или обучения модели. Это понятие тесно связано с рядом фундаментальных терминов:

Целевая зависимость (target function) — неизвестная функция $y: \mathcal{X} \to \mathcal{Y}$ , которую модель стремится аппроксимировать. В задачах классификации это правило отнесения объектов к классам; в регрессии — функциональная связь между признаками и откликом.
Обучение с учителем — парадигма, в которой модель обучается на размеченных примерах $(x_i, y_i)$ , стремясь восстановить целевую зависимость.
Трансферное обучение — подход, при котором знания, полученные при решении одной (исходной) задачи, используются для улучшения обучения на другой (целевой) задаче ^[1].

Важно различать целевую задачу в классическом смысле (задача, для которой непосредственно обучается модель) и целевую задачу в контексте трансферного обучения (задача, для которой адаптируется предобученная модель). Во втором случае целевая задача часто имеет ограниченный объём размеченных данных, и именно это оправдывает использование предобучения ^[1].

Исторический контекст

Понятие целевой задачи эволюционировало вместе с развитием машинного обучения. В классической постановке, восходящей к работам В. Н. Вапника и А. Я. Червоненкиса, целевая задача формулировалась как задача минимизации эмпирического риска на фиксированном наборе данных. Модель обучалась и применялась в рамках одной и той же задачи, и понятие "целевой" было избыточным — задача была единственной.

С развитием трансферного обучения ^[1] и появлением больших предобученных моделей (таких как BERT, GPT, ResNet) понятие целевой задачи приобрело новое измерение. Теперь модель сначала обучается на исходной задаче (source task), часто на огромных объёмах неразмеченных или слаборазмеченных данных, а затем адаптируется к целевой задаче — конкретной прикладной проблеме, для которой размеченных данных может быть значительно меньше ^[1]. Этот двухэтапный подход стал доминирующим в компьютерном зрении и обработке естественного языка, позволив достичь прорывных результатов на задачах с ограниченной разметкой.

Математическая постановка

Классическая задача обучения с учителем

Пусть дано:

$\mathcal{X}$ — пространство объектов (признаковое пространство);
$\mathcal{Y}$ — пространство ответов (меток);
неизвестная целевая зависимость $y: \mathcal{X} \to \mathcal{Y}$ ;
обучающая выборка $X^l = (x_i, y_i)_{i=1}^l$ , где $x_i \in \mathcal{X}$ , $y_i \in \mathcal{Y}$ , сгенерированная согласно неизвестному совместному распределению $P(X, Y)$ ;
алгоритм (модель) $a: \mathcal{X} \to \mathcal{Y}$ из некоторого параметрического семейства $\mathcal{A} = \{a_\theta: \theta \in \Theta\}$ ;
функция потерь $\mathcal{L}(a(x), y)$ , оценивающая ошибку предсказания.

Задача обучения с учителем формулируется как минимизация эмпирического риска:

$\hat{\theta} = \arg\min_{\theta \in \Theta} \frac{1}{l} \sum_{i=1}^{l} \mathcal{L}(a_\theta(x_i), y_i)$

В идеале мы стремимся минимизировать ожидаемый риск (expected risk):

$R(a) = \mathbb{E}_{(x,y) \sim P}[\mathcal{L}(a(x), y)]$

Однако, поскольку распределение $P$ неизвестно, мы используем эмпирический риск как его оценку. Здесь целевая задача полностью определяется выборкой $X^l$ и функцией потерь $\mathcal{L}$ .

Целевая задача в трансферном обучении

В контексте трансферного обучения формально различают исходную и целевую задачи ^[1]:

Исходная задача $\mathcal{T}_s$ состоит из:

   * пространства объектов ;
   * пространства ответов ;
   * совместного распределения ;
   * доступной размеченной выборки .

Целевая задача $\mathcal{T}_t$ состоит из:

   * пространства объектов ;
   * пространства ответов ;
   * совместного распределения ;
   * (часто) ограниченной размеченной выборки , где .

Цель трансферного обучения — использовать знания из $\mathcal{T}_s$ и $D_s$ для улучшения обобщающей способности модели на целевой задаче $\mathcal{T}_t$ ^[1]. Формально:

$\hat{\theta}_t = \arg\min_{\theta \in \Theta} \left[ \frac{1}{n_t} \sum_{i=1}^{n_t} \mathcal{L}(a_\theta(x_i^t), y_i^t) + \lambda \cdot \mathcal{R}(\theta, \theta_s) \right]$

где $\theta_s$ — параметры модели, обученной на исходной задаче, а $\mathcal{R}$ — регуляризационный член, штрафующий отклонение от $\theta_s$ (например, при тонкой настройке). При извлечении признаков параметры $\theta_s$ фиксируются, и обучается только классификационная "голова" поверх предобученных представлений.

Этапы переноса

Процесс решения целевой задачи в трансферном обучении включает два этапа:

1. Предобучение на исходной задаче (source pre-training):

2. Адаптация к целевой задаче (target adaptation):

  * либо через тонкую настройку (fine-tuning): , инициализируя ;
  * либо через извлечение признаков (feature extraction): , где  — предобученный энкодер, а  — параметры классификатора.

Классификация целевых задач

Целевые задачи машинного обучения можно классифицировать по типу решаемой проблемы и по характеру выходных данных.

По типу обучения

Классификация — отнесение объекта к одному из дискретных классов. Пример: распознавание рукописных цифр, определение спама в письмах.
Регрессия — предсказание непрерывного значения. Пример: прогноз цены недвижимости, предсказание температуры.
Кластеризация — группировка объектов по схожести без использования меток. Пример: сегментация клиентов.
Обнаружение аномалий — выявление объектов, сильно отличающихся от основной массы. Пример: обнаружение мошеннических транзакций.
Ранжирование — упорядочивание объектов по релевантности. Пример: выдача результатов поисковой системы.
Генерация — создание новых объектов, распределённых как обучающие данные. Пример: генерация изображений, текстов.

По области применения

Компьютерное зрение:

   * Классификация изображений (ImageNet classification)
   * Обнаружение объектов (object detection) — локализация и классификация объектов на изображении
   * Сегментация изображений (semantic/instance segmentation) — попиксельная классификация
   * Распознавание лиц (face recognition)
   * Оценка позы (pose estimation)

Обработка естественного языка (NLP) ^[1]:

   * Анализ тональности (sentiment analysis)
   * Именованная сущность (NER, named entity recognition)
   * Вопросно-ответные системы (question answering, QA)
   * Суммаризация текста (text summarization)
   * Машинный перевод (machine translation)

Мультимодальное обучение: задачи, требующие совместной обработки данных разных модальностей (текст + изображение, аудио + видео). Примеры: визуальное вопрошание (VQA), генерация изображений по текстовому описанию.

Целевая задача в трансферном обучении

В трансферном обучении целевая задача является центральным понятием, определяющим стратегию переноса знаний. Выделяют несколько ключевых стратегий:

Извлечение признаков (Feature Extraction)

Предобученная модель используется как фиксированный экстрактор признаков. Слой (или несколько слоёв) перед классификатором выдаёт вектор признаков $z = f_{\theta_s}(x)$ , который затем подаётся на вход классификатору, обучаемому на целевой задаче ^[1]. Этот подход требует минимальных вычислительных затрат на адаптацию и эффективен, когда целевая задача близка к исходной по структуре данных.

Тонкая настройка (Fine-Tuning)

Все (или часть) параметров предобученной модели дообучаются на целевой задаче ^[1]. Обычно используется малая скорость обучения, чтобы не разрушить полезные представления, выученные на исходной задаче. Этот подход даёт более высокую точность, но требует больше вычислительных ресурсов и размеченных данных целевой задачи.

Промежуточное обучение (Intermediate-Task Transfer)

Стратегия, при которой модель сначала обучается на одной или нескольких "промежуточных" задачах, а затем переносится на целевую ^[1]. Например, перед решением задачи анализа тональности модель может быть дообучена на задаче определения части речи или синтаксического разбора. Выбор промежуточной задачи критически влияет на итоговое качество.

Отрицательный перенос

Отрицательный перенос (negative transfer) — ситуация, когда использование знаний из исходной задачи ухудшает качество решения целевой задачи по сравнению с обучением "с нуля" ^[1]. Формально отрицательный перенос определяется как:

$R_{P_t}(A(\mathcal{S}, \mathcal{T})) > R_{P_t}(A(\emptyset, \mathcal{T}))$

где $R_{P_t}$ — ожидаемый риск на целевой задаче, $A(\mathcal{S}, \mathcal{T})$ — алгоритм, использующий исходные данные, а $A(\emptyset, \mathcal{T})$ — тот же алгоритм, но без использования исходных данных ^[1].

Основные причины отрицательного переноса:

недостаточное сходство между исходной и целевой задачами;
несбалансированность данных в исходной задаче;
неправильно выбранная стратегия адаптации.

Катастрофическое забывание

Катастрофическое забывание (catastrophic forgetting) — явление, при котором модель, дообучаясь на целевой задаче, резко теряет способность решать исходную задачу. Это особенно актуально при последовательном обучении (continual learning) ^[1]. Методы борьбы включают регуляризацию (EWC), использование буфера данных исходной задачи и архитектурные подходы (например, добавление новых слоёв вместо изменения старых).

Выбор и оценка качества

Критерии выбора исходной задачи

Выбор подходящей исходной задачи критически важен для успешного переноса на целевую задачу. Основные критерии ^[1]:

1. Сходство доменов — близость распределений $P_s(X)$ и $P_t(X)$ . Чем ближе данные по своей природе, тем эффективнее перенос. 2. Сходство задач — близость целевых зависимостей $P_s(Y|X)$ и $P_t(Y|X)$ . 3. Размер данных исходной задачи — чем больше размеченных данных, тем лучше обобщающая способность предобученной модели. 4. Сложность исходной задачи — слишком простая задача не даст полезных представлений; слишком сложная — может привести к переобучению.

Современные методы автоматического выбора исходной задачи используют эмбеддинги задач (task embeddings) — компактные векторные представления задач, позволяющие измерять их сходство и предсказывать эффективность переноса ^[1].

Метрики оценки качества

Выбор метрики зависит от типа целевой задачи:

Классификация:

   * Accuracy — доля правильных ответов;
   * Precision, Recall, F1 — для несбалансированных классов;
   * AUC-ROC — площадь под ROC-кривой.

Регрессия:

   * MSE (Mean Squared Error) — среднеквадратичная ошибка;
   * MAE (Mean Absolute Error) — средняя абсолютная ошибка;
   * R² — коэффициент детерминации.

Ранжирование:

   * NDCG (Normalized Discounted Cumulative Gain);
   * MAP (Mean Average Precision).

Применения

Целевые задачи в машинном обучении охватывают практически все сферы человеческой деятельности:

Компьютерное зрение: классификация и детекция объектов в автономных автомобилях, медицинская диагностика по снимкам, система распознавания лиц в системах безопасности.
Обработка естественного языка: анализ тональности отзывов, автоматическая суммаризация новостей, чат-боты и виртуальные ассистенты, машинный перевод.
Рекомендательные системы: персонализированные рекомендации товаров, фильмов, музыки на основе истории пользователя.
Медицина: прогнозирование заболеваний по электронным медицинским записям, анализ геномных данных.
Финансы: кредитный скоринг, обнаружение мошеннических операций, прогнозирование временных рядов.
Робототехника: навигация, распознавание объектов, планирование движений.

Ограничения и открытые вопросы

Несмотря на впечатляющие успехи, решение целевых задач в парадигме трансферного обучения сталкивается с рядом ограничений:

1. Чувствительность к выбору исходной задачи. Неудачный выбор может привести к отрицательному переносу ^[1].

2. Необходимость сходства доменов. При значительном расхождении распределений данных перенос становится неэффективным.

3. Вычислительные затраты. Тонкая настройка больших моделей (например, LLM с сотнями миллиардов параметров) требует значительных ресурсов, хотя методы PEFT частично решают эту проблему.

4. Отсутствие универсального критерия выбора задачи. Хотя существуют методы оценки переносимости ^[1], единой теоретической основы для предсказания успеха трансфера пока нет.

5. Катастрофическое забывание при последовательном обучении на нескольких целевых задачах ^[1].

Практические рекомендации

1. Чётко формулируйте целевую задачу: определите пространство объектов, тип выхода (классы, непрерывные значения, ранжирование) и функцию потерь.

2. Выбирайте исходную задачу осмысленно: предпочтение следует отдавать задачам из близкого домена и сходной структуры. Используйте современные методы оценки переносимости ^[1].

3. Оценивайте качество адекватными метриками: для несбалансированных задач не полагайтесь только на accuracy, используйте F1, Precision/Recall.

4. Используйте стратегии адаптации с умом: для малых целевых выборок предпочтительнее извлечение признаков; для больших — тонкая настройка.

5. Обрабатывайте несбалансированные данные: применяйте методы аугментации, взвешивания классов или специализированные функции потерь (Focal Loss).

6. Проверяйте наличие отрицательного переноса: сравнивайте качество модели с и без использования исходных данных ^[1].

См. также

Примечания

Литература

Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345-1359.
Wang, Z., Dai, Z., Póczos, B., & Carbonell, J. (2019). Characterizing and Avoiding Negative Transfer. arXiv:1811.09751.
Baeldung. (2025). What Are Downstream Tasks? Computer Science.
"Model Validation and Uncertainty Quantification, Volume 3." (2025). River Publishers. (Определение домена и задачи в контексте трансферного обучения).
Ruder, S., et al. (2019). Transfer Learning in Natural Language Processing. NAACL Tutorial.
Vu, T., et al. (2020). Exploring and Predicting Transferability across NLP Tasks. EMNLP.
Phang, J., et al. (2019). Intermediate-Task Transfer Learning with Pretrained Language Models. arXiv:1905.08249.
Alet, F., et al. (2021). Task Embeddings for Few-Shot Classification. ICLR.
"Efficiently Tuned Parameters Are Task Embeddings." (2022). EMNLP.
Wu, J., & He, J. (2022). A Unified Meta-Learning Framework for Dynamic Transfer Learning. arXiv:2207.01784.
Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press. (Глава по трансферному обучению).
Vapnik, V. N. (1998). Statistical Learning Theory. Wiley.

Ссылки

Источник — «http://poligon.machinelearning.ru/wiki/index.php?title=Downstream_task»

Категории: Машинное обучение | Трансферное обучение | Обучение с учителем | Анализ данных

Downstream task

Материал из MachineLearning.

Содержание

Терминология и базовые понятия

Исторический контекст

Математическая постановка

Классическая задача обучения с учителем

Целевая задача в трансферном обучении

Этапы переноса

Классификация целевых задач

По типу обучения

По области применения

Целевая задача в трансферном обучении

Извлечение признаков (Feature Extraction)

Тонкая настройка (Fine-Tuning)

Промежуточное обучение (Intermediate-Task Transfer)

Отрицательный перенос

Катастрофическое забывание

Выбор и оценка качества

Критерии выбора исходной задачи

Метрики оценки качества

Применения

Ограничения и открытые вопросы

Практические рекомендации

См. также

Примечания

Литература

Ссылки

Просмотры

Личные инструменты

Навигация

Поиск

Инструменты