Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

'''Целевая задача''' ( 'Downstream task' ) — в [[машинное обучение|машинном обучении]] и [[анализ данных|анализе данных]] это конкретная прикладная проблема, для решения которой строится, адаптируется или применяется модель. В классической постановке [[обучение с учителем|обучения с учителем]] целевая задача является основной и единственной: модель обучается непосредственно на размеченных данных для этой задачи. Однако в контексте [[трансферное обучение|трансферного обучения]] и [[самообучаемое обучение|самообучаемого обучения]] термин приобретает особое значение: целевой задачей называют ту прикладную проблему, для которой адаптируется модель, предварительно обученная на другой (исходной) задаче <ref name="baeldung_downstream">Baeldung. "What Are Downstream Tasks?" Computer Science, 2025.</ref>. Целевая задача является конечной целью всего процесса машинного обучения, определяя выбор [[архитектура нейронной сети|архитектуры]], функции потерь, метрик оценки и стратегии переноса знаний. Понимание природы целевой задачи критически важно для успешного применения методов трансферного обучения и избежания [[отрицательный перенос|отрицательного переноса]] <ref name="wang_neg_transfer">Wang, Z., et al. "Characterizing and Avoiding Negative Transfer." arXiv:1811.09751, 2019.</ref>. == Терминология и базовые понятия == В контексте машинного обучения под '''целевой задачей''' (''downstream task'') понимается прикладная проблема, которая решается с использованием результатов предыдущих этапов обработки данных или обучения модели. Это понятие тесно связано с рядом фундаментальных терминов: * '''[[Целевая зависимость]]''' (''target function'') — неизвестная функция <tex>y: \mathcal{X} \to \mathcal{Y}</tex>, которую модель стремится аппроксимировать. В задачах классификации это правило отнесения объектов к классам; в регрессии — функциональная связь между признаками и откликом. * '''[[Обучение с учителем]]''' — парадигма, в которой модель обучается на размеченных примерах <tex>(x_i, y_i)</tex>, стремясь восстановить целевую зависимость. * '''[[Трансферное обучение]]''' — подход, при котором знания, полученные при решении одной (исходной) задачи, используются для улучшения обучения на другой (целевой) задаче <ref name="domain_def">"Model Validation and Uncertainty Quantification, Volume 3." River Publishers, 2025. Определение домена и задачи.</ref>. Важно различать целевую задачу в классическом смысле (задача, для которой непосредственно обучается модель) и целевую задачу в контексте трансферного обучения (задача, для которой адаптируется предобученная модель). Во втором случае целевая задача часто имеет ограниченный объём размеченных данных, и именно это оправдывает использование предобучения <ref name="wang_neg_transfer"/>. == Исторический контекст == Понятие целевой задачи эволюционировало вместе с развитием машинного обучения. В классической постановке, восходящей к работам В. Н. Вапника и А. Я. Червоненкиса, целевая задача формулировалась как задача минимизации [[эмпирический риск|эмпирического риска]] на фиксированном наборе данных. Модель обучалась и применялась в рамках одной и той же задачи, и понятие "целевой" было избыточным — задача была единственной. С развитием [[трансферное обучение|трансферного обучения]] <ref name="domain_def"/> и появлением больших предобученных моделей (таких как [[BERT]], [[GPT]], [[ResNet]]) понятие целевой задачи приобрело новое измерение. Теперь модель сначала обучается на '''исходной задаче''' (''source task''), часто на огромных объёмах неразмеченных или слаборазмеченных данных, а затем адаптируется к '''целевой задаче''' — конкретной прикладной проблеме, для которой размеченных данных может быть значительно меньше <ref name="baeldung_downstream"/>. Этот двухэтапный подход стал доминирующим в [[компьютерное зрение|компьютерном зрении]] и [[обработка естественного языка|обработке естественного языка]], позволив достичь прорывных результатов на задачах с ограниченной разметкой. == Математическая постановка == === Классическая задача обучения с учителем === Пусть дано: * <tex>\mathcal{X}</tex> — пространство объектов (признаковое пространство); * <tex>\mathcal{Y}</tex> — пространство ответов (меток); * неизвестная целевая зависимость <tex>y: \mathcal{X} \to \mathcal{Y}</tex>; * обучающая выборка <tex>X^l = (x_i, y_i)_{i=1}^l</tex>, где <tex>x_i \in \mathcal{X}</tex>, <tex>y_i \in \mathcal{Y}</tex>, сгенерированная согласно неизвестному совместному распределению <tex>P(X, Y)</tex>; * алгоритм (модель) <tex>a: \mathcal{X} \to \mathcal{Y}</tex> из некоторого параметрического семейства <tex>\mathcal{A} = \{a_\theta: \theta \in \Theta\}</tex>; * функция потерь <tex>\mathcal{L}(a(x), y)</tex>, оценивающая ошибку предсказания. Задача обучения с учителем формулируется как минимизация [[эмпирический риск|эмпирического риска]]: <tex> \hat{\theta} = \arg\min_{\theta \in \Theta} \frac{1}{l} \sum_{i=1}^{l} \mathcal{L}(a_\theta(x_i), y_i) </tex> В идеале мы стремимся минимизировать ожидаемый риск (''expected risk''): <tex> R(a) = \mathbb{E}_{(x,y) \sim P}[\mathcal{L}(a(x), y)] </tex> Однако, поскольку распределение <tex>P</tex> неизвестно, мы используем эмпирический риск как его оценку. Здесь целевая задача полностью определяется выборкой <tex>X^l</tex> и функцией потерь <tex>\mathcal{L}</tex>. === Целевая задача в трансферном обучении === В контексте трансферного обучения формально различают исходную и целевую задачи <ref name="domain_def"/>: * '''Исходная задача''' <tex>\mathcal{T}_s</tex> состоит из: * пространства объектов <tex>\mathcal{X}_s</tex>; * пространства ответов <tex>\mathcal{Y}_s</tex>; * совместного распределения <tex>P_s(X, Y)</tex>; * доступной размеченной выборки <tex>D_s = \{(x_i^s, y_i^s)\}_{i=1}^{n_s}</tex>. * '''Целевая задача''' <tex>\mathcal{T}_t</tex> состоит из: * пространства объектов <tex>\mathcal{X}_t</tex>; * пространства ответов <tex>\mathcal{Y}_t</tex>; * совместного распределения <tex>P_t(X, Y)</tex>; * (часто) ограниченной размеченной выборки <tex>D_t = \{(x_i^t, y_i^t)\}_{i=1}^{n_t}</tex>, где <tex>n_t \ll n_s</tex>. Цель трансферного обучения — использовать знания из <tex>\mathcal{T}_s</tex> и <tex>D_s</tex> для улучшения обобщающей способности модели на целевой задаче <tex>\mathcal{T}_t</tex> <ref name="wang_neg_transfer"/>. Формально: <tex> \hat{\theta}_t = \arg\min_{\theta \in \Theta} \left[ \frac{1}{n_t} \sum_{i=1}^{n_t} \mathcal{L}(a_\theta(x_i^t), y_i^t) + \lambda \cdot \mathcal{R}(\theta, \theta_s) \right] </tex> где <tex>\theta_s</tex> — параметры модели, обученной на исходной задаче, а <tex>\mathcal{R}</tex> — регуляризационный член, штрафующий отклонение от <tex>\theta_s</tex> (например, при [[тонкая настройка|тонкой настройке]]). При [[извлечение признаков|извлечении признаков]] параметры <tex>\theta_s</tex> фиксируются, и обучается только классификационная "голова" поверх предобученных представлений. === Этапы переноса === Процесс решения целевой задачи в трансферном обучении включает два этапа: 1. '''Предобучение''' на исходной задаче (source pre-training): <tex>\theta_s = \arg\min_{\theta} \frac{1}{n_s} \sum_{i=1}^{n_s} \mathcal{L}_s(a_\theta(x_i^s), y_i^s)</tex> 2. '''Адаптация к целевой задаче''' (target adaptation): * либо через [[тонкая настройка|тонкую настройку]] (fine-tuning): <tex>\theta_t = \arg\min_{\theta} \frac{1}{n_t} \sum_{i=1}^{n_t} \mathcal{L}_t(a_\theta(x_i^t), y_i^t)</tex>, инициализируя <tex>\theta = \theta_s</tex>; * либо через [[извлечение признаков]] (feature extraction): <tex>\psi_t = \arg\min_{\psi} \frac{1}{n_t} \sum_{i=1}^{n_t} \mathcal{L}_t(a_{\psi}(f_{\theta_s}(x_i^t)), y_i^t)</tex>, где <tex>f_{\theta_s}</tex> — предобученный энкодер, а <tex>\psi</tex> — параметры классификатора. == Классификация целевых задач == Целевые задачи машинного обучения можно классифицировать по типу решаемой проблемы и по характеру выходных данных. === По типу обучения === * '''[[Классификация]]''' — отнесение объекта к одному из дискретных классов. Пример: распознавание рукописных цифр, определение спама в письмах. * '''[[Регрессия]]''' — предсказание непрерывного значения. Пример: прогноз цены недвижимости, предсказание температуры. * '''[[Кластеризация]]''' — группировка объектов по схожести без использования меток. Пример: сегментация клиентов. * '''[[Обнаружение аномалий]]''' — выявление объектов, сильно отличающихся от основной массы. Пример: обнаружение мошеннических транзакций. * '''[[Ранжирование]]''' — упорядочивание объектов по релевантности. Пример: выдача результатов поисковой системы. * '''[[Генерация]]''' — создание новых объектов, распределённых как обучающие данные. Пример: генерация изображений, текстов. === По области применения === * '''[[Компьютерное зрение]]''': * Классификация изображений (ImageNet classification) * [[Обнаружение объектов]] (object detection) — локализация и классификация объектов на изображении * [[Сегментация изображений]] (semantic/instance segmentation) — попиксельная классификация * [[Распознавание лиц]] (face recognition) * [[Оценка позы]] (pose estimation) * '''[[Обработка естественного языка]] (NLP)''' <ref name="task_selection_nlp">"Exploring and Predicting Transferability across NLP Tasks." EMNLP, 2020.</ref>: * [[Анализ тональности]] (sentiment analysis) * [[Именованная сущность]] (NER, named entity recognition) * [[Вопросно-ответные системы]] (question answering, QA) * [[Суммаризация текста]] (text summarization) * [[Машинный перевод]] (machine translation) * '''[[Мультимодальное обучение]]''': задачи, требующие совместной обработки данных разных модальностей (текст + изображение, аудио + видео). Примеры: визуальное вопрошание (VQA), генерация изображений по текстовому описанию. == Целевая задача в трансферном обучении == В трансферном обучении целевая задача является центральным понятием, определяющим стратегию переноса знаний. Выделяют несколько ключевых стратегий: === Извлечение признаков (Feature Extraction) === Предобученная модель используется как фиксированный экстрактор признаков. Слой (или несколько слоёв) перед классификатором выдаёт вектор признаков <tex>z = f_{\theta_s}(x)</tex>, который затем подаётся на вход классификатору, обучаемому на целевой задаче <ref name="domain_def"/>. Этот подход требует минимальных вычислительных затрат на адаптацию и эффективен, когда целевая задача близка к исходной по структуре данных. === Тонкая настройка (Fine-Tuning) === Все (или часть) параметров предобученной модели дообучаются на целевой задаче <ref name="baeldung_downstream"/>. Обычно используется малая скорость обучения, чтобы не разрушить полезные представления, выученные на исходной задаче. Этот подход даёт более высокую точность, но требует больше вычислительных ресурсов и размеченных данных целевой задачи. === Промежуточное обучение (Intermediate-Task Transfer) === Стратегия, при которой модель сначала обучается на одной или нескольких "промежуточных" задачах, а затем переносится на целевую <ref name="task_selection_nlp"/>. Например, перед решением задачи анализа тональности модель может быть дообучена на задаче определения части речи или синтаксического разбора. Выбор промежуточной задачи критически влияет на итоговое качество. === Отрицательный перенос === '''[[Отрицательный перенос]]''' (''negative transfer'') — ситуация, когда использование знаний из исходной задачи ухудшает качество решения целевой задачи по сравнению с обучением "с нуля" <ref name="wang_neg_transfer"/>. Формально отрицательный перенос определяется как: <tex> R_{P_t}(A(\mathcal{S}, \mathcal{T})) > R_{P_t}(A(\emptyset, \mathcal{T})) </tex> где <tex>R_{P_t}</tex> — ожидаемый риск на целевой задаче, <tex>A(\mathcal{S}, \mathcal{T})</tex> — алгоритм, использующий исходные данные, а <tex>A(\emptyset, \mathcal{T})</tex> — тот же алгоритм, но без использования исходных данных <ref name="wang_neg_transfer"/>. Основные причины отрицательного переноса: * недостаточное сходство между исходной и целевой задачами; * несбалансированность данных в исходной задаче; * неправильно выбранная стратегия адаптации. === Катастрофическое забывание === '''[[Катастрофическое забывание]]''' (''catastrophic forgetting'') — явление, при котором модель, дообучаясь на целевой задаче, резко теряет способность решать исходную задачу. Это особенно актуально при последовательном обучении (''continual learning'') <ref name="meta_dynamic">Wu, J., He, J. "A Unified Meta-Learning Framework for Dynamic Transfer Learning." arXiv, 2022.</ref>. Методы борьбы включают регуляризацию ([[elastic weight consolidation|EWC]]), использование буфера данных исходной задачи и архитектурные подходы (например, добавление новых слоёв вместо изменения старых). == Выбор и оценка качества == === Критерии выбора исходной задачи === Выбор подходящей исходной задачи критически важен для успешного переноса на целевую задачу. Основные критерии <ref name="task_selection_nlp"/>: 1. '''Сходство доменов''' — близость распределений <tex>P_s(X)</tex> и <tex>P_t(X)</tex>. Чем ближе данные по своей природе, тем эффективнее перенос. 2. '''Сходство задач''' — близость целевых зависимостей <tex>P_s(Y|X)</tex> и <tex>P_t(Y|X)</tex>. 3. '''Размер данных исходной задачи''' — чем больше размеченных данных, тем лучше обобщающая способность предобученной модели. 4. '''Сложность исходной задачи''' — слишком простая задача не даст полезных представлений; слишком сложная — может привести к переобучению. Современные методы автоматического выбора исходной задачи используют '''эмбеддинги задач''' (''task embeddings'') — компактные векторные представления задач, позволяющие измерять их сходство и предсказывать эффективность переноса <ref name="task_embeddings">"Efficiently Tuned Parameters Are Task Embeddings." EMNLP, 2022.</ref>. === Метрики оценки качества === Выбор метрики зависит от типа целевой задачи: * '''Классификация''': * Accuracy — доля правильных ответов; * Precision, Recall, F1 — для несбалансированных классов; * AUC-ROC — площадь под ROC-кривой. * '''Регрессия''': * MSE (Mean Squared Error) — среднеквадратичная ошибка; * MAE (Mean Absolute Error) — средняя абсолютная ошибка; * R² — коэффициент детерминации. * '''Ранжирование''': * NDCG (Normalized Discounted Cumulative Gain); * MAP (Mean Average Precision). == Применения == Целевые задачи в машинном обучении охватывают практически все сферы человеческой деятельности: * '''Компьютерное зрение''': классификация и детекция объектов в автономных автомобилях, медицинская диагностика по снимкам, система распознавания лиц в системах безопасности. * '''Обработка естественного языка''': анализ тональности отзывов, автоматическая суммаризация новостей, чат-боты и виртуальные ассистенты, машинный перевод. * '''Рекомендательные системы''': персонализированные рекомендации товаров, фильмов, музыки на основе истории пользователя. * '''Медицина''': прогнозирование заболеваний по электронным медицинским записям, анализ геномных данных. * '''Финансы''': кредитный скоринг, обнаружение мошеннических операций, прогнозирование временных рядов. * '''Робототехника''': навигация, распознавание объектов, планирование движений. == Ограничения и открытые вопросы == Несмотря на впечатляющие успехи, решение целевых задач в парадигме трансферного обучения сталкивается с рядом ограничений: 1. '''Чувствительность к выбору исходной задачи'''. Неудачный выбор может привести к отрицательному переносу <ref name="wang_neg_transfer"/>. 2. '''Необходимость сходства доменов'''. При значительном расхождении распределений данных перенос становится неэффективным. 3. '''Вычислительные затраты'''. Тонкая настройка больших моделей (например, LLM с сотнями миллиардов параметров) требует значительных ресурсов, хотя методы [[параметрически эффективная тонкая настройка|PEFT]] частично решают эту проблему. 4. '''Отсутствие универсального критерия выбора задачи'''. Хотя существуют методы оценки переносимости <ref name="task_embeddings"/>, единой теоретической основы для предсказания успеха трансфера пока нет. 5. '''Катастрофическое забывание''' при последовательном обучении на нескольких целевых задачах <ref name="meta_dynamic"/>. == Практические рекомендации == 1. '''Чётко формулируйте целевую задачу''': определите пространство объектов, тип выхода (классы, непрерывные значения, ранжирование) и функцию потерь. 2. '''Выбирайте исходную задачу осмысленно''': предпочтение следует отдавать задачам из близкого домена и сходной структуры. Используйте современные методы оценки переносимости <ref name="task_embeddings"/>. 3. '''Оценивайте качество адекватными метриками''': для несбалансированных задач не полагайтесь только на accuracy, используйте F1, Precision/Recall. 4. '''Используйте стратегии адаптации с умом''': для малых целевых выборок предпочтительнее извлечение признаков; для больших — тонкая настройка. 5. '''Обрабатывайте несбалансированные данные''': применяйте методы аугментации, взвешивания классов или специализированные функции потерь (Focal Loss). 6. '''Проверяйте наличие отрицательного переноса''': сравнивайте качество модели с и без использования исходных данных <ref name="wang_neg_transfer"/>. == См. также == * [[Трансферное обучение]] * [[Тонкая настройка]] * [[Предобучение]] * [[Обучение представлений]] * [[Эмпирический риск]] * [[Отрицательный перенос]] * [[Катастрофическое забывание]] * [[Параметрически эффективная тонкая настройка]] == Примечания == <references /> == Литература == # Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. ''IEEE Transactions on Knowledge and Data Engineering'', 22(10), 1345-1359. # Wang, Z., Dai, Z., Póczos, B., & Carbonell, J. (2019). Characterizing and Avoiding Negative Transfer. ''arXiv:1811.09751''. # Baeldung. (2025). What Are Downstream Tasks? ''Computer Science''. # "Model Validation and Uncertainty Quantification, Volume 3." (2025). River Publishers. (Определение домена и задачи в контексте трансферного обучения). # Ruder, S., et al. (2019). Transfer Learning in Natural Language Processing. ''NAACL Tutorial''. # Vu, T., et al. (2020). Exploring and Predicting Transferability across NLP Tasks. ''EMNLP''. # Phang, J., et al. (2019). Intermediate-Task Transfer Learning with Pretrained Language Models. ''arXiv:1905.08249''. # Alet, F., et al. (2021). Task Embeddings for Few-Shot Classification. ''ICLR''. # "Efficiently Tuned Parameters Are Task Embeddings." (2022). ''EMNLP''. # Wu, J., & He, J. (2022). A Unified Meta-Learning Framework for Dynamic Transfer Learning. ''arXiv:2207.01784''. # Goodfellow, I., Bengio, Y., & Courville, A. (2016). ''Deep Learning''. MIT Press. (Глава по трансферному обучению). # Vapnik, V. N. (1998). ''Statistical Learning Theory''. Wiley. == Ссылки == * [https://www.baeldung.com/cs/downstream-tasks Baeldung: What Are Downstream Tasks?] * [https://arxiv.org/abs/1811.09751 Characterizing and Avoiding Negative Transfer] * [https://www.youtube.com/watch?v=1N7QWqR9Ubg Лекция Яндекса по трансферному обучению] [[Категория:Машинное обучение]] [[Категория:Трансферное обучение]] [[Категория:Обучение с учителем]] [[Категория:Анализ данных]]

Возврат к странице Downstream task.