Участник:Vokov/От AGI к ASI

Материал из MachineLearning.

< Участник:Vokov
Версия от 11:01, 15 июня 2026; Vokov (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск
Статья написана с использованием LLM DeepSeek-V4 и проверена участником К.В.Воронцов 15:01, 15 июня 2026 (MSD)


От AGI к ASI: исследование пути от общего искусственного интеллекта к искусственному суперинтеллекту (англ. From AGI to ASI) — аналитический доклад, опубликованный исследователями DeepMind 10 июня 2026 года на сервере препринтов arXiv (arXiv:2606.12683)[1]. Работа представляет собой междисциплинарное исследование возможных технологических траекторий перехода от общего искусственного интеллекта (AGI, Artificial General Intelligence) к искусственному суперинтеллекту (ASI, Artificial Superintelligence), а также потенциальных препятствий и «узких мест» на этом пути.

Содержание

Контекст и цель доклада

Авторы констатируют, что создание интеллекта человеческого уровня за последнее десятилетие превратилось из отдалённой спекуляции в конкретную цель на ближайшее десятилетие для крупнейших ИИ-организаций. В докладе исследуется, каким образом сам ИИ может продолжать развиваться в мире после появления AGI вдоль континуума машинного интеллекта. Конечная точка этого континуума — универсальный ИИ (Universal AI) — хорошо изучена теоретически, что даёт формальную основу для анализа перехода от AGI человеческого уровня к ASI. Подчёркивается, что из-за больших неопределённостей нельзя исключать ускорение прогресса ИИ в ближайшие годы, а образ однократного преобразующего скачка, вызванного появлением AGI, может оказаться неточным; более уместной выглядит перспектива серии трансформирующих общественных изменений, обусловленных прорывами, которые обеспечивает ИИ во многих областях науки и техники.

Определения AGI и ASI

В докладе AGI определяется как система, достигающая по меньшей мере медианной производительности человека на очень широком спектре когнитивных задач. ASI, в свою очередь, обозначает систему, обладающую общим сверхчеловеческим интеллектом, то есть систему, превосходящую большие группы (тысячи) экспертов-людей, работающих в течение длительного времени (годы).

Теоретические основы: Универсальный ИИ и фундаментальные ограничения

В пределе ИИ удивительно хорошо понимается в рамках математической концепции Универсального ИИ, также известной как AIXI-формализм (Hutter et al., 2024)[2]. Это понимание задаёт фундаментальные ограничения по эффективности использования данных и общим способностям на единицу вычислений. В сочетании с фундаментальными физическими, теоретико-сложностными и логическими пределами они образуют жёсткие границы для ИИ, включая очень продвинутые его формы. Однако авторы отмечают, что эти фундаментальные пределы могут оставлять значительный зазор по сравнению с практическими пределами систем AGI и ASI.

Отдельно подчёркиваются преимущества цифрового интеллекта перед биологическим, которые усиливаются с ростом вычислительных мощностей и делают интуицию, основанную на человеческом мышлении, часто неприменимой к продвинутым ИИ. Главное различие — мы знаем программу (исходный код) ИИ, из чего вытекают такие свойства, как перенос на новое аппаратное обеспечение, резервное копирование, приостановка и возобновление работы, копирование для быстрого создания множества экспертных экземпляров, хранение и воспроизведение опыта в цифровой форме, а также уже сегодня существующие сверхчеловеческие пропускная способность ввода-вывода, объём памяти и размер рабочей памяти.

Четыре технологических пути от AGI к ASI

С сегодняшней точки зрения авторы перечисляют четыре возможных технологических пути развития ИИ в мире после появления AGI. Пути не являются взаимоисключающими; прогресс может идти по всем одновременно, что способно приводить к комбинированному (не просто аддитивному) росту интеллекта.

Масштабирование вычислений, моделей и данных

Продолжение экспоненциального масштабирования, аналогичного тому, что наблюдалось последнее десятилетие и более, — увеличение размеров моделей и объёмов обучающих данных. Это требует экспоненциально растущих вычислительных и энергетических ресурсов, что может отчасти компенсироваться повышением эффективности аппаратного и программного обеспечения.

Наиболее вероятные препятствия
  • Дальнейшее масштабирование становится экономически нежизнеспособным и/или производство необходимых ресурсов (сырьё, оборудование, центры обработки данных) не может быть масштабировано достаточно быстро.
  • Поиск и создание (включая различные формы генерации и взаимодействия) подходящих обучающих данных не поспевают за требуемыми темпами.
  • Текущая парадигма предобучения больших моделей (плюс дообучение, масштабирование времени тестирования и дополнительное окружение-«строительные леса») достигает потолка или, по меньшей мере, даёт резко убывающую отдачу. Это включает риск того, что предобучение на человеческих концепциях и абстракциях делает ИИ-системы неспособными формировать новые абстракции из сырых данных.
Наиболее актуальные исследования для подготовки
  • Разработка техно-экономических прогнозных моделей и методов, позволяющих предсказывать, когда требуемые ресурсы (инвестиции, данные, вычислительное оборудование, энергия) достигают пределов масштабирования, с учётом трендов роста эффективности аппаратного и программного обеспечения.
  • Разработка методологий бенчмаркинга, которые сохраняют работоспособность за пределами человеческой экспертной производительности, чтобы снабжать прогнозные модели количественными сигналами и оценками параметров.

Сдвиги алгоритмических парадигм

Если масштабирование достигнет своих пределов, дальнейший прогресс может потребовать резких отклонений от сегодняшней парадигмы (предобучение большой базовой модели плюс дообучение, масштабирование времени тестирования и окружение). Какими могут быть новые парадигмы и каковы будут их потребности в энергии, вычислениях и данных, предсказать трудно, что делает прогнозы за точкой смены парадигмы малосодержательными.

Наиболее вероятные препятствия
  • Сдвиг парадигмы может быть распознан только при достаточном масштабе, но достижение этого масштаба потребует значительной дополнительной работы, инвестиций и технологической интеграции, возможно, в неподходящем технологическом стеке.
  • Исследования в целом могут «усложняться»: новые идеи, которые ещё не найдены, могут требовать всё больших исследовательских ресурсов.
Наиболее актуальные исследования для подготовки
  • Углубление фундаментального и парадигмально-независимого понимания продвинутого ИИ.
  • Изучение как фундаментальных, так и практических пределов ИИ, чтобы уметь рано распознавать, смещают ли новые парадигмы практические ограничения (и насколько) и какой разрыв с фундаментальными пределами сохраняется.

Рекурсивное (само)улучшение

Если ИИ сможет значительно ускорить исследования и разработки в области ИИ или даже полностью автоматизировать их, это может привести к рекурсивному улучшению: ИИ-ускоренная R&D создаёт более качественный, быстрый и дешёвый ИИ, который ещё сильнее ускоряет R&D, и так далее. Гипотетически это способно породить самоускоряющуюся динамику и «взрывной» рост способностей. С другой стороны, эта рекурсивная динамика плохо изучена; возможно, что она быстро затухает и/или становится экономически нежизнеспособной (если требует всё более масштабных моделей и экспериментов без столь же взрывного роста вычислительной эффективности).

Наиболее вероятные препятствия
  • Даже при полностью автоматизированной ИИ-R&D обучение моделей, проведение экспериментов и разработка аппаратного обеспечения требуют времени, вычислений, энергии и экономических инвестиций, которые будут замедлять интеллектуальный взрыв (ИИ не является «кабинетной наукой»).
  • Итеративная рекурсия часто выходит на плато из-за убывающей отдачи (ср. AlphaZero) или вырождается при итеративном обучении на данных, сгенерированных самой системой.
Наиболее актуальные исследования для подготовки
  • Понимание различных механизмов рекурсивного самоулучшения (ИИ пишет лучшие алгоритмы, ИИ автономно проводит эксперименты, ИИ производит лучшие обучающие данные и т. д.) в теории и на практике; формулировка законов масштабирования для рекурсивного улучшения.
  • Мониторинг и отслеживание того, насколько ИИ ускоряет ИИ-исследования и какова степень участия человека-в-цикле. Это требует разработки сложной методологии бенчмаркинга и макро-анализа исследовательских процессов.

ASI через формирование групповых агентов

Возможно, повысить коллективный интеллект групп ИИ окажется легче, чем улучшать интеллект «индивидуальных» моделей, подобно тому, как группы людей могут достигать большего, чем одиночки (как правило, за счёт распараллеливания и разнообразия навыков и мышления). На данный момент неясно, для какого типа задач это верно, как лучше организовывать такие группы (например, централизованно управляемые однородные коллективы против гетерогенных самоорганизующихся динамических рынков) и является ли мульти-агентное масштабирование более или менее эффективным с точки зрения использования вычислений по сравнению с укрупнением отдельных моделей.

Наиболее вероятные препятствия
  • Масштабирование групп ИИ требует пропорционального масштабирования вычислительных ресурсов и энергоснабжения, а следовательно, в конечном счёте, экономических инвестиций.
  • Более крупные группы требуют бóльших усилий по оркестровке и бюрократических процессов; в зависимости от того, как эти издержки растут для ИИ-коллективов, это может быстро привести к убывающей отдаче.
Наиболее актуальные исследования для подготовки
  • Разработка законов мульти-агентного масштабирования: понять, как и насколько группы ИИ становятся более интеллектуальными и как это зависит от типа организации группы и класса решаемых задач (например, распараллеливаемые задачи против чисто последовательных).
  • Исследование того, как люди могут осмысленно взаимодействовать с потенциально очень большими группами агентов, работающих с огромным сверхчеловеческим быстродействием и порождающих объёмы результатов, которые невозможно потребить человеку полностью.

Открытые исследовательские вопросы

Анализ каждого из путей и связанных с ними препятствий приводит к множеству конкретных открытых исследовательских вопросов. В их число входят, в частности:

  • как построить надёжные техно-экономические прогнозные модели для предсказания ограничений масштабирования;
  • как разработать бенчмарки, применимые за пределами человеческого экспертного уровня;
  • как охарактеризовать возможные новые парадигмы и их требования к ресурсам;
  • как формально и эмпирически описать динамику рекурсивного самоулучшения;
  • как моделировать и измерять коллективный интеллект групп ИИ-агентов.

Полный перечень вопросов приведён в разделе 7.1 оригинального доклада.

Выводы

Доклад подчёркивает, что из-за значительных неопределённостей в прогнозировании прогресса ИИ нельзя исключать, что ускорение сохранится и в ближайшие годы. Вместо единого революционного скачка при появлении AGI человечество, возможно, столкнётся с серией трансформирующих изменений, вызванных прорывами, которые обеспечивает ИИ в науке и технологиях. Авторы призывают к массированным междисциплинарным усилиям глобального масштаба, чтобы лучше подготовиться к этим перспективам. Как писал Алан Тьюринг в 1950 году, «мы можем видеть лишь на небольшое расстояние вперёд, но и там уже достаточно того, что необходимо сделать»[3].

См. также

Примечания

  1. ↑ Шаблон:Cite arxiv
  2. ↑ Hutter M., Quigley A. и др. Universal AI: A Gentle Introduction. — arXiv, 2024.
  3. ↑ Turing A. M. Computing Machinery and Intelligence // Mind. — 1950. — Т. 59. — № 236. — С. 433–460.

Литература

Источник — «http://poligon.machinelearning.ru/wiki/index.php?title=%D0%A3%D1%87%D0%B0%D1%81%D1%82%D0%BD%D0%B8%D0%BA:Vokov/%D0%9E%D1%82_AGI_%D0%BA_ASI»
Личные инструменты