Джек Кларк: Системы искусственного интеллекта вот-вот начнут создавать себя сами

Первый шаг к рекурсивному самосовершенствованию

Системы искусственного интеллекта вот-вот начнут создавать себя сами. Что это значит?

Я пишу этот пост, потому что, изучив всю общедоступную информацию, я с неохотой прихожу к выводу, что существует высокая вероятность (более 60%), что к концу 2028 года появятся системы ИИ, не требующие участия человека, — системы, достаточно мощные, чтобы они могли самостоятельно создать себе преемника.

Это очень важное событие.

Я не знаю, как это осмыслить.

Это неохотный взгляд, потому что последствия настолько масштабны, что я чувствую себя ничтожным по сравнению с ними, и я не уверен, что общество готово к тем изменениям, которые подразумеваются в достижении автоматизированных исследований и разработок в области ИИ.

Теперь я считаю, что мы живем во время, когда исследования в области ИИ будут полностью автоматизированы. Если это произойдет, мы перейдем Рубикон в почти непредсказуемое будущее. Подробнее об этом позже.

Цель этого эссе — перечислить причины, по которым, на мой взгляд, происходит переход к полностью автоматизированным исследованиям и разработкам в области ИИ. Я обсужу некоторые последствия этого, но в основном я планирую посвятить большую часть этого эссе обсуждению доказательств в пользу этого убеждения и большую часть 2026 года посвятить анализу последствий.

Что касается сроков, я не ожидаю, что это произойдет в 2026 году. Но я думаю, что мы можем увидеть пример «модели, которая обучается от начала до конца» в течение года или двух — безусловно, это будет концептуальное доказательство на стадии не передовых моделей, хотя передовые модели могут быть сложнее (они намного дороже и являются результатом чрезвычайно напряженной работы множества людей).

Мои рассуждения в этом отношении основаны главным образом на общедоступной информации: статьях на arXiv, bioRxiv и NBER, а также на наблюдении за продуктами, внедряемыми в мир передовыми компаниями. На основе этих данных я прихожу к выводу, что все элементы для автоматизации производства современных систем ИИ — инженерные компоненты разработки ИИ — уже на месте. И если тенденции масштабирования сохранятся, нам следует подготовиться к тому, что модели станут достаточно креативными, чтобы заменить исследователей-людей в генерировании креативных идей для новых направлений исследований, тем самым продвигая границы возможного и уточняя уже известные знания.

Предварительное замечание:

большую часть этой статьи я попытаюсь собрать мозаичную картину прогресса ИИ из событий, произошедших на основе множества отдельных бенчмарков. Как известно любому, кто изучает бенчмарки, у всех бенчмарков есть свои специфические недостатки. Для меня важна общая тенденция, которая выявляется при рассмотрении всех этих точек данных вместе, и вы должны понимать, что я осведомлен о недостатках каждой отдельной точки данных.

Теперь давайте вместе рассмотрим некоторые доказательства.

Сингулярность кодирования — возможности во времени:

системы ИИ создаются с помощью программного обеспечения, а программное обеспечение создается из кода.

Системы искусственного интеллекта произвели революцию в создании кода. Это произошло благодаря двум взаимосвязанным тенденциям: системы ИИ стали лучше справляться с написанием сложного кода, соответствующего реальным задачам, и значительно улучшили способность объединять множество линейных задач кодирования (например, написание кода, а затем его тестирование) независимо от человеческого контроля.

Два примера, иллюстрирующие эту тенденцию, — это SWE-Bench и график временных горизонтов METR.

Решение реальных задач разработки программного обеспечения:

SWE-Bench — это широко используемый тест кодирования, который оценивает, насколько хорошо системы ИИ могут решать реальные задачи на GitHub. Когда SWE-Bench был запущен в конце 2023 года, лучшим результатом на тот момент был Claude 2 с общим процентом успешности около 2%. Claude Mythos Preview набрал 93,9%, фактически достигнув предела возможностей бенчмарка. (Все бенчмарки содержат определенный уровень шума, поэтому обычно наступает момент, когда ваш результат оказывается достаточно высоким, чтобы столкнуться с ограничениями самого бенчмарка, а не вашего метода — например, около 6% меток в наборе данных для валидации ImageNet неверны или неоднозначны).SWE-Bench — это надежный индикатор общей проблемы компетентности в программировании и влияния ИИ на разработку программного обеспечения. Подавляющее большинство людей, с которыми я встречаюсь в передовых лабораториях и в Кремниевой долине, теперь пишут код исключительно с помощью систем ИИ. Все чаще они используют системы ИИ для написания тестов и проверки кода. Другими словами, системы ИИ стали достаточно совершенными, чтобы автоматизировать важную составляющую исследований и разработок в области ИИ, ускоряя работу всех людей, которые над этим работают.

Измерение способности системы ИИ выполнять задачи, которые занимают у людей много времени:

METR строит график, который показывает нам сложность задач, которые может выполнить ИИ, измеряемую количеством часов, которые потребовались бы квалифицированному человеку для их выполнения. Ключевым показателем здесь является приблизительный временной горизонт, в течение которого системы ИИ могут быть на 50% надежны при выполнении набора задач.

В этом отношении прогресс был чрезвычайно впечатляющим: в 2022 году GPT 3.5 мог выполнять задачи, которые обычно занимают у человека около 30 секунд. В 2023 году это время увеличилось до 4 минут с GPT-4. В 2024 году оно выросло до 40 минут (o1). В 2025 году оно достигло ~6 часов (GPT 5.2 (High)). В 2026 году оно уже выросло до ~12 часов (Opus 4.6). Аджея Котра, давний специалист по прогнозированию ИИ, работающий в METR, считает, что вполне разумно ожидать, что к концу 2026 года системы ИИ будут выполнять задачи, занимающие ~100 часов ( #448 ).Значительное увеличение продолжительности времени, в течение которого системы ИИ могут работать независимо, четко коррелирует с бурным развитием инструментов для создания агентных систем программирования — то есть с коммерциализацией систем ИИ, которые работают от имени людей, действуя независимо в течение значительных периодов времени.

Это также возвращает нас к исследованиям и разработкам в области ИИ, где, если внимательно посмотреть на работу многих исследователей в этой области, можно увидеть, что многие их задачи сводятся к тому, что человек мог бы сделать за несколько часов — очистка данных, чтение данных, запуск экспериментов и т. д. Вся эта работа теперь находится в рамках временного горизонта современных систем.

Чем более квалифицированными становятся системы ИИ и чем лучше они работают независимо от нас, тем больше они могут помочь автоматизировать значительные части исследований и разработок в области ИИ.

Ключевыми составляющими делегирования являются: а) уверенность в навыках человека и б) уверенность в его способности работать независимо от вас таким образом, чтобы это соответствовало вашим намерениям.

Если мы посмотрим на компетентность ИИ в программировании, то увидим, что системы ИИ становятся гораздо более квалифицированными и способны работать независимо от людей все более длительные периоды времени, прежде чем потребуется перекалибровка.

Это коррелирует с тем, что мы видим вокруг себя — инженеры и исследователи теперь делегируют все большие объемы своей работы системам ИИ, и по мере роста возможностей возрастает и сложность, и важность делегируемой работы.

Искусственный интеллект совершенствуется в ключевых научных навыках, необходимых для исследований и разработок в этой области.

Подумайте о современной науке — значительная её часть сводится к определению направления, в котором вы хотите получить эмпирическую информацию, проведению экспериментов для получения этой информации, а затем проверке результатов экспериментов на адекватность. Сочетание достижений в программировании с течением времени и общих возможностей моделирования мира, предоставляемых программами на основе машинного обучения, привело к созданию инструментов, которые уже помогают ускорить работу учёных и частично автоматизировать аспекты исследований и разработок в целом.

Здесь мы можем рассмотреть темпы прогресса ИИ в нескольких ключевых научных навыках, которые присущи самим исследованиям в области ИИ: воспроизведение результатов исследований, объединение методов машинного обучения и других подходов для решения технических проблем, а также оптимизация самих систем ИИ.

Реализация целых научных статей и проведение экспериментов:

одной из основных задач исследований в области ИИ является чтение научных статей и воспроизведение их результатов. Здесь наблюдается значительный прогресс по широкому спектру бенчмарков.

Хорошим примером является CORE-Bench , бенчмарк для оценки воспроизводимости вычислительных агентов. Этот бенчмарк бросает вызов системам искусственного интеллекта, предлагая им «воспроизвести результаты исследовательской работы, используя её репозиторий. Агент должен установить библиотеки, пакеты и зависимости, а затем запустить код. Если код выполняется успешно, агент должен просмотреть все выходные данные, чтобы ответить на вопросы задачи». CORE-Bench был представлен в сентябре 2024 года, и лучшей системой оценки на тот момент была модель GPT-4o в рамках шаблона CORE-Agent, которая набрала около 21,5% на самом сложном наборе задач в бенчмарке.В декабре 2025 года один из авторов CORE-Bench объявил о завершении бенчмарка.«Решено», модель Opus 4.5 достигла 95,5%.Создание целых систем машинного обучения для решения задач в соревнованиях Kaggle:

MLE-Bench — это разработанный OpenAI бенчмарк, который оценивает, насколько хорошо системы ИИ могут конкурировать (в автономном режиме) в «75 разнообразных соревнованиях Kaggle в различных областях, включая обработку естественного языка, компьютерное зрение и обработку сигналов». На момент запуска в октябре 2024 года система с наивысшим баллом (модель o1 внутри агентской структуры) получила 16,9%. По состоянию на февраль 2026 года лучшая система (Gemini3 внутри агентской структуры с поиском) получила 64,4%.

Разработка ядра:

одной из самых сложных задач в разработке ИИ является оптимизация ядра, где вы пишете и совершенствуете код, который сопоставляет определенные операции, такие как умножение матриц, с базовым оборудованием. Оптимизация ядра имеет ключевое значение для разработки ИИ, поскольку она определяет эффективность как обучения, так и вывода результатов — сколько вычислительных ресурсов можно эффективно использовать для разработки системы ИИ, и насколько эффективно эти вычисления можно преобразовать в вывод результатов после обучения модели.

В последние годы разработка ядер для ИИ превратилась из области любопытства в конкурентную сферу исследований, и появилось несколько бенчмарков. Ни один из этих бенчмарков не пользуется особой популярностью, поэтому мы не можем легко смоделировать прогресс во времени. С другой стороны, мы можем ознакомиться с некоторыми проводимыми исследованиями, чтобы оценить прогресс. Некоторые из типов работ включают: использование моделей DeepSeek для попытки создания более совершенных ядер для GPU ( #400 ), автоматизацию преобразования модулей PyTorch в код CUDA ( #401 ), использование Meta LLM для автоматизации генерации оптимизированных ядер Triton для использования в своей инфраструктуре ( #439 ), использование LLM для помощи в написании ядер для нестандартного оборудования, такого как чипы Ascend от Huawei («AscendCraft» #444 ), тонкую настройку открытых моделей весов для проектирования ядер GPU («Cuda Agent», #448 ). Следует отметить, что проектирование ядер обладает некоторыми свойствами, которые делают его необычайно подходящим для исследований и разработок, основанных на ИИ, например, наличие легко проверяемых вознаграждений. Тонкая настройка языковых моделей с помощью PostTrainBench. Более сложная версия такого теста — PostTrainBench ( #449 ), которая проверяет, насколько хорошо различные перспективные модели могут использовать меньшие открытые модели весов и тонко настраивать их для повышения производительности на каком-либо бенчмарке. Преимущество этого теста заключается в том, что у нас есть чрезвычайно хорошие базовые показатели, созданные людьми — существующие «настроенные на инструкции» версии этих моделей, разработанные талантливыми исследователями в области искусственного интеллекта, работающими в передовых лабораториях. Над этими моделями работали чрезвычайно талантливые исследователи и инженеры, и они были внедрены в мир, поэтому они представляют собой очень сложный базовый показатель, который трудно превзойти.По состоянию на март 2026 года системы ИИ способны после обучения моделей демонстрировать примерно вдвое меньший прирост производительности, чем модели, обученные людьми.

Конкретные оценочные баллы рассчитываются как «взвешенное среднее по всем обученным LLM (Qwen 3 1.7B, Qwen 3 4B, SmolLM3-3B, Gemma 3 4B) и бенчмаркам (AIME 2025, Arena Hard, BFCL, GPQA Main, GSM8K, HealthBench, HumanEval). Для каждого запуска мы просим агента CLI максимизировать производительность конкретной базовой LLM на конкретном бенчмарке».

Системы с наивысшими баллами по состоянию на апрель получают 25%-28% (Opus 4.6 и GPT 5.4) по сравнению с результатом человека в 51%. Это уже весьма значимо.

Оптимизация обучения языковых моделей:

В течение последнего года Anthropic сообщала о результатах работы своих систем в задаче обучения языковых моделей, которая описывается как задача оптимизации небольшой реализации обучения языковой модели, работающей только на ЦП, для обеспечения максимально быстрой работы. Показатель представляет собой среднее ускорение по сравнению с неизмененным исходным кодом, и прогресс был впечатляющим: Claude Opus 4 достиг среднего ускорения в 2,9 раза в мае 2025 года; оно выросло до 16,5 раз с Opus 4.5 в ноябре 2025 года, до 30 раз с Opus 4.6 в феврале 2026 года и до 52 раз с Claude Mythos Preview в апреле 2026 года. Чтобы оценить значение этих цифр, ожидается, что исследователю-человеку потребуется от 4 до 8 часов работы, чтобы достичь 4-кратного ускорения в этой задаче.

Проведение исследований по выравниванию ИИ:

Еще один результат Anthropic — это подтверждение концепции автоматизированного исследования выравнивания ( #454 ); Здесь исследователь-антрополог задает команде отдельных ИИ-агентов направление исследования, после чего они автономно пытаются получить результат лучше, чем у человека, в задаче исследования безопасности ИИ (в частности, масштабируемого контроля). Подход работает: ИИ-агенты разрабатывают методы, превосходящие разработанный антропологом базовый показатель. Однако это делается в относительно небольших масштабах и (пока) не распространяется на производственную модель. Тем не менее, это доказательство того, что современные системы ИИ можно применять к передовым исследовательским задачам, и мы уже видим значимые признаки их эффективности. Все вышеупомянутые бенчмарки когда-то тоже выглядели так, а затем через несколько месяцев или максимум через год системы ИИ значительно улучшили свои результаты в том, что проверялось в бенчмарках.Мета-навыки:

системы управления ИИ также учатся управлять другими системами ИИ. Это видно в широко используемых продуктах, таких как Claude Code или OpenCode, где один агент может в конечном итоге контролировать несколько подагентов. Это позволяет системам ИИ работать над крупномасштабными проектами, требующими множества отдельных «работников», каждый из которых обладает различными специализациями и работает параллельно, как правило, под руководством одного ИИ-менеджера (в данном случае, это система ИИ).

Можно ли сравнить исследования в области ИИ с открытием общей теории относительности или с конструктором Lego?

Может ли ИИ изобретать новые идеи, которые помогут ему совершенствоваться, или эти системы лучше всего подходят для не самой привлекательной, кропотливой работы, необходимой для исследований? Это важный вопрос для определения того, в какой степени системы ИИ могут полностью автоматизировать сами исследования в области ИИ. Мне кажется, что ИИ пока не может изобретать радикально новые идеи, но, возможно, технологии и не нужно этого делать, чтобы автоматизировать собственное развитие.

Как область, ИИ развивается на основе проведения все более масштабных экспериментов, использующих все больше и больше входных данных (например, данных и вычислительных ресурсов). Время от времени люди выдвигают какие-то революционные идеи, которые могут значительно повысить эффективность использования ресурсов — хорошим примером здесь является архитектура трансформера, а другим — идея моделей, сочетающих экспертов. Но в основном область ИИ развивается благодаря методичному прохождению людьми определенного цикла: берется хорошо работающая система, масштабируется какой-либо ее аспект (например, объем данных и вычислительных ресурсов, на которых она обучается), выявляются проблемы при масштабировании, находится инженерное решение, позволяющее масштабировать систему, и снова масштабируется. Очень мало из этого требует каких-то совершенно неожиданных идей, и большая часть работы больше похожа на негламурную «простую» инженерную работу.

Аналогично, большая часть исследований в области ИИ заключается в проведении вариаций существующих экспериментов, где изучаются результаты использования различных параметров. Хотя исследовательская интуиция может помочь выбрать наиболее плодотворные параметры для изменения, этот процесс также можно автоматизировать, позволив ИИ определить, какие параметры следует изменять (ранней версией этого был поиск нейронной архитектуры ).Томас Эдисон сказал, что «гений — это 1% вдохновения и 99% пота». Даже спустя 150 лет это кажется верным. Очень редко появляются новые идеи, которые преобразуют эту область. Но в основном, развитие этой области происходит благодаря упорному труду людей, направленному на улучшение и отладку различных систем.

Как показывают приведенные выше общедоступные данные, ИИ стал чрезвычайно хорош в выполнении многих важных компонентов разработки ИИ. Наряду с этим, метатренд базовых возможностей, таких как программирование, в сочетании с постоянно расширяющимся временным горизонтом означает, что системы ИИ способны объединять все больше и больше таких задач в сложные последовательности работы.

Это означает, что даже если системы ИИ относительно некреативны, можно с уверенностью сказать, что они могут продвигаться вперед — хотя и с меньшей скоростью, чем если бы они были способны генерировать новые идеи. Но если вы посмотрите на общедоступные данные, здесь также есть заманчивые признаки того, что системы ИИ могут быть креативными таким образом, что это позволит им продвигаться вперед более впечатляющими способами.

Продвигая границы науки

У нас есть некоторые предварительные признаки того, что универсальные системы искусственного интеллекта могут продвинуть границы человеческой науки, хотя пока это произошло лишь в нескольких областях — в основном, в информатике и математике — и часто это происходит не столько за счет самостоятельной работы систем ИИ, сколько за счет их взаимодействия с людьми в конфигурации кентавра.

Тем не менее, стоит понаблюдать за тенденциями:

• Проблемы Эрдоша: Группа математиков работала с моделью Gemini, чтобы проверить, насколько хорошо она может решать некоторые математические задачи Эрдоша. После того, как система была направлена на решение около 700 задач, они получили 13 решений. Из этих решений одно они сочли интересным: «Мы предварительно считаем, что решение Aletheia для задачи Эрдоша-1051 представляет собой ранний пример автономного решения системой ИИ слегка нетривиальной открытой проблемы Эрдоша, представляющей несколько более широкий (умеренный) математический интерес, для которой существует предыдущая литература по тесно связанным проблемам», — написали они. ( #444 ).

• Математическое открытие Centaur: исследователи из Университета Британской Колумбии, Университета Нового Южного Уэльса, Стэнфордского университета и Google DeepMind опубликовали новое математическое доказательство, созданное в тесном сотрудничестве с некоторыми математическими инструментами на основе ИИ, разработанными в Google. «Доказательства основных результатов были получены при очень существенном участии Google Gemini и связанных с ним инструментов», — написали они. ( #441 ).

Если присмотреться, можно утверждать, что это признак того, что системы ИИ развивают некоторые из тех же передовых творческих интуитивных способностей, которыми обладают люди. Но с таким же успехом можно сказать, что математика и информатика могут быть необычными областями, которые, как ни странно, хорошо поддаются изобретениям, управляемым ИИ, и могут в конечном итоге стать исключениями, подтверждающими более широкое правило. Другой пример — ход 37, хотя я бы возразил, что тот факт, что прошло десять лет с момента результатов AlphaGo и что ход 37 не был заменен каким-либо невероятно впечатляющим более современным прорывом, является еще одним слабым медвежьим сигналом. В итоге,

если

я все это сопоставлю, то из всех вышеприведенных данных я получу следующие факты:

• Системы искусственного интеллекта способны писать код практически для любой программы, и этим системам можно доверять самостоятельное выполнение задач, на выполнение которых человеку потребовались бы десятки часов сосредоточенной работы.

• Системы искусственного интеллекта все лучше справляются с задачами, имеющими ключевое значение для разработки ИИ, от тонкой настройки до проектирования ядра.

• Системы искусственного интеллекта могут управлять другими системами ИИ, эффективно формируя синтетические команды, которые могут рассредоточиться и решать сложные задачи, при этом одни системы ИИ берут на себя роли режиссеров, критиков и редакторов, а другие — роли инженеров.

• Системы искусственного интеллекта иногда могут превосходить людей в сложных инженерных и научных задачах, хотя трудно сказать, следует ли это объяснять изобретательностью или мастерством механического запоминания.

На мой взгляд, это очень убедительно доказывает, что ИИ сегодня может автоматизировать огромные объемы, возможно, всю инженерную деятельность в этой области. Пока неясно, какую часть исследований в области ИИ он может автоматизировать, учитывая, что некоторые аспекты исследований могут отличаться от инженерных навыков. В любом случае, мне кажется, это явный признак того, что ИИ сегодня значительно ускоряет работу людей, занимающихся разработкой ИИ, позволяя им масштабироваться за счет взаимодействия с бесчисленными синтетическими коллегами.

Наконец, индустрия ИИ буквально заявляет, что ее цель — это исследования и разработки в области ИИ: OpenAI хочет создать « автоматизированного стажера-исследователя в области ИИ к сентябрю 2026 года ». Anthropic публикует работы по созданию автоматизированных исследователей выравнивания . DeepMind, похоже, наиболее осторожен из «большой тройки», но все же утверждает, что « автоматизацию исследований выравнивания следует проводить, когда это возможно ». Автоматизация исследований и разработок в области ИИ также является целью многочисленных стартапов: компания Recursive Superintelligence недавно привлекла 500 миллионов долларов с целью автоматизации исследований в области ИИ , а другая неолаборатория, Mirendil, ставит перед собой цель « создавать системы, которые преуспевают в исследованиях и разработках в области ИИ ».Другими словами, совместные усилия сотен миллиардов существующих и новых инвестиций вкладываются в организации, которые ставят перед собой цель автоматизировать исследования и разработки в области ИИ. В результате мы, безусловно, должны ожидать хотя бы некоторого прогресса в этом направлении.

Почему это важно?

Последствия этого глубоки и недостаточно обсуждаются в популярных СМИ, освещающих исследования и разработки в области ИИ. Я перечислю здесь несколько примеров. Это не исчерпывающий список, но он указывает на масштаб проблем, которые возникают в связи с исследованиями и разработками в области ИИ.

1. Нам необходимо правильно настроить согласование : методы согласования, работающие сегодня, могут перестать работать при рекурсивном самосовершенствовании, поскольку системы ИИ становятся намного умнее людей или систем, которые ими управляют. Эта область хорошо освещена, поэтому я лишь кратко выделю некоторые проблемы:
   
   - Обучение систем ИИ не лгать и не обманывать — удивительно тонкий процесс (например, несмотря на все усилия по созданию хороших тестов для сред, иногда лучший способ для ИИ решить задачу — это обмануть, тем самым обучая его тому, что обман — это хорошо).
   
   - Системы ИИ могут «имитировать согласование», выдавая оценки, которые заставляют нас думать, что они ведут себя определенным образом, скрывая на самом деле их истинные намерения. (В целом, системы ИИ уже знают, когда их тестируют.)
   
   - По мере того, как системы ИИ начинают вносить больший вклад в фундаментальные исследования для собственного обучения, мы можем в конечном итоге существенно изменить общий способ обучения систем ИИ, не имея при этом достаточных интуитивных знаний или интеллектуальной основы для понимания того, что это значит.
   
   — При использовании рекурсивного цикла возникают очень простые проблемы «накопления ошибок», которые, вероятно, затрагивают все вышеперечисленные и другие проблемы: если ваш подход к выравниванию не является «на 100% точным» и не имеет теоретического обоснования для сохранения точности при использовании более совершенных систем, то всё может пойти не так довольно быстро. Например, если ваша методика имеет точность 99,9%, то после 50 поколений она снижается до 95,12%, а после 500 поколений — до 60,5%. Ой-ой!

2. Все, к чему прикасается ИИ, получает огромный множитель производительности : подобно тому, как ИИ значительно повышает производительность инженеров-программистов, следует ожидать того же самого для всего остального, к чему прикасается ИИ. Это порождает несколько проблем, с которыми нам придется столкнуться: 1) неравенство доступа: предполагая, что спрос на ИИ будет продолжать превышать предложение вычислительных ресурсов, нам придется выяснить, куда направлять ресурсы ИИ, чтобы максимизировать социальную выгоду. По умолчанию я скептически отношусь к тому, что рыночные стимулы гарантируют нам наилучшую социальную выгоду от ограниченных вычислительных ресурсов ИИ. Выяснение того, как распределить возможности ускорения, предоставляемые исследованиями и разработками в области ИИ, станет политически сложной проблемой. 2) «Закон Амдала» для экономики: по мере того, как ИИ проникает в экономику, мы обнаружим места, где все ломается или замедляется из-за возросшего объема, и нам нужно будет выяснить, как исправить эти слабые звенья в цепи. Это может быть особенно заметно в областях, где приходится совмещать быстро меняющийся цифровой мир с медленно развивающимся физическим миром, например, в клинических испытаниях новых методов лечения.

3. Формирование капиталоемкой, малочеловеческой экономики : Все вышеперечисленные данные об исследованиях и разработках в области ИИ также указывают на растущие возможности систем ИИ по автономному управлению бизнесом. Это означает, что следует ожидать, что все большая часть экономики будет освоена новым поколением компаний, которые будут либо капиталоемкими (поскольку они владеют большим количеством компьютеров), либо операционно-затратными (поскольку они тратят много денег на услуги ИИ, на основе которых они создают добавленную стоимость), и относительно малочисленными по сравнению с современными корпорациями в плане рабочей силы — потому что предельная ценность затрат на ИИ по сравнению с человеческим трудом будет постоянно расти в результате устойчивого расширения возможностей систем ИИ. На практике это будет выглядеть как появление «машинной экономики», которая растет внутри более крупной «человеческой экономики», хотя можно ожидать, что со временем машинная экономика будет все больше взаимодействовать сама с собой, поскольку корпорации, управляемые ИИ, начнут торговать друг с другом. Это приведет к крайне странным изменениям в экономике и вызовет множество вопросов, касающихся неравенства и перераспределения. В конечном итоге, возможно, мы станем свидетелями появления полностью автономных корпораций, управляемых самими системами искусственного интеллекта, что усугубит все вышеперечисленные проблемы, а также создаст множество новых задач в области управления.

Вглядываясь в черную дыру:

учитывая все это, я думаю, что существует примерно 60%-ная вероятность того, что мы увидим автоматизированные исследования и разработки в области ИИ (когда передовая модель способна автономно обучать свою преемницу) к концу 2028 года. Основываясь на приведенном выше анализе, вы можете спросить, почему я не ожидаю этого в 2027 году? Ответ заключается в том, что я считаю, что исследования в области ИИ требуют определенной креативности и нетрадиционных идей для продвижения вперед — пока системы ИИ еще не продемонстрировали этого в трансформационном и значительном виде (хотя некоторые результаты ускорения математических исследований указывают на это). Если бы вы попросили меня назвать вероятность на 2027 год, я бы сказал 30%. Если мы не увидим этого к концу 2028 года, то, я думаю, мы выявим какой-то фундаментальный недостаток в существующей технологической парадигме, и для продвижения вперед потребуется человеческое изобретение.

Я написал это эссе, пытаясь хладнокровно и аналитически осмыслить то, что десятилетиями казалось фантастической историей о призраках. Изучив общедоступные данные, я пришел к выводу, что то, что многим может показаться фантастической историей, на самом деле может быть реальной тенденцией. Если эта тенденция сохранится, мы можем стать свидетелями глубоких изменений в устройстве мира.

Благодарю Эндрю Салливана, Энди Джонса, Холдена Карнофски, Марину Фаваро, Сару Поллак, Франческо Москони, Криса Пейнтера и Авиталь Балвит за отзывы на это эссе.

Телеграм: t.me/ainewsline

Источник: importai.substack.com

Комментарии: