Самое важное время в истории

2025-02-19 18:13

AGI появится раньше благодаря o3, DeepSeek и другим передовым разработкам в области ИИ

ИИ развивается так быстро, что его исследователи сходят с ума. Теперь он, как правило, умнее людей, и скорость его развития ускоряется . Новые разработки последних нескольких недель еще больше ускорили его. Теперь, похоже, ИИ могут стать умнее людей через 1-5 лет, а вскоре после этого — умнее богов. Мы на краю пропасти и собираемся спрыгнуть со скалы сверхразума ИИ1, хотим мы этого или нет.Когда мы прыгаем?Что внизу?
У нас есть парашют?

Прогнозы рынка

Шесть месяцев назад я написал статью «Что бы вы сделали, если бы вам осталось жить 8 лет?» , где объяснил, что рынок предсказал появление искусственного интеллекта (ИИ, ИИ, способного делать то, что может делать большинство людей) на восемь лет позже, к 2032 году. С тех пор эта дата была перенесена вперед . Теперь прогнозируется, что он появится всего через шесть лет , так что шести месяцев было достаточно, чтобы перенести дату на один год вперед. Теперь шансы выглядят так:

Мода (наиболее распространенный прогноз) заключается в том, что AGI будет достигнут через 2,5 года. 6 лет (то есть к декабрю 2030 года) — это средний прогноз.

Но ИИ, который соответствует человеческому интеллекту, — это не самая тревожная веха. Самая тревожная — это ИСИ, искусственный суперинтеллект: интеллект, который настолько превосходит человеческие возможности, что мы даже не можем его постичь.

По прогнозам прогнозистов, это произойдет через пять лет:

До слабого AGI осталось два года , то есть к концу 2026 г.
Три года спустя , Суперинтеллект, то есть к концу 2029 года

Как видите, эти прогнозы не совсем последовательны, но они согласуются: ИИ, который сможет выполнить любую задачу лучше человека, появится через полдесятилетия.

Кто лучше всего может знать наверняка? Я предполагаю, что это руководители крупнейших лабораторий ИИ в мире. Что они говорят?

Передовые эксперты

Источник

Вот еще одна его цитата:

Я думаю, что мощный ИИ2может появиться уже в 2026 году. — Machines of Loving Grace , Дарио Амодеи, генеральный директор Anthropic

И еще:

Два года назад мы были на уровне старшей школы. В прошлом году мы были на уровне бакалавриата. В этом году мы на уровне доктора наук. Если вы посмотрите на скорость, с которой эти возможности растут, вы действительно подумаете, что мы достигнем этого в 2026 или 2027 году. — Дарио Амодеи с Лексом Фридманом

Переходя к OpenAI, создателю ChatGPT, представляем его генерального директора Сэма Альтмана:

Теперь мы уверены, что знаем, как построить AGI, как мы его традиционно понимали. Мы начинаем выходить за рамки этого, к сверхинтеллекту в истинном смысле этого слова. С сверхинтеллектом мы можем сделать что угодно. — Размышления , Сэм Альтман

Вот руководитель продукта :

« Искусственный интеллект перейдет от миллионного лучшего кодера к тысячному лучшему кодеру, к 175-му лучшему кодеру за 3-4 месяца... Мы находимся на очень крутой траектории, я даже не знаю, будет ли это в 2027 году, я думаю, это может быть раньше».

Почему он утверждает, что ИИ теперь занимает 175-е место среди лучших кодеров мира?

Оценка 2727 в Codeforces соответствует 175-му лучшему кодеру в мире . Просто чтобы дать вам представление, от предварительного просмотра o1 до o1 оценка выросла на 633 балла, а от o1 до o3 — на 836. Скачок в 700 баллов от o3 до следующей модели был бы разумным, и это поставило бы его на 9-е место в мире…

Обратите внимание, что именно кодеры разрабатывают ИИ. Так что если ИИ сейчас 175-й лучший кодер, то ИИ может кодировать ИИ лучше, чем большинство людей.

Вот исследователь из OpenAI :

Источник

И еще:

Мы считаем, что o1 [модель OpenAI, представленная несколько месяцев назад] представляет собой новую парадигму масштабирования, и мы пока находимся на ранней стадии масштабирования в этом направлении. — Ноам Браун

И еще :

Все, что мы делаем сейчас, чрезвычайно масштабируемо. Все является эмерджентным. Ничего не закодировано жестко. Ничего не было сделано, чтобы сказать модели: «Эй, тебе, возможно, следует проверить свое решение, тебе следует вернуться назад... Никакая тактика не использовалась. Все является эмерджентным. Все изучается посредством обучения с подкреплением. Это безумие! Безумие!

Вот еще :

С момента присоединения в январе 2024 года я перешел от «это непродуктивный хайп» к «agi по сути уже здесь». IMHO, дальше будет относительно немного новой науки, но вместо этого годы кропотливой инженерии, чтобы опробовать все новые очевидные идеи в новой парадигме. Может быть, после этой стены будет еще одна, но пока что есть 10x, насколько хватает глаз.

Вот что сказал по этому поводу Белый дом Байдена:

Источник

Возможно, именно поэтому Сэм Альтман запланировал закрытый брифинг для должностных лиц правительства США на 30 января. Из Axios :

Специалисты по искусственному интеллекту верят, что нас ждет большой прорыв в области SuperAgents на уровне докторской диссертации». ... «Сотрудники OpenAI говорят друзьям, что они одновременно воодушевлены и напуганы недавним прогрессом».

Если вы думаете, что это всего лишь шумиха со стороны лидеров в области ИИ, ищущих новых инвесторов, примите во внимание слова Демиса Хассабиса, недавнего лауреата Нобелевской премии за свою работу в области ИИ и генерального директора DeepMind (часть Google, поэтому нет необходимости в сборе средств):

В этой области много шумихи. [AGI] появится, вероятно, через три-пять лет.

Но есть ли реальные доказательства того, что эти модели ИИ становятся настолько хорошими?

Показатели

Искусственному интеллекту уже не раз требовалось время, чтобы обойти людей при выполнении различных задач.

Но задачи, на которые раньше у ИИ уходили десятилетия, чтобы превзойти человека, теперь решаются месяцами . Вот как быстро все движется.

Новейшая модель OpenAI, o3, еще не выпущена, поэтому давайте посмотрим, что о ней скажут пользователи гораздо более глупой o1.3

По данным теста MENSA, его IQ составляет 120 .

Чтобы дать вам представление о том, насколько это разумно, это поместило бы o1 между высшим интеллектом и очень высшим интеллектом и поместило бы его в 87-91-й процентиль интеллекта. Другими словами, эта штука умнее, чем 9 людей из 10.

Подумайте
об
этом.

Вот один из способов дать некоторое представление об этом (попробуйте самостоятельно найти ответ на вопрос ниже!):

Через это

Так какой же у вас ответ?
Подумайте об этом!
Хорошо, вот он:

Я подтвердил это независимым образом.4

Мне определенно потребовалось больше 5 секунд, чтобы решить эту задачу, и я предполагаю, что многие люди вообще не решают ее.

В июле 2024 года AlphaProof и AlphaGeometry от Google DeepMind едва не получили золото на Международной математической олимпиаде (IMO):

Источник

o1 — универсал. Он не специализируется на математике. И все же он набрал 83% на вступительном экзамене для того же IMO. Предыдущий ChatGPT набрал 13%...

Источник

Почему это важно?

Достижение золотого уровня в ИМО является пороговым значением для исследователей ИИ, которое они интерпретируют как «способность рассуждать».

Пол Кристиано — изобретатель RLHF, сертифицированный гений и, возможно, самый уважаемый исследователь выравнивания в мире — ранее заявлял, что он увеличит вероятность резкого взлета с 30% до 50%, если к 2025 году мы увидим золото IMO. — @AISafetyMemes

Напоминаем, что резкий взлет происходит, когда ИИ становится достаточно умным, чтобы совершенствоваться, и он это делает, становится умнее, совершенствует себя еще больше, становится еще умнее и, фууу, становится сверхразумным всего за несколько месяцев, недель или месяцев посредством своего рекурсивного цикла самосовершенствования.

Если вы хотите почувствовать это, послушайте генерального директора NVIDIA — компании, зарабатывающей более 100%5прибыли в сфере ИИ сегодня:

Источник

В 2021 году Пол считал, что вероятность такого события составляет всего 8%! Он был самым известным сторонником медленного взлета. Быстрые взлеты пугают, потому что они гораздо менее предсказуемы. У человеческих институтов почти нет времени адаптироваться к безумным темпам изменений. — Источник

Посмотрите, как он справляется с научными вопросами уровня доктора наук:

Он реагирует лучше, чем доктора наук!

Вот широкий спектр тестов:

Кроме того, недавно некоторые ИИ получили окно токенов в 100 млн (это означает, что они могут прочитать около 750 романов, чтобы дать вам ответ).

Это от декабря 2024 года. Источник .

Все, что я вам только что рассказал, касается o1, предыдущей модели! Что мы знаем о текущей модели — o3, которую тестирует OpenAI и от которой исследователи в восторге?

GPQA — сложный научный тест, разработанный для докторов наук , и его невозможно решить с помощью Google. Доктора наук получают в среднем 34% баллов. В своей специализации они получают около 81%. Новая модель OpenAI, o3, получает 88% правильных ответов .

Источником этих графиков в конечном итоге является OpenAI.

Другими словами, o3 может решать проблемы лучше, чем эксперты с докторской степенью в своей области.6

Другим эталоном является FrontierMath — набор строгих, неопубликованных математических задач, разработанных математиками таким образом, чтобы их было невероятно трудно решить.

Это действительно сложные задачи... большинство из них кажутся мне намного выше моих возможностей. — Эван Чен , тренер Международной математической олимпиады

ИИ никогда не набирал больше 2%, но o3 добился 25% правильных ответов.

Источник

ARC-AGI — это известный тест на подвижный интеллект, разработанный так, чтобы быть относительно простым для людей, но сложным для ИИ. В то время как средний человек получает 75%, а выпускники STEM получают 100%, o3 превзошел все предыдущие ИИ и получил 87,5% .

Эксперт по ИИ два года назад (в 2023 году) предсказал , что потребуется еще 2–3 года (то есть около 2027–2028 годов), чтобы ИИ преодолел 70%-ный уровень в ARC-AGI…

Источник

Позвольте мне подвести итог:

Модель o1 от OpenAI была настолько хороша, что ее уже можно было считать элитной.
Их новая модель, o3, настолько хороша, что превосходит экспертов в своих областях.
Прогресс между этими двумя процессами занял несколько месяцев.
Исследователи ИИ говорят, что это даже не оптимизировано!
Они настолько ошеломлены этим прогрессом, что многие приходят к выводу, что мы достигнем AGI через 1-3 года.

Вы уже в восторге?

Пределы роста

Но, может быть, они упускают какие-то барьеры, которые могли бы помешать этому росту? Может ли прогресс интеллекта в направлении AGI натолкнуться на стену?

Может быть, технология имеет некое фундаментальное ограничение на типы проблем, которые она может решить? Нет:

Мы математически доказали, что трансформаторы могут решить любую задачу, при условии, что им разрешено генерировать столько промежуточных токенов рассуждений, сколько необходимо. — Денни Чжоу , руководитель группы рассуждений в Google DeepMind

Так что, похоже, технологии и интеллект не будут ограничивающими факторами для ИСИ. Если что, то это будут исходные материалы для ИИ. Вот они:

Данные для обучения моделей ИИ
Вычислительная мощность (то есть чипы) для обучения и запуска моделей
Электричество для питания вычислительной техники
Деньги, чтобы позволить себе остальное.
Качество алгоритма, для оптимизации всего вышеперечисленного

Похоже, (4) деньги не будут проблемой.

Для контекста, инвестиции в ИИ составили около $1 млрд в 2021 году! Это не значит, что $500 млрд будут реально инвестированы. Это означает, что существует огромный интерес к ИИ, от самых дорогих компаний до самых могущественных правительств в мире.

Взгляды всего мира устремлены на ИИ. Все знают, что это будущее, и готовы вкладывать деньги, чтобы оно произошло.

3. Электричество

Такие компании, как OpenAI, Amazon, Meta и Google, видят, сколько электроэнергии им понадобится, и инвестируют в создание собственных мощностей — настолько, что все они строят или снова открывают ядерные реакторы, которые обеспечивают стабильную электроэнергию. Их более высокая цена по сравнению с ископаемым топливом или возобновляемыми источниками энергии не имеет для них значения, поскольку электроэнергия составляет гораздо меньшую долю их расходов, чем вычисления.

Насколько сложно будет производить всю необходимую нам электроэнергию? Давайте возьмем США в качестве наиболее показательного примера:

Центры обработки данных уже используют 4,5% спроса на электроэнергию в США, и эта цифра, вероятно, вырастет до 7-12% через четыре года. Насколько это будет сложно? Что ж, США не сильно увеличили производство электроэнергии за последние пару десятилетий, так что это может быть преувеличением.

Но возобновляемые источники энергии стремительно развиваются:

К 2028 году американским центрам обработки данных потребуется около 200 ТВт-ч дополнительной электроэнергии, но солнечная и ветровая энергетика добавляют около 200 ТВт-ч электроэнергии в год , поэтому меня не особо беспокоит электроэнергия.7

2. Вычислительная мощность

Вычисления, вероятно, станут ограничивающим фактором. Вот почему NVIDIA является третьей по стоимости компанией в мире, а две другие компании по производству чипов (Broadcom и TSMC) — 10-й и 11-й.

Но спрос настолько велик, что с NVIDIA все больше конкурируют новые поставщики, такие как Cerebras, AMD, Intel, TPU от Google (с таким большим внутренним спросом, что Google потребляет все свои собственные мощности и больше не продает их), Microsoft, Groq…

1. Ограничения по данным

Это правда, что мы упираемся в стену: мы уже скормили этим моделям почти весь Интернет. Количество контента, который не оцифрован, но может быть легко извлечен, может удвоить имеющиеся данные, но это все. И что? На это есть два ответа.

Во-первых, синтетические данные. У нас уже есть физические движки, которые могут создавать реалистичные среды, в которых может перемещаться ИИ. Например, они могут помочь в обучении беспилотных автомобилей. Более захватывающий источник синтетических данных — простое использование ИИ для создания данных для обучения других ИИ. Почему это работает? Разве это не мусор на входе — мусор на выходе? Нет, потому что во многих научных областях легко создавать упражнения, получать ответ от ИИ и проверять их точность. Если результат сгенерированного ИИ упражнения правильный, ИИ сообщается об этом. Если он неправильный, ему также сообщается об этом, и он учится для следующего раза.

Во-вторых, человеческому мозгу не нужно потреблять весь Интернет, чтобы быть умным. Это означает, что мы сейчас сильно перебарщиваем: мы используем триллионы токенов данных, потому что наши алгоритмы обучения и вычисления ИИ еще не очень оптимизированы. Природа наткнулась на алгоритм для нашего мозга методом проб и ошибок. Мы, по крайней мере, можем подойти к этому эффективно.

На самом деле, мы только что это сделали. Малоизвестная китайская компания выпустила новаторский ИИ, который заставляет всех переосмыслить мир ИИ.

DeepSeek: ОМГ момент стоимости ИИ

DeepSeek — небольшая китайская организация, выпустившая новую модель искусственного интеллекта под названием R1, которую вы можете опробовать на настольном компьютере здесь .8Вот его «оценка качества ИИ»:

Источник . Другие утверждают, что R1 от DeepSeek лучше, чем o1 от OpenAI.

Это стоит в 25 раз меньше, чем o1:9

Источник

И кто за этим стоит? Китайский стартап из 100 человек с нулевым венчурным финансированием.

Эти люди раньше были хедж-фондом, в котором они упорно трудились над оптимизацией алгоритмов и скоростью, имея немного сотрудников. Пару лет назад они решили изменить направление, и поскольку у них был большой опыт и GPU (графические процессоры, типы компьютеров, лучше всего оптимизированные для ИИ, те, которые продает NVIDIA), они решили заняться ИИ.

Это также модель с открытым исходным кодом , что означает, что каждый может посмотреть на код, внести в него свой вклад и повторно использовать его! Они отдали его. Все инструменты, которые они использовали для этого прорыва, теперь доступны всем в мире.

И DeepSeek уже совершенствуется!

Как на это реагирует Meta (Facebook)? Meta начала выпускать версии своей собственной модели с открытым исходным кодом Llama два года назад. Llama хуже R1 и намного дороже!

Источник

И DeepSeek не единственный, кто это делает. ByteDance Doubao-1.5-pro соответствует или превосходит бенчмарки OpenAI GPT 4o и Anthropic Claude Sonnet 3.5 и стоит в 50 раз дешевле.

Источник

Теперь позвольте мне рассказать вам: я только что впервые протестировал DeepSeek, и мой опыт был глубоким . Впервые я чувствую, что у меня есть способный соавтор для того типа исследований, которые я провожу. Я ошеломлен.

Годами я задавался вопросом, почему определенная страна так густонаселена. Я много раз спрашивал ИИ, но они всегда подводили меня:

Они не рассматривали основные причины, например: « Там много людей, потому что был бум рождаемости».
Они смешивали причинно-следственные связи, например, говоря: « В этой стране много людей, потому что большинство из них живет в городах, а города очень густонаселены ».
Когда я допускал ошибки, они этого не замечали, поэтому не могли подвергнуть сомнению мои предположения.
Они предложили ряд пунктов, не принимая во внимание взаимосвязь между ними.

И они совершили еще много ошибок.

С DeepSeek впервые ИИ смог самостоятельно выдвигать те же гипотезы, что и я, без моего ведома. Впервые он выдвигал новые гипотезы. Но он пошел еще дальше: он предложил процессы для проверки гипотез, а также данные и источники для проведения тестов! И все это так быстро и бесплатно! Самым ошеломляющим было то, что DeepSeek показывает вам свои рассуждения, если вы хотите, и они были точны. Он ощущался как человек, как очень умный и рациональный человек. Все сомнения, которые возникали у ИИ во время его рассуждений, были обоснованными, и они помогли мне значительно улучшить мои подсказки. Например:

Как DeepSeek удалось создать такую хорошую модель за такие деньги? Неясно, но похоже, что это комбинация факторов, о которых я расскажу в премиум-статье, где также расскажу о шагах, оставшихся до AGI.

Здесь важно то, что им не требовалась обратная связь от человека! Они разработали процесс, в котором они просто снабжали машину данными и структурировали способы, с помощью которых машина могла бы обучаться сама. Помните, как я говорил вам ранее, что синтетические данные выведут прогресс ИИ из-под ограничений данных? Это прекрасный пример.

Это очень важно, потому что в прошлом самым большим препятствием для прогресса ИИ всегда были люди. AlphaGo пришлось учиться на десятках миллионов человеческих ходов, прежде чем он смог победить людей, и этот процесс занял месяцы. Однако AlphaGo Zero научился побеждать людей без какого-либо человеческого участия, играя против себя самого, всего за 3 дня .

AlphaGo Zero победил AlphaGo со счетом 100-0.

Что все это значит? Пришло время собрать все воедино.

Выводы: будущее уже близко

Лучшие модели ИИ были примерно такими же умными, как крысы четыре года назад, собаки три года назад, старшеклассники два года назад, среднестатистические студенты год назад, доктора наук несколько месяцев назад, а теперь они лучше, чем люди-доктора наук в своей области. Просто спроецируйте это на будущее.
Создатели этих моделей говорят, что это масштабируется быстрее, чем они ожидали, и они не используют странные трюки. На самом деле, они видят возможности для оптимизации везде. Интеллект просто масштабируется. Они считают, что AGI появится через 1-4 года. Это лишь немного оптимистичнее, чем прогнозируют рынки, которые ожидают его появления примерно через 2-6 лет.
ИИ теперь как элитные разработчики ПО. И ИИ уже улучшает ИИ. Соедините эти два понятия вместе, и вы можете себе представить, как быстро увеличится скорость разработки ИИ.
На данный момент не похоже, что интеллект станет препятствием для AGI. Скорее, это могут быть другие факторы, такие как энергия или вычислительная мощность.
За исключением того, что DeepSeek только что доказал, что мы можем создавать модели, которые потребляют на порядки меньше денег, энергии и вычислений.
Поэтому, хотя электричество, данные и особенно вычисления могут быть ограничивающими факторами для развития ИИ, мы постоянно ищем способы сделать эти модели более эффективными, устраняя эти физические ограничения.

Другими словами: ИИ развивается все быстрее, у нас нет явных препятствий, которые могли бы помешать его прогрессу, и те, кто в этом разбирается, полагают, что это означает, что через пять лет мы увидим ИИОН.

Кто не думает о AGI? Отправьте им этот пост!

Делиться

Отвечая на вопросы, которые я задал во вступлении: прямо сейчас мы прыгаем с обрыва, и, скорее всего, нам понадобится несколько лет (от 1 до 6 лет, в зависимости от того, кого вы спросите), чтобы научиться летать или врезаться в землю.

Как мы можем подготовиться к этому моменту? Вот что я собираюсь исследовать в следующих статьях:

Каковы последние новости о влиянии на конкретные рабочие места?
Ускорит ли ИИ развитие науки?
Что мы узнали о выравнивании? Убьют ли нас ИИ?
Как можно заняться ИИ, если ты ничего о нем не знаешь? Как можно оседлать волну?

Я рассмотрю эти идеи в следующих статьях!

Искусственный интеллект, который может выполнить любую задачу лучше любого человека. Обычно это относится к когнитивным задачам, но считается, что переход от когнитивных к реальным задачам не будет сложным. Я напишу об этом в будущей статье.

Которые он определяет как науку и инженерию экспертного уровня.

Мы перешли от o1 к o3, потому что OpenAI ужасен в брендинге, а также потому, что O2 — это реальный известный бренд, принадлежащий Telefonica.

Вот более подробный ответ на мой вопрос, я полагаю, потому что у меня есть системные настройки, которые предписывают ChatGPT быть подробным и разбивать проблемы:

На основании предоставленной информации:

А и Б вместе смотрят телевизор.
Б ест чоу-мейн и смотрит телевизор.
Д спит.
Э играет в настольный теннис.
Б выходит из комнаты, чтобы ответить на телефонный звонок.

Учитывая, что в комнате находится пять человек, а E играет в настольный теннис, им понадобится партнер для игры. Поскольку D спит, а A смотрит телевизор с B (который только что ушел), A, скорее всего, все еще смотрит телевизор. Это оставляет C единственным человеком, который может играть в настольный теннис с E.

Ответ: Игра в настольный теннис с Э.

Потому что большинство компаний, занимающихся ИИ, теряют деньги, поскольку инвестируют (в графические процессоры NVIDIA) для своего роста!

Этот раздел основан на замечательной статье o3 от Зака Штайна-Перлмана

Конечно, возобновляемая электроэнергия не является фиксированной (не стабильна с течением времени), но стоимость батарей стремительно падает, и похоже, что президентство Трампа также высвобождает производство ископаемого топлива. Как бы вы это ни рассматривали — будь то естественный рост возобновляемых мощностей, новые ядерные мощности или ископаемое топливо, у нас будет достаточно энергии.

Убедитесь, что вы нажали на модель DeepThink, чтобы получить модель R1. Я не буду рекомендовать ссылки на мобильные приложения, потому что кто знает, какие данные они могут собирать о вас.

Неясно, потому что они могли скрывать, сколько вычислительных мощностей они используют, возможно, чтобы скрыть тот факт, что они обошли запрет США на экспорт чипов. Но похоже, что они построили гораздо более дешевую модель, чем их конкуренты.

Источник: unchartedterritories.tomaspueyo.com

Самое важное время в истории — сейчас

Комментарии: