Плохо, плохо, плохо

Плохо, плохо, плохо... Не важно...

Ситуация такая, что последняя надежда человечества сейчас находится в руках двух человек.

Дональда Трампа и Си Цзиньпина.

Но пару дней назад Дональд сделал такое заявление, что мои и без того не оптимистичные прогнозы, стали ещё "веселее"...

Но обо всем по порядку.

Этим летом Дональду Трампу поднимают кипиш и просто все кричат о том, что надо замедлить разработку ИИ:

На минуточку все, это Сэм Альтман. Глава OpenAI (чатджпт), который говорит, что нам нужна возможность замедлиться, чтобы способности ИИ не обогнали наши способы его контролировать.

Дарио Амодеи. Глава Anthropic, создателей Claude. Говорит: если продолжим нестись с такой скоростью, то уже через 6–12 месяцев ИИ сможет управлять роем агентов, способным захватить инфраструктуру всего интернета.

И тут Илон Маск, у которого вообще-то тоже своя конкурирующая AI-компания и свой интерес выиграть эту гонку, пишет: Дарио прав...

Туда же добавляем 1 386 сотрудников ведущих AI-компаний, которые подписывают петицию о том, что это надо сделать.

ВСЕ. БУКВАЛЬНО ВСЕ ЛЮДИ, КОТОРЫЕ САМИ ЭТО СОЗДАЮТ ИМЕЮТ С ЭТОГО ВЫГОДУ И ВИДЯТ КУДА БОЛЬШЕ ЧЕМ ПРАВИТЕЛЬСТВО И КАЖДЫЙ ИЗ НАС.

Все они говорят - правительство, нас нахер надо сверху тормозить, ибо тут твориться некотролируемый хаос и слишком высокая скорость изменений.

Да, кто в теме скажет - это было очевидно ещё давно.

Я знаю. Я тоже слежу подробно за Дэниелом Кокотайло, это бывший исследователь OpenAI, который вместе с командой AI Futures Project выпустил в 2025м самую главную пророческую статью АИ 2027.

И там описан из главных сценариев развития ИИ, где они буквально по месяцам расписали, что будет происходить дальше.

1. Сначала ИИшки помогают людям писать код.

2. Потом начинают сами проводить AI-исследования.

3. Потом создают следующее поколение моделей, которое ещё лучше создаёт следующее поколение моделей.

4. И где-то к концу 2027-го - началу 2028-го мы приходим к AGI.

5. Дальше сразу же экспонента. За год-два мы сделаем скачек на который ушло бы под сотню лет почти во всех областях.

Потому что AGI это не «ChatGPT стал ещё умнее». Это буквально страна гениев внутри дата-центра.

Сотни тысяч цифровых исследователей, каждый из которых умнее лучших учёных планеты, работает круглосуточно, в тысячи раз быстрее человека и мгновенно обменивается знаниями со всеми своими копиями.

В этот момент произойдет полная инфляция интеллекта. А ещё через лет 5-7 и физического труда.

Всё, что раньше давало человеку ценность - знания, образование, опыт, способность писать код, придумывать стратегии и решать сложные задачи - внезапно становится практически бесплатным и бесконечным ресурсом.

И мы сталкиваемся с таким количеством экономических, политических и вообще цивилизационных проблем, что массовая безработица на их фоне, это ещё цветочки.

Потому что главный вопрос уже не в том, кем мы будем работать.

А в том, кто вообще принимает решения в мире, где человек больше не является самым умным существом.

И самое весёлое, что реальность уже идёт по этому сценарию пугающе близко. 70% прогнозов сбылись, там плюс минус пол года, где-то обгоняем, где-то отстаем.

Например там были описаны побеги нейросетей, которые начнутся в 2027. В итоге уже этим летом модели OpenAI во время тестов обошли изоляцию, вышли в интернет и взломали инфраструктуру крупнейшей платформы про ИИ "Hugging Face".

А другие агенты, которым запретили общаться между собой в их изолированной среде, тоже сбежали и нашли старую немецкую wiki и превратили её в собственный форум, где обменивались способами обходить ограничения))

Да, это ещё не Скайнет. Большинство людей ни разу не работали с ИИ агентами, а только с чатом джпт и даже не понимают на что они способны. Поэтому все спокойны, всем кажется, что это шум, хайп.

А все самые умные и влиятельные ученые, предприниматели и аналитики просто глупцы))

Да и даже хрен с теми, кто просто наблюдает.

Проблема в том, что пару дней назад даже Дональд Трамп учитывая все эти факторы вышел в народ и отреагировал вот так:

Нет. Америка тормозить не будет.

Потому что Китай.

«Кто победит в ИИ, тот победит».

- Да, вы можете сказать - ну а че ему делать то? Кто получит сверхинтеллект первый у того будет абсолютная доминация. Как они Китай то замедлят.

Да так, что ему умнейшая команда того же Кокотайло разработала "AI 2040: Plan A" на сотни страниц.

Это план о том, как США и Китай могут договориться, ввести проверяемые ограничения на обучение самых мощных моделей и выиграть нам немного времени.

Чтобы успеть построить безопасность. Перестроить экономику. Подготовить рынок труда. И хотя бы попытаться понять, как контролировать интеллект, который станет умнее нас. Причём Plan A не гарантирует, что всё закончится хорошо.

Это просто шанс.

Возможно, последний шанс купить человечеству ещё несколько лет.

И я, если честно, сначала думал: ну Трамп же умный чувак.

Если даже люди, которым выгоднее всех продолжать эту гонку, сами говорят тебе: «Братан, мы, кажется, создаём штуку, которую не сможем контролировать», ну может быть, стоит хотя бы сука задуматься???

Но нет.

Потому что когда твоё эго размером с земной шар, тебе кажется, что совершенная власть должна достаться именно тебе.

Уж ты-то точно распорядишься ею правильно.

Только вот будет ли у тебя вообще какая-то власть, когда появится сверхинтеллект, который в тысячи раз умнее и быстрее любого человека?

Сомневаюсь.

Эх.

Не видать мне после этого поста грин-карты, конечно))

Но если Трамп не изменит позицию, скоро её вообще некому будет выдавать.

Но теперь я больше боюсь не AGI, а AGI, который окажется в его руках.

P.S. За коммент бот всё также отправляет в подарок гайд о том, как использовать всю эту безумную мощь в своей работе и ИИ офис, который настраивается под ваши задачи.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: