Люди, которые строят ИИ, всерьёз считают, что он может уничтожить всех нас к концу десятилетия

Мы все около этой тарелки и скоро нам нальют этой баланды. Никакой конспирологии. Реальность.

Джейкобу Коксону 27 лет. В начале недели в Твиттере у него была пара тысяч подписчиков. Вчера он написал пост, который прочитали 55 миллионов раз — 400 тысяч лайков за 10 часов.

Коксон сообщил о своем добровольном увольнении из компании Anthropic, в которой занимался обучением базовых моделей ИИ на огромных объёмах данных.

Anthropic — самая крупная компания, которая занимается разработкой искусственного интеллекта. Ее основной продукт — Claude.

Anthropic - самая дорогая компания в своей сфере, ее стоимость оценивается в более чем 1 триллион долларов.

Теперь о том, что написал Джейкоб Коксон после увольнения:

"Я уволился из Anthropic сегодня. Последние три года я занимался pretraining-исследованиями в OpenAI и Anthropic. Ни одна из компаний не действует ответственно. Они мчатся прямо к самоулучшающемуся суперинтеллекту и играют нашими жизнями.

Не недооценивайте силу этой технологии. Скоро это будут сверхчеловеческие системы, которые смогут взломать что угодно, за одну ночь революционизировать любую область и захватить реальную власть и ресурсы. Мы все видели прогресс в каждой из этих сфер, и он не замедляется.

Люди, которые строят ИИ, всерьёз считают, что он может уничтожить всех нас к концу десятилетия. Это не маркетинговый ход. Более того, многие руководители и старшие исследователи в прессе формулируют мысли осторожнее, чтобы звучать благоразумно, - но я слышу, как те же самые люди в частном порядке выражают страх. Никакая другая человеческая деятельность не несёт такой уровень опасности.

В OpenAI многие ещё глубоко не осознали цивилизационные ставки. В Anthropic ставки хорошо понятны, но они заперты в гонке - хотят прийти первыми, потому что считают, что больше никто не будет действовать ответственно, поэтому им приходится делать это самим, несмотря на риск.

Принять эту гонку - высокомерная авантюра.

Если вы исследователь в лаборатории, я призываю вас подумать, какими на самом деле будут ближайшие несколько лет. Хотите ли вы запускать сверхинтеллектуальную систему без глубокого понимания того, что у нее в “голове”? Будете ли вы опускать свою голову, потому что “это всё равно произойдёт”, - или воспользуетесь этим моментом, чтобы потребовать других условий?"

Ранее в интервью The Wall Street Journal Джейкоб Коксон говорил: "Мы движемся по пути самых агрессивных сценариев, где уже к концу следующего года всё может выйти из-под контроля".

Высказывания Коксона — не слова обиженного при увольнении человека. Эван Хабингер — руководитель направления Alignment Science в Anthropic написал свой пост:

"Джейкоб здесь прав -/ мы действительно искренне верим, что ИИ может уничтожить всех людей! Я лично считаю, что вероятность этого составляет более 10% в течение следующего десятилетия. Я верю, что Anthropic старается изо всех сил, но у нас пока нет плана по решению проблемы согласования для суперинтеллекта, и мы явно не движемся к этому".

Да, Джейкоб Коксон ушёл, но остались его коллеги и ИИ-инженеры из других компаний. Уход одного человека процесса не замедляет. Моральные принципы других - загадка, но, глядя на Маска и его команду, стоит думать о худшем.

Помните DOGE? 6 клевых ребят, средний возраст которых около 22 лет, уволили за пару месяцев более 100 тысяч федеральных служащих США.

Изначально было заявлено, что DOGE создан для экономии федеральных денег. В итоге расследование Счётной палаты США оценило, что хаотичные действия DOGE нанесли ущерб как минимум в 21,7 миллиарда долларов. Государственные расходы в тот период не снизились, а выросли.

"Антикоррупционные расследования" DOGE ни к чему не привели: никому не предъявлены обвинения в "пропаже миллиардов из казначейства".

DOGE был распущен менее чем через год после создания, а Илон Маск покинул пост главы структуры в мае 2025-го.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: