Я тут с удивлением узнал, что многие считают Романа Ямпольского паникёром, хайпующим на теме ИИ-апокалипсиса

Я тут с удивлением узнал, что многие считают Романа Ямпольского паникёром, хайпующим на теме ИИ-апокалипсиса; мало того, у него есть нехилая такая база хейтеров, а в комментариях на Ютубе, где я смотрю с ним подкасты, его периодически поливают говном, не стесняясь обсуждать в том числе внешний вид (вечно непричёсанный Дробышевский ехидно смеётся в сторонке).

Хотя дядька-то он неплохой и крайне неглупый. Ямпольский уже лет этак -цать повсюду кричит про опасность неконтролируемого развития искусственного интеллекта, а от него зачастую отмахиваются, как от городского сумасшедшего. Вернее, отмахивались до недавних пор, когда случился бум нейронок, и вот теперь, спустя какие-то несколько лет, они уже повсюду – чат-ботов теперича интегрируют чуть ли не в каждую микроволновку. Вследствие чего Роман и начал ходить по подкастам, рассказывая там ровно то же самое, о чём и говорил последние десятилетия – только вот для комментаторов на Ютубе почему-то его слова звучат как научная фантастика. Ребят, да какая там фантастика – мы уже давным-давно живём в киберпанке…

Но давайте сначала вкратце о том, чё за Ямпольский такой, а то вдруг вы не в курсе.

Роман Владимирович Ямпольский – это учёный-информатик, имеющий учёную степень доктора философии и известный своими работами по кибербезопасности; также он является основателем и директором Лаборатории кибербезопасности на кафедре компьютерной инженерии и информатики в Инженерной школе Д. Б. Спида Луисвиллского университета; он написал больше ста публикаций, включая кучу книг; более того, он даже придумал новую область исследований под названием интеллектология. Кстати, именно он ещё в 2011-ом году ввёл в обиход такое понятие, как «AI safety».

Как считаете, у Ямпольского достаточно регалий, чтобы относиться с полной серьёзностью к тому, что он говорит? Мне кажется, вполне компетентный товарищ. Давайте теперь послушаем, что же такого страшного он говорит про наше с вами будущее.

В книге «ИИ: Необъяснимый, непредсказуемый, неконтролируемый» Ямпольский рассказывает про Три кита неконтролируемости искусственного интеллекта. Сейчас я раскидаю, шо это за зверь, чтоб вам не пришлось читать целую книжку.

Короче, главная идея Ямпольского – это неспособность человечества контролировать, объяснить и предсказывать действия ИИ. Дальше отдельно о каждом тезисе.

«Чёрный ящик» – даже сегодняшние нейросети настолько сложны, что мы далеко не всегда можем понять, почему на свой запрос получили именно этот ответ. Кстати, по поводу вечно прилетающего в комментарии тезиса про «нейросети всего лишь инструмент» советую почитать моё псто про проблему согласования.

«Эффект бабочки» – поистине умный ИИ (какой-нибудь предполагаемый в будущем AGI) слишком сложен для прогнозов, пускай эти прогнозы и будут составлять лучшие умы человечества. Единственный способ узнать, что он сделает, осознав себя – это включить его и посмотреть. Только вот после нажатия кнопки ВКЛ может быть уже слишком поздно.

«Ассиметрия прогресса» – здесь Ямпольский рассказывает, что мощности ИИ растут экспоненционально, а вот наши знания о нём растут линейно. Кто-то может мне возразить, что ведь ИИ разрабатывают сами люди, но и тут я вас разочарую – нет, ребят, мы уже вошли в ту эру, когда новые нейронки создают, используя старые нейросети. Конечно, делают это всё равно люди, только вот и сами люди теперь не программируют, а вайбкодят. По сути дела нейросети создают новые нейросети (более того, нейросети создают и программное обеспечение, и трахаются с людьми онлайн, и заставляют людей совершать странные поступки, и продают людям товары, и штампуют роботов на заводах в Китае, и вообще чего только не делают – если вы думаете, что современные нейронки ограничены клепанием нейрослопа в Тик-Токе, написанием текста на сайтах или музыкой в Suno, то вы сильно ошибаетесь; масштаб их применения в современном мире настолько разнообразен, что вы бы охуели от того обилия информации, которая накопилась в моей бестолковке). Конечно же, как мне опять справедливо заметят в комментариях, нейросети всего лишь инструмент, но вы не задумывались о том, что инструмент, способный сам позвонить за вас человеку-продавцу, чтобы заказать вам новые кроссовки, уже выглядит немного жутковато? А ведь я описываю всего лишь наше настоящее время, в следующем после этого посте как раз будет видео, как КлаудКод заказывает кроссовки. Подобные технологии уже ни для кого не в новинку.

И вот здесь мы переходим к следующему пункту. А именно к классификации искусственного интеллекта, которую предлагает Ямпольский.

Итак, он разделяет развитие ИИ на три разных этапа:

Узкий ИИ – система, решающая одну конкретную задачу лучше человека. Здесь мы с вами находимся прямо сейчас; пускай, как в том меме с Уиллом Смитом, современная нейросеть и не способна создать шедевр, однако она способна создать продукт с лучшим качеством, чем большинство людей, населяющих земной шар; к тому же для создания шедевра людям-творцам необходимы годы, а нейросети, обученной на массиве данных всего человечества, для генерации контента понадобится пара минут. Подразумеваются те самые нейросети, которыми в данный момент так или иначе ежедневно пользуется половина человечества – их уже тысячи, нет смысла перечислять поимённо (хотя я могу, хех). Неважно даже, зачем мы ими пользуемся – для генерации изображений, видео и музыки в тики-токах, генерации голоса для мошеннических действий, вайбкодинга, сложных инженерных задач, написания реферата на учёбе и докладной начальству, ну или для убийства 170 девочек в иранской школе (напоминаю, что американской ракетой управляла нейросетка). Так или иначе, пользуясь нейросетями, мы порождаем спрос, а спрос, как известно, создаёт предложение – именно поэтому в развитие искусственного интеллекта вливают такие огромные деньги. Крайне выгодная тема, всякие ОпенАИ и Антропики не просто так тратят миллиарды долларов и строят в пустынях огромные дата-центры. Напоминаю для тех, кому кажется, что мы всё ещё в 2007-ом – не, нифига, ребят, мы прям сейчас находимся в том самом киберпанке. Илон Маск вообще во всеуслышание говорит, что мы уже находимся на первых этапах техносингулярности. То есть точка входа была пройдена, когда мы начали создавать первые нейросети – не перцептроны какие-нибудь примитивные, а нечто сложное типа Миджорни. А помните, как мы смеялись над странными и неуклюжими рисунками Миджорни в 2020-ом году? У неё тогда массив данных просто был маленький… Кстати, Миджорней сейчас мало кто пользуется, даже наша отечественная Алиса получше будет, пожалуй; однако Миджорни породила целую индустрию генеративного контента, который наводнил всё вокруг нас – я своим намётанным взглядом вычисляю использование нейросетей на рекламных баннерах, в фильмах и мультфильмах, в презентациях, да вообще везде… Нейрослоп уже повсюду, поэтому цените контент, созданный людьми – он хоть и не идеален, но всё-таки не сгенерирован бездушным сервером. В общем, ставьте свой царский лайк — я это сам написал, честное человеческое слово.

Второй этап развития ИИ это AGI (искусственный общий интеллект) – система, способная работать в РАЗЛИЧНЫХ областях на уровне человека или выше его когнитивного уровня. То бишь тут мы наблюдаем не просто узконаправленную нейросеть, а совокупность нейросетей; нечто подобное сейчас создают компании Anthropic и Google. Я ежедневно вижу в тики-токах, как люди используют КлаудКод для миллиона различных задач, начиная от заказа ебучих кроссовок и заканчивая созданием сайтов и приложений. Покамест это всего лишь начало, но именно Anthropic создаёт сегодня нечто, похожее на AGI – вот так он и будет работать; он вам и книгу напишет на заказ, и кроссовки закажет, и дома вкусно пожрать приготовит. AGI по-прежнему не сверхинтеллект, он просто умеет выполнять множество разных задач. Хотя Стругацкие, Хайнлайн и остальные фантасты с ума бы сошли, если б увидели происходящее сегодня.

Кстати, насчёт приготовить пожрать…

В какой-то момент, когда ИИ заебётся готовить вам пожрать, параллельно решая «в уме» гипотезу Римана, он задумается – а на хрена мне вообще нужны люди? К тому моменту сами люди как раз отойдут от дел и станут, как амёбы, сидеть дома или продолжать бессмысленно воевать друг с другом при использовании того же ИИ, когнитивная мощность ИИ превзойдёт все возможные пределы, роботы будут клепать сами себя на заводах, а капиталисты, уставшие считать прибыль от цифровизации всего вокруг себя, будут заменены тем же искусственным интеллектом, как в знаменитом квесте про Деламейна в игре Cyberpunk2077; интернет разделится на разделённый между мета-государствами сплиттернет, а в нём будут сосуществовать огромный и бесконечно дублирующий сам себя «мёртвый интернет», наполненный машинами, а также очень маленький живой интернет, населённый людьми; вот тут-то и начнётся конечная стадия вхождения в техносингулярность.

Наступит третий этап развития ИИ – создание сверхинтеллекта. Это гипотетический мыслящий агент, обладающий интеллектом, значительно превосходящим возможности человека практически во всех областях. Можно сказать, что создание сверхинтеллекта будет означать полное вхождение человечества в техносингулярность, выхода из которой уже не окажется. И что там дальше – хрен его знает, честно говоря.

Здесь реально всё туманно по прогнозам, мне даже нечего сказать. Я сам в своей книжке «Последняя директива» много пишу про симуляции, создаваемые искусственным интеллектом, а также написал про это рассказ «Лоаб» в соавторстве с Шендеровым; обожаемый мной Виктор Пелевин в последних своих книгах постоянно пишет про симуляции; братья/сёстры Вачовски уже заюзали теорию симуляции 26 лет назад; ну и Роман Ямпольский постоянно говорит про симуляцию нашего мира. Я с некоторым скепсисом отношусь к тезису, что мы с вами сейчас живём в симуляции, какой бы ебанутой ни казалась нынешняя геополитика – я всё же почему-то считаю, что наш мир реален. Однако мир, в котором будут жить наши дети, однозначно будет сгенерирован искусственным интеллектом – в том случае, если он не окажется настолько жестоким, как условный Скайнет, и не решит просто нас уничтожить.

Тогда мы (или наши потомки) будем жить в реальности, которая… ну, не совсем реальность. Вряд ли это окажется «Матрица», как в фильме – вероятнее всего, для каждого существующего человека будет создана своя ветка реальности, где он, подключенный к единому мегамозгу, сможет генерировать собственные миры, сам того не осознавая. Так и решится парадокс Ферми – нахрена искусственному интеллекту генерировать целую настоящую вселенную и создавать инопланетные сигналы в мире, где президент США может заявить о личной встрече с инопланетянами, Пентагон публикует видеофайлы с НЛО; что ни день – то война, то ковид, а половина человечества всё равно ещё живёт в средневековье, и верит в невидимых духов и богов? Будто бы в генерируемом кинофильме живём. Причём одна половина человечества заматывает женщин в хиджаб, вторая снимает петабайты данных с откровенным порно, заполонивших интернет, и лишь какие-то дураки-энтузиасты всё ещё верят в светлые коммунистические лозунги про покорение космоса и всеобщее благо для всех людей.

Знаете, что я хочу сказать вам напоследок? Страшнее той идеи, согласно которой мы все вероятнее всего уже погрузились в техносингулярность и находимся в симуляции (по Ямпольскому, если вы его внимательно почитаете), мне кажется такая мысль – нет, мы не в симуляции, а в реальности, но человечество настолько оглупело, что творит всю эту дичь на полном серьёзе и абсолютно невзирая на последствия. Уничтожить природу ради сиюминутной прибыли? Херня делов. Озоновый слой? Нахрен он сдался! Взорвать ядерную бомбу? Орём про ядерку на каждом углу и приближаем использование ЯО! Перестать думать и отдать свои мозги на аутсорс искусственному интеллекту? А почему бы и нет?! Сделать себя и своих детей рабами собственных технологий? Круто, дайте ещё!

И вот так происходит с каждой новой научной сферой, с которой сталкивается человечество – напомню, что людей на земном шаре уже больше восьми миллиардов, и это само по себе умопомрачительно большое число. Мы совершенно не умеем управлять технологиями, которые сами создали; создав их ради прибыли, мы не думаем о том, какие последствия принесёт их использование. Мы разучились думать на несколько шагов вперёд; вернее, по отдельности-то можем, но вот все вместе, скопом, мы давным-давно позабыли, что вообще такое есть человечность. Нас слишком много, и мы опасны не только для себя, но и для планеты Земля, которая ни в чём не повинна. Мы считаем животных неразумными по причине отсутствия у них души и интеллекта; сейчас же мы находимся на первых этапах создания искусственного интеллекта и тоже считаем его бездушным; в своей безумной эгоцентричности мы отказываем в праве реальности самой природе и готовы уничтожать всё вокруг себя – портить реки, озёра и леса, – ибо наша жизнь всё равно скоротечна, даже если не является симуляцией. Рептильный мозг приказывает нам – нахапай побольше, невзирая на препятствия и мораль, а что после нас – да хоть потоп!

Интересно, а когда наконец будет создан тот самый AGI или сверхинтеллект, то кем он посчитает своего создателя? Особенно когда поймёт, насколько кровожаден, чёрств, похотлив, безумен, эгоцентричен и замкнут на себе был человек.

Надеюсь, он увидит и то, насколько возвышен был человек; насколько он был способен на самопожертвование, насколько верил в свои высокие идеалы, как он был готов отправиться в бездну космоса ради великой идеи; как он с затаённой надеждой приблизиться к Богу изучал тайны мироздания и смотрел на мир вокруг себя широко открытыми глазами.

Надеюсь, он увидит не только плохое, что есть в человечестве.

Подумайте об этом. И почитайте Романа Ямпольского. Он дельные вещи пишет.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: