ДЕГРАДАЦИЯ ЧЕЛОВЕЧЕСКИХ СМЫСЛОВ

(Как искусственный интеллект становится фоном для человеческой катастрофы)

Это персональный блог, и я, конечно, стараюсь здесь писать всё хорошее про себя, своих друзей, свои проекты, книжки.

Негатив я учитываю, но вычищаю. Зачем мне ещё и дома неприятности. Но есть критические отзывы и письма, мимо которых, как мне кажется, я не могу пройти.

Этот отзыв написал мой коллега. Инвестор крупного ИТ-холдинга. Это — отзыв на «Рашу» (https://uskovalife.ru/rusha). Сам парень сидит с семьёй в Уругвае (по уважительным бизнес-причинам) и просил фамилию не писать.

«Ольга, привет! Читал твою „Рашу“ и думал, что в эпоху ИИ предельно обнажилась деградация (именно деградация, полная несостоятельность) человеческих смыслов. И ты невольно вытащила это в „Раше“ и начала тыкать таким в лицо читателю.

Мы научили машины думать. Но забыли научиться жить сами. Почему книженция о будущем ИИ, написанная Матерью Терминаторов (ты извини, но так оно и есть в „Раше“), неожиданно оказалась книгой о человеческой катастрофе?

Последние два года мы все в этом мире живём в странном состоянии эйфории вымирающих идиотов.

Каждую неделю появляются новости:

— новая нейросеть пишет код лучше junior-разработчика;

— ИИ рисует лучше дизайнеров;

— LLM заменяют отделы поддержки;

— роботы от «Когнитив Пилот» обрабатывают поля;

И т.д. и т.п.

Ощущение, что AGI уже «где-то рядом», а сингулярность вот-вот постучится в дверь.

Tech-рынок снова продаёт нам красивую мечту: машины скоро решат все проблемы. Но остался один неудобный вопросик.

А что, если главная проблема человечества никогда не была технологической?

Что, если мы создаём всё более совершенный ИИ, оставаясь цивилизационно незрелыми существами?

Именно про это я прочёл в твоей нашумевшей книжке «РАША».

Ты всегда была — «не как все». Твой ИИ в романе не выглядит фантастическим аттракционом.

В большинстве книг, которые я читал: ИИ — главный герой. Либо он уничтожает человечество, либо спасает его. Старая схема.

В «РАШЕ» всё намного страшнее. Здесь ИИ — не монстр. Он уже встроен в реальность. Развивается. Влияет на всё. На безопасность. На власть. На войну.

Но при этом главный вопрос в романе ведь не про релокантов (я изучил отзывы на книжку. Все — только про это и пишут. Отстаньте уже от нас! Займитесь реальными проблемами). Главный вопрос романа звучит иначе:

Если машины становятся умнее — почему люди становятся слабее?

Главный герой — человек новой реальности.

Глеб — нейронный программист. Он работает с передовыми технологиями. Живёт в логике рациональности. Верит в технологическую эволюцию.

По сути — типичный герой современной tech-среды. Такой же, как мы. Как моя команда.

Глобальный, ироничный, цифровой.

Мы верим, что хаос можно оптимизировать.

Что мир рационален.

А потом мир приходит к нам и ломает все наши построения одним телефонным звонком.

Настоящая катастрофа приходит не через Skynet.

Она является через человеческую жестокость, ненависть и войну.

Уже с первых страниц ты впускаешь смерть.

Любимая женщина героя погибает. Его привычная картина мира рушится. ИИ не может отменить смерть. С тленом и гробом в самолёте.

Сегодня огромное количество людей в tech-среде живёт с ощущением: «мы строим будущее».

Но вот вопрос:

а кто именно строит это будущее?

Люди, которые не научились договариваться и не уничтожать друг друга.

Мы создаём всё более умные системы. Но человеческая эмоциональная зрелость остаётся на уровне древних племенных конфликтов.

И в этом главный ужас.

Мы боимся, что ИИ заменит человека.

Но ведь гораздо страшнее другое — человек сам постепенно отказывается от своей человечности. Сам себя заменяет на ИИ.

Ты знаешь, я вошёл в первую сотню мирового рейтинга эффективных менеджеров hi-tech Кремниевой долины.

Я состоялся как инвестор и айтишник. Но я, закрыв твою книгу, не смог себе ответить на вопрос:

А мы точно успеем сделать людей достаточно человечными раньше, чем машины станут слишком умными?»

Для меня "Раша" - это больно

Перечитывать не буду, пока сам с собой не разберусь. Но книжки твои раздал по офису. Пусть не мне одному будет больно. Когда болит, значит еще внутри что-то живет.

Телеграм: t.me/ainewsline

Источник: uskovalife.ru

Комментарии: