Генезис: Искусственный интеллект, надежда и душа человечества

Обычно на страницах CatScience пишут обзоры научно-популярной литературы, но сегодня у нас книга другого рода. Здесь не столько отдельная наука, сколько популярное объяснение научного прогресса человечества и то, какую роль в этом может сыграть ИИ, разобрано очень подробно и интересно. Поэтому давайте я начну с конца, с вердикта, а почему он такой, я распишу уже по ходу обзора.

Это книга, которую действительно стоит прочитать каждому, кто знает как расшифровывается ИИ: оптимистам, скептикам, разработчикам, главам государств и корпораций, писателям-фантастам, режиссерам и продюсерам, учителям и преподавателям. Я честно не могу придумать тех, кто думает об ИИ и кому эта книга при этом не принесет пользу. Но осознание этого пришло после долгих обсуждений книги с разными людьми, а вот в начале…

Еще никогда я так не ошибался, как с выбором данной книги для прочтения. Как преподаватель технических и других, связанных с современным прогрессом человечества, дисциплин, я уже некоторое время планировал развить свои общие представления об ИИ до чего-то конкретного, а тут такая притягивающая внимание обложка, приятное пальцам конгревное тиснение, да еще и авторы, мягко говоря, вызывающие уважение. И их стоит представить:

Крейг Манди – олицетворение мечты американского айтишника, прошедшего путь от стартапа до директора Microsoft по исследованиям и стратегии, а заодно и до советника президента США. Т.е. сомнений в том, что человек знает и матчасть, и нюансы планирования крупных проектов, а еще в курсе как это донести до слушателя свои знания и мнение, абсолютно никаких.

Эрик Шмидт – имеет более интересный список достижений, поскольку тут много громких названий. Первый заметный пост – главный менеджер по технологиям в Sun Microsystems, которую мало кто знает, но вот разработанный ею в это время язык программирования Java явно знаком многим. В 2001 он стал исполнительным директором Google, из-за чего, в последствии, был вынужден покинуть совет директоров Apple. В 2016 его назначают главой совета по инновациям Пентагона. С ИИ он тесно связывается в 2022, создав фонд по содействие исследованиям в сфере ИИ, а в 2024 его компания по производству беспилотников с ИИ за счет связей в Пентагоне заняла очень интересную позицию в сфере поставок сами догадываетесь чего сами догадываетесь куда. Это, мы, конечно, осуждаем, но к компетенциям человека, опять же, вопросов нет.

А вот третий автор, который на самом деле первый, в моей памяти не всплыл, и именно это стало моей главной ошибкой – Генри Киссинджер. Да, его имя выделено на обложке, но я посчитал, что это часть уважения усопшему. Оригинал на английском вышел в 2024 и дописывался уже после его смерти в 2023, поэтому и предисловие от самих авторов идет как посвящение Киссинджеру. А жизнь у человека была насыщенная по самое не балуйся, поэтому позволю себе выделить на это отдельный абзац.

Родился он в 1923 году, в Германии, в еврейской семье… Но судьба была к нему благосклонна и в 1938 ему с родственниками удается эмигрировать в США, там в 1943 его призывают на служу в армию и выдают гражданство. Да, Киссинджер возвращается в Германию, но уже совсем не как ее житель. После Арденнской операции как хорошо знающий немецкий он становится ответственным за денацификацию города Крефельд, с чем успешно справляется. Далее служба в контрразведке и аналогичная деятельность уже в больших масштабах, как ни крути, охота на бывшее гестапо в 1945 дело особое. После войны он получает степень бакалавра и начинает карьеру в политике, сразу берясь за тему взаимодействия государств в условиях холодной войны, а в 1957 выпускает свою первую книгу с говорящим названием «Ядерное оружие и внешняя политика». Далее можно привести бесконечный список госструктур США, где он был советником или экспертом, но отмечу лишь должность Советника по национальной безопасности президента США, которую он получил при Никсоне. В 1973 Киссинджер становится Государственным секретарем США. Должности это хорошо, но надо бы посмотреть на дела. А тут у нас разрядка в отношениях США-СССР, временное перемирие между Вьетнамами (и ачивка в виде нобелевки мира), переворот Пиночета и ликвидация коммунистов в Южной Америке, идеи о контроле численности населения в странах третьего мира через продвижение контрацепции, договор о запрете испытаний ядерного оружия, чего только не было, но вот про последнее надо сказать подробнее. Все мы еще со школьной скамьи слышим о концепции полного взаимного уничтожения в случае ядерной войны, которая и сдерживает всех от использования ядерки. Так вот, ее миротворческая сдерживающая роль во многом оформлена стараниями именно Киссинджера, который использовал ядерную угрозу как часть переговоров, но и прекрасно понимая, где можно надавить, а где нет.

И вот вопрос, о чем же мог написать книгу такой коллектив авторов, где у политика первая скрипка? Явно не о технических особенностях развития ИИ, а скорее о его перспективах в мировой экономике и политике, и стоит сказать, что это получилось великолепно. Ведь как обычно пишут подобные прогнозы? Берем ретроспективу, берем аналогии прошлое-настоящее, приправляем своим мнением по вкусу и все, получаем условные «Будущее человечества через 100 лет правления ИИ», получите и распишитесь. И вот Киссинджер, берет исторические факты, расписывает развитие науки, ты уже предвкушаешь заход в область синергии и междисциплинарных открытий, но он разворачивается на 180 градусов и объясняет, почему все это не сработает.

И что же тогда из себя представляет «Генезис»? Если отбросить историческую часть, где поясняется эволюция научных подходов от одиночек до коллективов и как сильные мира сего либо возводили эти достижения на небывалый уровень, либо ломали об колено всю науку, то остается очень мощный и крепкий список того, что может ждать человечество в будущем. Причем начинается оно с того, что корпорации, которые смогут эффективно использовать ИИ и обеспечат себе техническое превосходство над конкурентами, подчинят себе или даже введут новые правила мировой экономики. И вот вроде привет грязный киберпанк, но смотришь на то, что сейчас затеял OpenAI с закупкой железа и думаешь, а ведь это ставка именно на такой вариант развития событий.

Чем нас там еще обычно пугают фантасты, тем что ИИ отнимет у людей работу? А вот держите описание проблемы «нулевой суммы» труда человека и роботов, как автоматизация сначала отнимет работу у миллионов людей, а потом убьет само понятие профессий, и что владение железом станет ценнее, чем знаниями о его работе. Но раз роботы сами себя контролируют, не станут ли люди считать их магией или чем-то божественным? Или наоборот, считать себя богами, раз создали такое? А что ИИ станет именно электронным сознанием, со своими желаниями и волей, ведь это можно будет сравнить с появлением новой расы на Земле или с прилетом инопланетян, обладающих неподвластной человеческому разуму логикой.

Но Киссинджер политик, а значит тему того, какие полномочия можно выдать ИИ в вопросах управления человечества он разберет наиболее подробно, не так ли? Ну хоть тут я не ошибся в своих предположениях. На самом деле это отдельное занимательное эссе, а согласится ли человек отдать власть, причем под человеком в данном случае не двусмысленно подразумеваются не глобально люди, а элита, принимающая решения. Ведь в своей массе люди уже отдались на волю рекомендациям в выдаче контента, которые явно выдают не операторы, а алгоритмы.

Хорошо, допустим, что какая-то часть управления досталась ИИ, а что дальше? Будет ли для ИИ человеческая натура чем-то сверхценным, или наоборот, станет ошибкой, которую надо устранить? А если надо сохранять, то что именно, какая культура достойна стать сохраненной, ведь прочие, противоречащие ей, по холодной логике машины точно должны быть уничтожены.

Точного ответа на все эти вопросы не сможет сейчас дать никто, и даже Киссинджер пааааризнает это, расписывая именно факторы и возможные исходы, заодно поясняя, что решения политиков, которые определят это будущее, далеко не всегда подчиняются логике.

Не могу сказать, что мне есть за что поругать книгу (ну разве что пара опечаток и немного странная верстка примечаний), но во многом хочется с ней поспорить. Во-первых, слишком уж сильно Киссинджер надеется на ИИ со свободой воли в ближайшее время, во-вторых, это время описывается в лучших традициях советских фантастов, описывающих страну победившего коммунизма, где самая идей профессий канет в лету, поскольку за людей все будут делать роботы. Идея некоторой единой культуры, которая должна воцариться на Земле и именно ее мораль должна стать основой для ИИ… Это все логичные выводы, но они никуда не идут, у каждого из нас есть свой взгляд на эти проблемы и свои ответы, и вот этим «Генезис» зацепил именно меня.

Книга не выступает догматиком, который хочет что-то объяснить несмышленышам, напротив, Киссинджер ведет очень аккуратную игру в диалог, высказывая аргументы и за, и против, и вообще в сторону, где это возможно.

По итогу я еще раз повторюсь, «Генезис» действительно стоит прочитать каждому. Для кого-то он станет отправной точкой в философию ИИ, для кого-то антологией возможных вариантов будущего, а для кого-то достойным собеседником, который позволит и свои мысли упорядочить, и по новому взглянуть на тот мир, который нам готовит ИИ.

Источник: vk.com

Комментарии: