Теперь это их мир

Перевод статьи сценариста «Доктора Стрэнджа» и писателя Роберта Каргилла о будущем и угрозах искусственного интеллекта.

Искусственный интеллект и робототехника всё увереннее переходят из области фантастики в реальность. В последнее время с завидной регулярностью появляются новости о разработках в этих областях, и почти столь же часто звучат предупреждения об угрозах, которые те могут таить для человечества.

Журналист, фантаст и сценарист Роберт Каргилл (сотрудничал с сайтами Ain't It Cool News, film.com и hollywood.com, работал над фильмами «Доктор Стрэндж» и «Синистер») написал роман «Море ржавчины», в котором подобные опасения оказались не напрасны, и роботы уничтожили своих создателей.

В преддверии релиза книги на английском Каргил написал статью об опасностях искусственных интеллектов. В честь выхода романа на русском языке мы подготовили перевод материала.

Я не собирался писать актуальный роман, честное слово.

Когда идея «Моря ржавчины» пришла ко мне несколько лет назад, целью было написать забавную, приключенческую историю о роботах, действие которой разворачивается после гибели человечества. Книгу с постапокалиптической атмосферой и большим количеством экшена.

Но постепенно идеи из бесформенных образов начали, переплетаясь между собой, превращаться во что-то гораздо более конкретное. И вместе с этим пришло осознание, что для той многогранной истории, что я задумал, требуется гораздо более проработанный мир, чем мне представлялся изначально.

И когда я углубился в исследование и наметил путь к такого рода будущему, мне пришлось столкнуться с множеством вопросов, которые мы, как общество, начнем задавать. Это вопросы, которые на этой неделе (на той самой неделе, когда книга фактически вышла) мировые лидеры начали публично обсуждать.

Когда я проснулся и обнаружил, что Владимир Путин произнес вдохновляющую речь об искусственном интеллекте, сначала у меня засосало под ложечкой.

«Искусственный интеллект — это будущее не только России, но и всего человечества, — сказал он. — Это связано с колоссальными перспективами, но также и с угрозами, которые трудно предсказать. Тот, кто станет лидером в этой сфере, станет правителем мира».

Я в шутку написал в Twitter, что он подглядел в моей книге, и поблагодарил его за это. Но по мере того, как я углублялся в его речь, вес его послания становился всё более ясным.

Это была не шумная болтовня о будущем России и её необходимости стать мировым лидером в новой технологической революции — это было стартовым выстрелом для очень опасной гонки, которая, если мы не будем осторожны, может направить нас всех на очень тёмный, тяжкий путь.

Привлекательность искусственного интеллекта неоспорима. В то время как на ум мгновенно приходят разумные оружия из «Терминаторе» или дружественные роботы-компаньоны из романов Азимова, легко отмахнуться от них, посчитав, что они не нужны обществу или не представляют угрозы.

Но как насчет искусственного интеллекта, единственная работа которого — изучать, анализировать и в конечном итоге лечить рак? Или болезнь Альцгеймера? Или узнать, как обратить вспять процесс старения, вызвать регенерацию в организме человека? Или изучать астрономические угрозы? Или погодные условия, чтобы предсказывать ураганы на недели вперед, если не месяцы?

Это будет интеллект, которому никогда не нужно будет есть, спать или заниматься сексом, который не нуждается в деньгах или в выходных. Сознание с прямым доступом ко всем необходимым данным, которые ему потребуются. Сознание, которое никогда не отвлечётся и способно проводить неисчислимое количество операций. Сознание, полностью сфокусированное на раскрытии тайн святых граалей современной науки.

Какие могут быть причины, чтобы не создавать его?

И что произойдет, когда этот большой интеллект начнет думать сам за себя и решит, что лучше потратить свое время на другие, более интересные для него занятия?

Имея это в виду, большие умы вроде Илона Маска настаивают на ограничениях на производство оружия для войны. Маск недавно высказался в Twitter: «Китай, Россия, скоро все страны будут обладать серьезными научными знаниями в области информатики. Международная конкуренция за лидерство в области искусственных интеллектов — наиболее вероятная причина Третьей мировой войны».

Нам безусловно необходимо начать с того, чтобы прислушаться к его словам. Но создание оружия — не самая большая угроза нашему существованию. Нет, настоящая опасность в экономическом хаосе, который может охватить цивилизованный мир. Видите ли, вы уже регулярно взаимодействуете с примитивными версиями ИИ.

Вы когда-нибудь звонили в телефонную компанию, где с вами говорил компьютер полноценными предложениями, прежде чем переадресовал вас к человеку, способному справиться с вашей проблемой? Всего через десять лет вам больше не нужно будет говорить с кем-либо; вы просто поговорите с компьютером без дальнейшей переадресации, в этом не будет ничего удивительного. Ничего больше для телефонного сервиса не потребуется.

Но что произойдет с человеком, чья работа заключалась в этом? Что произойдет с миллионами других людей, имеющих схожие работы? Что произойдет, когда все машины в мире не будут нуждаться в водителе, больше не будут разбиваться, больше не будут нуждаться в ремонте, буксировке и страховании после аварии?

А как насчет профессий, которые исчезнут? И это только верхушка айсберга, касающаяся рабочих мест, на смену которым придут ничего не чувствующие искусственные интеллекты. Однажды компьютеры смогут стать разумными, и тогда многие сферы деятельности, существующие сейчас, окажутся не нужны. И больше не будут появлятся новые отрасли, в которые могли бы перейти, оставшиеся без работы люди.

И нам будет от этого только лучше — если, конечно, не считать досадной проблемы с безработицей.

И нам нужно об этом подумать об этом сейчас. Это будущее, которое ждет нас в ближайшие десятилетия, а не столетия. Вы вполне можете дожить не только до того дня, когда машина заменит вас, но и до того дня, когда машина будет решать, нравитесь вы ей или нет.

В «Море ржавчины» я отталкиваюсь от этой идеи, чтобы создать приключенческую историю. Но я надеюсь, что она также даст пищу для размышлений — о поиске места для человека в мире, где машины делают неприятные, трудоемкие или сложные вещи, которые мы в настоящее время делаем сами.

Хотя я искренне надеюсь, что война с роботами по-прежнему остается только сюжетом фантастических произведений, самая настоящая экономическая битва нас ждёт. И нам нужно работать совместно, чтобы в итоге победителем стала не одна нация, а человеческая раса в целом.

Материал подготовлен редакцией издательства интеллектуальной фантастики fanzon.