Искусственный интеллект: изобретение, способное улучшить нашу жизнь, или потенциальная угроза?

Буквально несколько дней назад новостные ленты пестрели сообщениями о том, как программа искусственного интеллекта AlphaGo от Google выиграла четыре из пяти партий в игру Го у южнокорейского чемпиона. Примечательна эта новость тем, что игра в Го чрезвычайно сложна для искусственного интеллекта. В отличие от шахмат, в Го возможно гораздо больше ходов и комбинаций, что на порядки усложняет создание алгоритмов, способных предсказывать действия соперника. Игроки-люди же и вовсе полагаются в основном на интуицию.

Событие это может показаться не таким уж и значительным, но если задуматься - к чему может привести нас развитие технологий в этом направлении?

Чем дальше мы движемся в будущее, тем яснее становится, что вскоре ИИ станет отнюдь не выдумкой фантастов, а вполне реальным явлением. Ведь искусственный интеллект - это не только разумные человекоподобные роботы, но и программы, давно уже окружающие нас в современности и упрощающие нашу жизнь: распознавание речи или отсканированного текста, решение вычислительно-сложных задач за короткое время и многое другое - всё это стало доступно благодаря развитию искусственного интеллекта.

Однако же, когда речь заходит именно о человекоподобных роботах, важным становится и другое понятие - достаточно близкое по смыслу, но сильно отличающееся от понятия ИИ по своей сути: искусственный разум.

Чтобы понять разницу между «искусственным интеллектом» и «искусственным разумом» достаточно вспомнить старый анекдот: астронавт попросил робота удалить из комнаты все круглые предметы, и тот оторвал ему голову. То есть, робот, вооружённый лишь интеллектом, но не наделённый разумом, ограничен и опасен в своём стремлении решать задачи и выполнять команды.

Современники считают, что машина станет разумной тогда, когда будет способна поддерживать разговор с обычным человеком, и тот не сможет понять, что говорит с машиной. Писатели-фантасты предлагают другой подход: искусственный разум возникнет тогда, когда машина будет способна чувствовать и творить.

Выглядит достаточно безобидно, не так ли? Однако же многие помнят Красную Королеву из «Обители Зла», Скайнет из «Терминатора», мир машин «Матрицы», VIKI из фильма «Я, робот», Аву из «Ex machina», гетов из серии игр «Mass Effect»- Перечислять можно до бесконечности, художественная литература и кинематограф полны историй о том, как создания рук человеческих выходят из-под контроля, и чем это способно обернуться.

Из этих примеров можно заключить, что один из главных вопросов, интересующих человечество относительно ИИ, состоит в следующем: а что сможет остановить разумную машину, если она таки решит «захватить мир» и «убить всех человеков»? Что ограничит её? А следом встаёт и вопрос морально-этический: имеет ли право человек, создавая мыслящую машину по своему образу и подобию, использовать её лишь как бесправное оборудование?

Наверняка многие знакомы с понятием «Трёх законов робототехники» Азимова:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда они противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности, пока это не противоречит Первому или Второму Законам.

Казалось бы, подобные Законы и должны быть тем самым «стоп-краном», который не позволит ИИ причинить человеку вреда. Однако если копнуть чуть глубже, окажется, что даже эти Законы небезопасны, поскольку могут, например, побудить ИИ захватить власть на Земле, чтобы «защитить» людей от вреда, создать для них полностью безопасную среду обитания, лишив их свободы «ради их же собственного блага» (как планировала VIKI из фильма «Я, робот»).

Современные же робототехники и вовсе утверждают, что на сегодняшний день Азимовские Законы хороши для написания рассказов, но бесполезны на практике. Ведь они вряд ли когда-либо будут реализованы: это не нужно военным структурам - главному источнику финансирования исследований в этой области.

Необязательно, конечно, искусственный интеллект будет враждебен по отношению к человеку, но не учитывать это тоже нельзя. Хотя бы потому, что искусственный интеллект невозможно будет загнать в рамки. А также потому, что даже если ИИ не будет желать человеку зла, программное обеспечение сможет смоделировать столько типов интеллектов и разумов, что человеку скоро станут недоступны способы мышления, которые доступны роботам.

Спорных вопросов и предположений в любом случае остаётся ещё очень и очень много. Нам же пока остаётся лишь с интересом наблюдать за новыми достижениями в области ИИ. И надеяться, что мыслящие машины станут нашими помощниками, а не врагами. Ведь, как говорила героиня рассказа Азимова «Улики», отвечая на вопрос, есть ли разница между роботом и человеком: «Огромная разница. Прежде всего, роботы глубоко порядочны».

Комментарии: