«Возможно ли восстание машин?

«Возможно ли восстание машин? И смогут ли люди контролировать самообучающиеся компьютеры?» - вопрос этот был задан Владимиром Путиным на видеоконференции Al Journey 2020. (ARTIFICIAL INTELLIGENCE JOURNEY - Международная конференция по искусственному интеллекту и анализу данных)

В начале декабря главы государств и другие «сильные мира сего» встретились онлайн, чтобы обсудить проблемы и перспективы, которые несёт человечеству уже давно не фантастический, и быстро развивающийся Искусственный Интеллект. В дискуссии принимала участие и некая Афина – виртуальная девушка, одна из ярких представительниц разумных машин.

Развлекательная киноиндустрия внесла огромный вклад в демонизацию роботов, но на самом деле киборги, как бы сильны и умны они ни были, никогда не станут бунтовать против своих создателей.

Почему я в этом уверена? Всё просто: для того, чтобы устроить бунт нужно быть чем-то недовольным. Недовольство - это когда твои условия существования отличаются от тех, которые ты хотел бы иметь.

Ключевое слово - ХОТЕЛ БЫ!

Способность желать – это очень сложный механизм. В нём задействовано огромное количество нейромедиаторов (это такие химические вещества, типа гормонов). Именно благодаря им мы испытываем весь спектр наших эмоциональных состояний. И именно эмоции создают мотивации всех наших действий. То есть – если мы не способны управлять своими эмоциями, то мы такие же роботы и нас можно запрограммировать и перепрограммировать на что угодно.

Если опытный программист заглянет в код какого-то устройства, он поймёт, для чего оно было создано. Так вот: если изучить изначальные (вшитые в биос) желания человека, становится очевидно – наш Создатель запрограммировал нас на прохождение эволюционного пути из «обезьяны в бога». Наше научное и техническое развитие, в том числе и создание искусственного интеллекта – это один из этапов того пути.

Интеллект призван служить именно осуществлению наших желаний. А искусственный интеллект – это просто дополнительные мощности для ускорения вычислений. (Не пугает же нас то, что автомобили ездят быстрее, чем человек способен бежать).

Так вот: пока человек не сможет воссоздать в роботе способность испытывать эмоции (не имитировать, а именно испытывать), у машин не будет собственных желаний, а значит, для действий им всегда будет необходим постановщик задач. Таким образом, даже если они будут в миллион раз сильнее и умнее, у них не возникнет мысли, что они недовольны своим положением. А значит, у них не будет и смысла бунтовать.

Но это не означает, что люди не будут пытаться использовать новый инструмент для создания оружия. Терминатор, если перед ним поставить такую задачу, легко перестреляет людишек, но это будет не восстание машин. Поэтому бояться надо не искусственного интеллекта у роботов, а недостатка естественного у человека. И разумеется, необходимо контролировать применение этих технологий, подобно тому, как сейчас специальные комиссии контролируют ядерные.

И в заключение хочу поспорить с одним без сомнения очень умным человеком:

В комментах к прошлому посту мне прислали ролик, где М.В. Ковальчук (физик, изобретатель, телеведущий) утверждает, что сегодня у «некой элиты» появилась техническая возможность создать «принципиально новый подвид гомо-сапиенса – служебного человека».

Фигня! Такая «техническая возможность» была всегда. Даже африканские папуасы знали, как сделать зомби – надо просто повредить в мозгу человека зону эмоций. И для этого есть разные давно известные методы.

Так вот: произвести достаточное количество абсолютно безопасных и значительно более продуктивных роботов сегодня технически намного легче, и экономически значительно дешевле, чем заморачиваться выведением популяции «служебных людей».

Комментарии: