Где хранится мораль у робота?

Сейчас я много общаюсь с журналистами и блогерами, пишущими про Искусственный Интеллект, всех стран и национальностей. Все вопросы разные. Всех волнует разное. Но, один вопрос неизменно повторяется от Америки до Китая:

-Как выстроить моральные ограничения стремительно развивающемуся Искусственному организму, чтобы можно было комфортно существовать людям и роботам на планете?

Как будет выглядеть мораль смешанного общества, где, на самом деле, физически силиконовый организм со временем будет гораздо менее уязвимым чем биологический?

Приведу цитатку:

"Я не верю в мировое братство людей. Кажется, я уже говорил об этом. Я верю, что моя раса – соль земли. Я научный социалист, а не утопист, я – человек практики в противоположность человеку воображения.” - это не Адольф Гитлер, это мой любимый в детстве писатель Джек Лондон.

А вот он же, чуть позже:

"Война— это божественная милость по сравнению со смешением пород!”

Роман Джека Лондона "Мятеж на Эльсиноре" не издавался в СССР с 1929 года. Полагаю, что и изданные экземпляры позже хранились в спецхранах. Идеи, заложенные в произведении – белый расизм и ницшеанство.

В американских программах Джек Лондон предан забвению. Никто из моих заокеанских знакомых просто не знает о существовании этого писателя. А ведь его "Белый Клык" прекрасен, да и все, посвященное Аляске и китобоям написано не книжным червем, а реальным участником событий, что делает произведения вдвойне ценными.

Для десятых-двадцатых годов прошлого века, думаю, расисткая позиция была вполне моральной. Потом человечество поиграло во вторую мировую войну и система взглядов и отношений начала меняться.

Беседуя с нейрофизиологами, я уяснила одно - в человеческом мозге нет физически такой области под названием Хранилище Морали. То что мы называем моральными устоями - это не до конца детерминированная система коллективного договора с различными допущениями и попустительствами относительно элитарных групп. Ну, типа, все равны, но вот те товарищи, на самой большой яхте в мире, равнее и т.п.

Вся эта нечеткость прокатывает как-то в человеческом мире, не без катастроф и извращений, но прокатывает. И абсолютно недопустима для смешанного робо-человеческого общества.

Как только мы зададим Искусственному Интеллекту нечеткие допущения, ситуация начнет развиваться не в пользу человечества. В очень срочном порядке нам всем надо договориться по основным понятиям, иначе прекратим существование.

Ещё три года назад я реально рассчитывала, что для этого не понадобится еще одна мировая потасовка, как в прошлый раз, когда сели договариваться по ядерному сдерживанию. Но... Человечество движется не по спирали, оно по кругу бегает. И новая военная история, где дроны массово убивают людей - видимо только прелюдия к большой крови перед срочной выработкой договоренностей по сдерживанию и неприменению новейших технологий в летальных вооружениях. Хотя бы на уровне Айзека Азимова. Пусть будет очень простая и понятная формулировка:

"РОБОТ НЕ ИМЕЕТ ПРАВА ПРИЧИНИТЬ ВРЕД ЧЕЛОВЕКУ"

Для начала - норм.

Закончу Джеком Лондоном же из "Пути Белого Человека":

"...— Это все из-за лживого и дурного белого племени, — объявила Зилла.

— Нет, — ответил старик тихо, но твердо. — Это все из-за того, что белый человек поступает всегда по-разному и понять его нельзя..."

Источник: vk.com

Комментарии: