Социализация искусственного интеллекта

Выживание среди себе подобных - самая сложная задача из существующих. Мне лично проще разобраться с ситуацией на необитаемом острове, чем в группе незнакомых, вероятно, негативно настроенных людей. Это очень древние механизмы, заложенные в нас природой.

Когда мы чувствуем, что наши мысли необходимо защитить от влияния извне, то в дело вступают нейротрансмиттеры, норадреналин. Это предшественник адреналина, гормон побуждающий к действию. Сигналом к выделению норадреналина может быть даже просто отличающееся от вашего, мнение другого человека. Самое примитивное возражение запускает защитную реакцию, когда более примитивная часть мозга вмешивается в рациональное мышление, и лимбическая система может блокировать нашу рабочую память, физически вызывая «заторможенность мышления».

Метод угроз, запугивания, блефа в карточной игре, демонстративного упрямства (пусть все знают, что я несгибаемый осел), всё это - древние как мир способы привести партнера в нерабочее состояние. Какой бы ценной ни была идея, в таком состоянии мозг не способен её обработать. Нейроны сообщают об угрозе даже если это - безобидные мнения или невинные факты.

Когда мы говорим о создании социальной системы взаимодействия в группе, мы очень часто оперируем понятием "мотивация". Соотношение кнута или пряника в схеме может быть разным. Но обязательно сосуществуют системы наказания, запугивания и системы премирования, вознаграждения.

Отдельно интересно, что одним из сильных управляющих параметров является даже не само вознаграждение человеку, а оценка того, как мы реагируем на вознаграждение другим. Говоря нормальным языком - степень ЗАВИСТИ. При этом выделяются те же гормоны, что и при запугивании и также блокируют мозги. Завистливый человек не в состоянии нормально мыслить, его интеллектуальные способности тормозятся норадреналином.

Японские ученые из Национального института естественных наук под руководством Атсуши Норитаке (Atsushi Noritake) посвятили этой теме ряд экспериментов с макаками. Описание эксперимента есть в сети. Оно довольно громоздкое, но выводы получились вполне очевидными. Выделение дофамина, когда партнер получал меньшее вознаграждение было в разы больше, чем радость от собственного вознаграждения, если соседа наградили больше. И макаки могли совсем отказаться от вознаграждения, только чтобы насолить соседу.

Таким образом, мы имеем довольно точно описанную систему нейронных актуаторов и контроллеров для людей. Теперь, когда перед Cognitive стоит задача движения агроботов в группе себе подобных, мы занялись введением системы искусственных мотиваций для регулирования действий роботов в группе через облачное обучение или через систему непосредственного общения в транспортном потоке.

Первыми, для кого мы это разработали, стала конечно агротехника, т.к. уже поступают заказы для обработки поля группой комбайнов. Сегодня - это выделенный модуль коррекции поведения робота в группе. То есть, своего рода такой робокибуц, где все равны и коллективно трудятся над решением производственной задачки, но... есть в облаке мудрый роборебе, к которому придётся периодически обращаться за коррекцией своего поведения в социуме.

Источник: vk.com

Комментарии: