Бунт машин или буйство фантазии?

The Guardian в качестве факта, зафиксированного во время имитационных испытаний, проводимых армией США, описывает ситуацию, когда беспилотник Kratos XQ-58 Valискус под управлением искусственного интеллекта самостоятельно принял решение "убить" оператора. Суть конфликта состояла в том, что дрон, "зарабатывающий" на уничтожении системы ПВО очки, получил приказ от оператора не уничтожать цель. После этого искусственный интеллект "решил уничтожить" оператора.

Сюжет объясняет, зачем учить искусственный интеллект тому, что действие "убить оператора" является ошибкой и за это станут сниматься очки.

Весь сюжет выглядит странно. Очевидно, что для искусственного интеллекта должны быть прописаны объекты и условия ограничений. Априори дрон во время имитации следует той программе, которая в него заложена, включая все баги и "косяки".

Поэтому чтобы управлять искусственным интеллектом, надо развивать естественный, человеческий.

Впрочем, полковник Такер Гамильтон, глава отдела испытаний и операций по производству искусственного интеллекта США, представивший описанный сюжет, уточнил, что он является "мысленным экспериментом" и на самом деле не проводился. В заявлении для Insider пресс-секретарь ВВС Энн Стефанек также отметил, что такое моделирование не выполнялось.

А вы поверили?

На самом деле, саммит RAeS FCAS23 заслуживает внимания и без истории, подкинутой для ловцов дешёвых "сенсаций". То, что обсуждает враг, следует знать и учитывать.

Источник: vk.com

Комментарии: