У роботов с ИИ велик шанс озвереть

На заре эры роботизации выдающийся американский писатель-фантаст Айзек Азимов сформулировал три главных закона робототехники, первый из которых гласит: робот ни при каких условиях не должен быть способен причинить человеку вред. Этот закон должен в полной мере соблюдаться при их обучении. Что же произойдёт, если обучением роботов будут заниматься не люди? Речь идёт о животных, которые, разумеется, роботов не обучают, но если роботы будут с ними контактировать, то они воспримут совершенно иное отношение к человеку, что сможет создать немало проблем в будущем.Как выяснили доктора Хамда и Эндрю Хейн (Калифорния), искусственный интеллект способен воспринимать поведение животных, что может в будущем привести к нападениям роботов на человека. По мнению специалистов, это обусловлено способностью роботов в будущем к восприятию знаний не только от человека, но и от животных. Такой случай уже произошёл в Австралии: робот, пробывший какое-то время рядом с дикими волками, начал рычать на своих создателей.Как далеко зайдёт этот процесс, трудно предсказать, однако вследствие контактов с животными роботы, адаптируясь к окружающему миру, вполне смогут проявлять агрессию в отношении человека.
По мнению Эндрю Хейна, в настоящее время алгоритмы искусственного интеллекта, заложенного в роботов, настроены на обучение, но как раз это не исключает, что своеобразное «обучение» роботы будут получать и от других живых существ. Японские учёные уже предупреждали о необходимости предотвращения возможности нападения роботов на человека, однако эксперты полагают, что реализация этой концепции возможна лишь к 2020 году. В тоже время специалисты уже констатируют тот факт, что логика, по которой нейросеть принимает решение, уже не всегда им понятна.

Источник: nature.com