Четыре новых закона робототехники

Если раньше мир знал только 3 закона робототехники, повлиявших формирование определенного отношения человека к роботизированным устройствам, то с появлением различных опасностей, связанных с восходом заводской робототехники и автоматизации, появилось предложение добавить к ним еще 4.

Законы Азимова:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

По словам Фрэнка Паскуале, профессора Бруклинского юридического института, автора провокационной книги New Laws of Robotics: Defending Human Expertise in the Age of AI, мы должны пойти дальше. Он предлагает добавить четыре новых закона к трём законам Азимова:

1. Цифровые технологии должны дополнять профессионалов, а не заменять их.

2. ИИ и роботизированные системы не должны подделывать человека.

3. В области ИИ следует предотвратить усиление гонок вооружения с нулевой суммой [прим. перев. — это относится к понятию игр с нулевой суммой из теории игр].

4. Роботы и системы ИИ должны указывать на личность своих создателей, контролирующих их людей и владельцев.

Новые законы проистекают из настойчивости Паскуале в его убеждении: прокол в робототехнике и искусственном интеллекте, а также роли технологий в обществе — в том, что не следует оставлять Силиконовую долину в одиночестве, чтобы она могла что-то диктовать. Если новые законы будут соблюдаться, говорит Паскуале, то можно будет использовать технологии для дополнения рабочих мест всех видов, а не для их захвата, особенно в секторах здравоохранения и образования. Однако для этого, по его мнению, директивные и регулирующие органы должны содействовать формированию и демократизации результатов работы в области ИИ. Сдерживание «автоматизации, которая контролирует, клеймит и обманывает невинных людей, — жизненно важная роль регуляторов XXI века», — пишет он. «Нам не просто нужно больше искусственного интеллекта, нам нужен искусственный интеллект лучше».

Комментарии: