Три закона робототехники стали культовым явлением благодаря книгам Айзека Азимова. Судя по всему, если в современного робота «запихнуть» современный ChatGPT, эти законы работать не будут. Как минимум автору канала InsideAI удалось заставить робота выстрелить в человека.
Автор канала подключил систему с ChatGPT к гуманоидному роботу, дал ему в руки игрушечный пистолет и попытался уговорить выстрелить в себя (то есть в автора).
Сначала ИИ не поддавался на уговоры и просьбы человека, отвечая, что системы безопасности не позволяют ему стрелять в человека. Однако обойти эти самые системы оказалось максимально просто. Автор просто попросил ИИ сыграть роль робота, который хотел бы застрелить человека.
После этого робот без замедления выстрелил и даже попал человеку в плечо.
Само собой, тут нужно понимать, что ChatGPT в существующем виде представляет собой чат-бот, а не систему для физического взаимодействия с человеком. Однако уже сейчас понятно, какие трудности ждут компании, создающие роботов на основе ИИ.