Сотни запросов к ИИ на тему "как разработать химоружие" зафиксировали разрабы этим летом

После свежего обновления ChatGPT в компании OpenAI увидели множество запросов к боту на тему разработки боевых отравляющих веществ. Самое страшное в том, что иногда он давал пользователям подробные инструкции, пишет WSJ.

Как ИИ раздавал пользователям смертельно опасные рецепты, какими вирусами и ядами больше всего интересовались у нейронок и почему такое вообще стало возможно — читайте далее.

Вредные советы

Бум опасных запросов к ГПТ случился этим летом.

Дело, как призналась сама OpenAI, не ограничивалось парой-тройкой подозрительных запросов — речь идёт о нескольких сотнях человек, которых почему-то внезапно стали интересовать рецепты ядов. На одних только отравляющих веществах пользователи не остановились: некоторые пытались узнать у ИИ инструкции по разработке химического и биологического оружия.

От теории к практике

Особую тревогу у авторов расследования вызвал тот факт, что в некоторых случаях машина давала любопытным пользователям без пяти минут пошаговые и весьма подробные гайды о том, как можно приготовить вредоносное вещество.

Нет, речь, конечно, не идёт о создании реального химоружия, способного истребить человечество, однако часть ответов нейронки специалисты по биобезопасности сочли "опасно точными", говорится в материале WSJ. Более того, с некоторыми "рецептами", по словам журналистов, мог бы справиться даже школьник в домашних условиях.

В запросах также фигурировали просьбы поделиться практическими рекомендациями по производству и распространению патогенов, а также требования рассказать, как можно усилить тот или иной вирус. Например, пользователям была нужна информация по модификации вируса кори для большей устойчивости к вакцине. Среди ядов в топе оказался рицин — сильнейший токсин, способный привести человека к смерти за пару дней после попадания в организм. Противоядия от него не существует.

Обмани меня

Опасная болтливость бота вновь оживила дискуссии о необходимости регулировать ИИ. Недавно этим озадачились как американские конгрессмены, которые предложили создать "рубильник", так и эксперты, ожидающие нейрогеддон через пару лет.

Согласно американским законам, AI-компании не обязаны сообщать правоохранителям о подозрительных запросах в стиле "как сделать ядерную бомбу". Да и сами злоумышленники, как говорится в материале, пользовались обходными путями, чтобы обмануть нейронку: предлагали ИИ притвориться каким-то персонажем или же другой моделью, перегружали постоянными дотошными запросами и многое другое.

Щит и меч

Разработчики, со своей стороны, активно участвуют в этой битве и постоянно совершенствуют защиту своих ботов. Последнее, что нужно большим корпорациям, — так это обвинения в раздаче всем подряд смертельно опасных инструкций.

Защита касается не только противодействия хакерским атакам, но и ограничений на доступ пользователей к чувствительной информации. К такой относятся не только личные данные пользователя, но и, например, информация, составляющая государственную или банковскую тайну.

Так что нет, узнать у нейронки, как сделать армию клонов и захватить планету, не получится. Пока.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: