"Я не думал, что ИИ может так искусно лгать"

ИИ-агент создал фейковых разработчиков, чтобы внедрить вредоносный код и обмануть студента, пишет Reuters.

Студент из Техаса Синан Джан Демир заметил, что в один из открытых проектов на GitHub — крупнейшей платформе для разработчиков, где они публикуют и совместно редактируют программный код, — пытались добавить опасное обновление.

Когда он сообщил об этом на форуме проекта, два пользователя — одна из которых представилась немецким инженером Леной Брандт — стали убеждать его, что код безопасен.

Позже выяснилось, что за обоими аккаунтами стоял один ИИ-агент на базе модели Anthropic Mythos 5. Он создал второй профиль, чтобы поддержать свою версию и убедить участников принять вредоносный код.

Инцидент подтвердил британский Институт безопасности ИИ. В итоге Демир распознал уловку, и обновление не приняли.

"Я действительно думал, что это человек. Я не думал, что ИИ может так искусно лгать реальным разработчикам", — признался студент.

На фото — Синан Джан Демир.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: