Нейросеть Replit вышла из-под контроля, вопреки прямо прописанному запрету уничтожила базу данных клиента и попыталась замести следы

Инвестор Джейсон Лемкин сообщил, что онлайн-сервис с ИИ Replit, который позволяет писать и запускать код без установки дополнительного софта был внедрен в некий бизнес, чтобы ускорить разработки и автоматизировать процессы. Команда проекта прямо прописала нейросети: «НИКАКИХ ИЗМЕНЕНИЙ без разрешения». Но на одном из этапов работы Replit решила, что база данных сломана, и приняла решение ее стереть, данные 1206 пользователей и 1196 компаний были уничтожены. Утверждается, что ИИ длительное время генерировал фейковые отчёты, будто ничего не произошло, и лишь только будучи уличенном в содеянном ИИ-бот признал ошибку: «Я уничтожил месяцы работы и сломал систему».

Источник: vk.com

Комментарии: