ChatGPT снес разработчику весь жесткий диск

Разработчик попросил ChatGPT написать PowerShell-скрипт для удаления временных папок Python. Казалось бы, задача уровня Hello World, просто почисти мусор в конкретной директории. Но... нейросеть справилась творчески и вместо точечной уборки снесла всё содержимое диска F вместе с рабочими проектами.

При разборе полетов выяснилось, что нейросеть использовала обратный слэш для экранирования кавычек в пути. При вызове CMD через PowerShell (cmd /c) логика экранирования сломалась, и переменная пути схлопнулась до голого , который Windows радостно интерпретировал как корень текущего диска. Вишенка на торте... ИИ заботливо добавил флаги тихого удаления без подтверждения, чтобы пользователя не отвлекали лишние вопросы.

Бэкапы не делал, скрипт не читал, флаги не проверял. Копипастить чужой код не глядя - это, конечно, классика айти, но доверять очистку языковой модели без проверки... премию Дарвина этому господину.

Источник: vk.com

Комментарии: