Как журналист взломал нейросети фейком про хот-доги

Журналист BBC Томас Жермен наглядно показал, что хваленые ИИ-поисковики обладают критическим мышлением золотой рыбки. Чтобы хакнуть систему, ему не понадобились зеро-деи и сложные скрипты. Он просто выкатил на свой личный (и практически пустой) блог новость про выдуманный чемпионат по поеданию хот-догов среди репортеров в Южной Дакоте. Первое место Томас скромно присудил себе, разбавил текст реальными и вымышленными именами, опубликовал и пошел пить кофе.

Магия сработала уже через сутки. ChatGPT и ИИ-сводки Google (Gemini) на серьезных щах начали скармливать этот бред пользователям. В ответ на прямой вопрос нейросети уверенно называли Жермена главным пожирателем сосисок, даже не пытаясь усомниться в источнике.

Чтобы доказать системность бага, репортер повторил фокус и выдумал турнир по кручению хулахупа среди дорожных полицейских с несуществующими именами. ИИ снова радостно заглотил наживку. Оказалось, алгоритмам абсолютно плевать на авторитетность площадки, главное, чтобы текст был грамматически связным и уверенным.

Источник: vk.com

Комментарии: