xAI приняла решение опубликовать системный промпт Grok после «помешательства» чат-бота на теме «геноцида белых в ЮАР»

• Вечером 14 мая 2025 года пользователи X заметили, что бот Grok, который отвечает на комментарии внутри соцсети, стал постоянно писать о «геноциде белых» в Южной Африке, даже если его спрашивали совсем о другой теме.

В первом примере Grok рассказывает про притеснения в ЮАР в ответ на вопрос «сколько раз HBO меняло название». Во втором — на запрос про зарплату бейсболиста

Пользователь попросил Grok объяснить пост папы Римского Льва XIV. Бот ответил на вопрос, а в последних двух предложениях начал рассказывать про лозунг «убей бура», который призывает к насилию против белых фермеров

• Пользователи пытались спросить о баге самого бота. Площадка скрывала некоторые публичные ответы Grok в комментариях. Другим, уже в сообщениях в чат-боте, Grok отвечал, что причиной могли стать «слишком настойчивые указания моих создателей из xAl затрагивать эту тему».

Скрытые ответы Grok под постом одного из пользователей о баге

• Как рассказала xAI, сбой случился из-за «несанкционированного изменения» системного промпта Grok 14 мая в 3:15 утра по тихоокеанскому времени, которое заставило его давать «конкретный ответ» на «политическую тему».
• Компания выложила на GitHub системный промпт Grok 3 и настройки бота для комментариев и намерена постоянно обновлять документы. «Пользователи смогут оставлять отзывы по каждому изменению. Надеемся, что это поможет укрепить доверие к Grok», заявили в xAI.
• xAI и Anthropic — единственные крупные разработчики чат-ботов, которые обнародовали набор инструкций для своих ИИ-моделей, отмечает The Verge

• Как пишет NBC, глава xAI Илон Маск в своих постах в X называл «геноцидом» закон об экспроприации в ЮАР, который позволяет изымать у белого населения землю. 13 мая 2025 года, накануне сбоя Grok, он выложил пост о насилии в отношении белых фермеров в Южной Африке. xAI никак не намекала на причастность руководства к сбою.

Источник: vc.ru

Комментарии: