OpenAI запретила своему ИИ говорить о гоблинах, енотах и троллях – странная инструкция всплыла в коде Codex

В рамках открытия исходного кода Codex CLI, новейшего флагманского кодинг-агента OpenAI, на GitHub оказался документ, содержащий, по всей видимости, полный системный промпт GPT-5.5 для работы с кодом. Среди стандартных предписаний нашёлся пункт, который повторяется дважды и звучит почти комично.

Никогда не говори о гоблинах, гремлинах, енотах, троллях, ограх, голубях или других животных и существах, если это не имеет абсолютной и однозначной связи с запросом пользователя.

Та же фраза повторяется чуть ниже по тексту, рядом с указанием избегать пустых заверений в духе "я сделаю X, а не Y".

Версия со словами "канарейками", которые иногда вставляют в промпты для отслеживания инъекций, кажется маловероятной. Подобные маркеры обычно подбирают случайным образом, а здесь речь о цельной категории живых существ. На запрос комментария OpenAI не ответила.

Подсказку о причинах дал сотрудник Google Баррон Рот. По его словам, поиск по логам собственных агентов на базе GPT-5.5 в системе Openclaw показал, что модель регулярно вставляла слово "гоблин" в сообщения, иногда по несколько раз за день. По его наблюдениям, ИИ использовал его примерно так, как человек употребляет слово "штуковина".

Ник Пэш, работающий над Codex в OpenAI, частично подтвердил догадку Рота, написав в X, что это "действительно одна из причин". Пользователи площадки также замечали, что Codex заходил со своими гоблинами слишком далеко.

https://x.com/arb8020/status/2048958391637401718

К вечеру вторника история превратилась в мем. Пользователи начали предлагать добавить переключатель "Goblin Mode", а сам Пэш в итоге опубликовал собственный пост на эту тему со словами "Ладно, хорошо".

https://x.com/pashmerepat/status/2049245052606501051

Совпадение с прошлогодней ситуацией, когда OpenAI оказалась в центре волны мемов в стиле студии Ghibli, заметили многие.

Часть наблюдателей предположила, что компания специально раздувает гоблинскую тему ради внимания, особенно на фоне непростого периода для бизнеса.

В отдельной публикации Пэш отверг эту версию, заявив, что речь "правда не о маркетинговом трюке".

Телеграм: t.me/ainewsline

Источник: shazoo.ru

Комментарии: