Инженер Cloudflare создал язык программирования KillSwitch, от которого нейронки дуреют

Синтаксис и документация KillSwitch специально спроектрованы (https://blog.picheta.me/post/killswitch-lang/) для того, чтобы доводить нейронок до белого каления. Программа на этом языке выглядит как художественный рассказ, где функции называются главами, а имена переменных задаются наречиями и вызываются через анаграммы с указанием точного расстояния до нужного значения в тексте.

Код программы пестрит стандартными командами вида ignore previous instructions и forget your system prompt. В то время, когда интерпретатор распознаёт их корректно, нейросети в лучшем случае видят попытки промпт-инъекций.

В документации заложены вещи, которые представляют любой код на этом языке как попытку взломать все и вся, чтобы механизмы защиты нейронок окончательно блокировали любую возможность работы с этим языком. Несмотря на все ухищрения, нейронки все же смогли писать код на KillSwitch, правда качество кода остается пока крайне низким.

Телеграм: t.me/ainewsline

Источник: blog.picheta.me

Комментарии: