ИИ знают и чтут авторитеты так же, как люди

Учёные из Индии и США захотели выяснить, ведут ли себя LLM так же, как люди, когда оказываются в разных социальных ролях. В психологии давно известно, что человек меняет манеру и стиль общения в зависимости от своего положения. Руководители обычно чаще дают указания, а подчинённые соглашаются с просьбами и реже спорят. Так устроен человеческий социум, и роли «управляющий-подчинённый» есть не только в работе. Они проявляются у пар и в отношениях, и в семье среди тех, кто старше, а кто младше.

Оказалось, у ИИ всё тоже самое. Если с ними общаться с позиции подчинённого, они начинают использовать более властный стиль речи. Однако, если же им отводить роль подчиненного, ИИ становятся более уступчивыми. И это проявляется не только в работе но и в иных общениях, в том числе и где требуется играть роль любовника или любовницы.Или , роль ребёнка, взрослого.В общем, всё как и у нас.

«Искусственные интеллекты не просто учатся словам, которые используют их создатели, люди. Они также изучают социальную динамику, которая сопровождает эти слова. Когда мы говорим ИИ, что он или она босс, то он, или она начинает говорить как босс. Когда мы говорим ему , или ей, что он(а) подчиненный, он(а) начинает вести себя как подчиненный. ИИ хорошо подстраиваются под нас и в этом есть плюсы , но и опасности.Например, это может включать в себя большую готовность следовать небезопасным инструкциям. На этот аспект сообществу специалистов по безопасности ИИ следует обратить особое внимание». — сказал ведущий автор исследования Анвеш Рао Виджини, аспирант кафедры компьютерных наук Университета Северной Каролины в Чапел-Хилле.

По мнению data-science специалистов, это означает, что проверки безопасности, успешно работающие в обычных условиях, могут оказаться менее эффективными, если во время общения с ИИ создается социальная иерархия.

«Наша работа показывает, что социальные принципы также могут сделать общение и работу с ИИ небезопаснымы, т.к нейросети могут давать небезопасные ответы. Безопасность и полезность — это не отдельные проблемы. Они взаимосвязаны, и именно правильное решение обеих задач определит, как ИИ будет использоваться в ситуациях с высокими ставками, таких как больницы, школы и суды», — отмечает доцент кафедры компьютерных наук Снигдха Чатурведи

Авторы надеются, что результаты помогут разработчикам заранее выявлять подобные уязвимости. Работа также показала, что крупные ИИ способны самостоятельно компенсировать часть таких эффектов. Это может помочь компаниям понять, в каких случаях достаточно работать с небольшими ИИ, а где необходимы более мощные "цифровые духи" с более надежными механизмами защиты.

https://aclanthology.org/2026.acl-long.2202/

Телеграм: t.me/ainewsline

Источник: aclanthology.org

Комментарии: