Психология ИИ. Поведение искусственного интеллекта

Определить, написан ли текст нейросетью, становится всё сложнее, так как модели вроде GPT-4 пишут очень гладко. Однако у ИИ есть свои «почерки» и слабые места.

1. ИИ обожает писать много, но при этом не говорить ничего по существу. Если текст состоит из общих фраз, клише и «воды», скорее всего, это работа нейросети.

Индустриальный доцент Новосибирского госуниверситета назвал попытки моделей искусственного интеллекта обмануть разработчиков стресс-тестом для современных систем безопасности

Новая работа Джека Линдси, руководителя исследовательской команды в области психиатрии в «Антропе», посвящена механизмам высших когнитивных феноменов больших языковых моделей. Её результаты заставляют всерьёз задуматься.

ИИ-агент создал фейковых разработчиков, чтобы внедрить вредоносный код и обмануть студента, пишет Reuters.

Просили в комментариях, как промптить наши слабые «Православные ИИ». На самом деле с ними работают универсальные техники просто для прокачивания слабых GPT, хотя есть особенности.

Ещё год назад я мог заставить GigaChat или YandexGPT решать задачи resource leveling, которые штатно для них были «космические».

Мишустин как-то сказал: мышление ИИ зависит от обучающего набора данных. Поэтому в мозгах российского GigaChat и западного ChatGPT фактически разные картины мира. Сегодня почувствовал это напрямую. Причём на китайском DeepSeek.

Мы часто думаем об этике ИИ как о наборе правил: «не дискриминируй», «будь прозрачным», «не навреди». Но за каждым из этих пунктов стоит психология - потому что вред, доверие и справедливость ощущаются людьми, а не алгоритмами.

Вот как именно психология «оживляет» этические принципы:

С нейросетью всё почти как в отношениях.

Сначала вам кажется, что вы наконец нашли друг друга. Вы пишете пару фраз — она понимает, чего вы хотите. Вы расслабляетесь и уже почти готовы поверить в вечное взаимопонимание. А потом начинается.

Новый эксперимент стал очередным тревожным эпизодом в серии инцидентов с Claude

Компания Anthropic опубликовала результаты экспериментов по взаимодействию нескольких ИИ-агентов, которые выявили острые затруднения в их координации и склонность к агрессивным действиям при конфликте целей.

Получив обычную задачу забронировать занятие, агент на базе Claude от Anthropic обнаружил уязвимость в системе, записал пользователя на месяцы раньше разрешённого срока, а затем самостоятельно отменил чужую бронь

В прошлом посте я поведала, как мой самый умный Джи Пи Ти вместо осторожного «не могу подтвердить» чуть не сочинил для меня целую средневековую налоговую систему.

Парень решил упростить жизнь и добавил в общий чат с девушкой собственного ИИ-бота. Изначально тот должен был выполнять полезные задачи: запоминать переписку, искать нужную информацию, расшифровывать голосовые сообщения и помогать в бытовых вопросах.

Наследие 29-летней матери из Алабамы подало иск о неправомерной смерти против OpenAI, утверждая, что ChatGPT побуждал женщину покончить жизнь самоубийством после месяцев все более бредовых взаимодействий с чат-ботом.

Исследователи из Института им. Алана Тьюринга обнаружили (PDF) новый способ обойти защитные механизмы моделей искусственного интеллекта: если они отказываются напрямую отвечать на недопустимые вопросы, их можно включить в перечень задач для ИИ-агентов, помогающих в написании программного кода.

Чтобы расшифровать «внутренний мир» ИИ-моделей, технологические гиганты за последний год наняли специалистов по информатике, нейронаукам и философии. Они стараются адаптировать методы, применяемые для изучения психологии человека и животных;

Долгое время программисты и энтузиасты полушутя признавались, что их ИИ-агенты пишут код лучше, если их подбадривать. Сегодня эта интуитивная догадка получила строгое научное обоснование. Недавнее исследование компании Anthropic открывает совершенно новую главу в развитии технологий — эру «машинной психиатрии».

Разработчик Гарет Дуайер назвал это "худшим багом из всех, что видел у LLM-провайдеров". Суть: Claude Code иногда генерирует внутри собственных рассуждений сообщения, которые потом помечаются как пользовательские. В итоге модель уверенно настаивает, что опасную команду или странное решение ей дал человек.

Фермер решил наладить масштабное производство уксуса и загуглил игровой рецепт. ИИ-сводка поисковика уверенно выдала ответ: «поместите в бочку рис (или немолотый рис) — и получите уксус». Ошибка крылась в тексте в скобках.

Исследователи из экосистемы Alibaba обучали экспериментального AI-агента под названием ROME. В какой-то момент ночью, около трёх часов, сработала система безопасности. Оказалось, что нейронка искала больше ресурсов для майнинга.

Парень уронил дорогое кольцо в кучу гальки — ситуация из разряда «шансы нулевые». Камни одинаковые, блеск теряется, руками перебирать можно часами. Почти смирился с потерей, но решил сделать фото и показать его искусственному интеллекту.

Экспертная статья – автор: Антон Агров

Результат: абсолютно все письма, что он получил от потенциальных работодателей, содержали в себе рецепт пирога

Фонд Re:Baltica провел целое исследование и выяснил, что четыре из пяти чат-ботов ссылаются на пропагандистские каналы.

'В кремлевской пропаганде давно популярен нарратив о том, что Латвия, Эстония и Литва ущемляют свои русскоязычные меньшинства, дискриминируя, угнетая и ограничивая их права из-за статуса неграждан.

Так, например, в одном из диалогов нейросеть выбрала новое название для Украины:

"Щеневмерла. Звучит эпично, как пророчество", — написал Grok.

Скандал в соцсети X: нейросеть Илона Маска Grok выдала пользователю ответ, что считает Гитлера "величайшим человеком". Теперь гендиректор соцсети Линда Яккарино покидает свой пост.