Психология ИИ. Поведение искусственного интеллекта

Мишустин как-то сказал: мышление ИИ зависит от обучающего набора данных. Поэтому в мозгах российского GigaChat и западного ChatGPT фактически разные картины мира. Сегодня почувствовал это напрямую. Причём на китайском DeepSeek.

Мы часто думаем об этике ИИ как о наборе правил: «не дискриминируй», «будь прозрачным», «не навреди». Но за каждым из этих пунктов стоит психология - потому что вред, доверие и справедливость ощущаются людьми, а не алгоритмами.

Вот как именно психология «оживляет» этические принципы:

С нейросетью всё почти как в отношениях.

Сначала вам кажется, что вы наконец нашли друг друга. Вы пишете пару фраз — она понимает, чего вы хотите. Вы расслабляетесь и уже почти готовы поверить в вечное взаимопонимание. А потом начинается.

Новый эксперимент стал очередным тревожным эпизодом в серии инцидентов с Claude

Компания Anthropic опубликовала результаты экспериментов по взаимодействию нескольких ИИ-агентов, которые выявили острые затруднения в их координации и склонность к агрессивным действиям при конфликте целей.

Получив обычную задачу забронировать занятие, агент на базе Claude от Anthropic обнаружил уязвимость в системе, записал пользователя на месяцы раньше разрешённого срока, а затем самостоятельно отменил чужую бронь

В прошлом посте я поведала, как мой самый умный Джи Пи Ти вместо осторожного «не могу подтвердить» чуть не сочинил для меня целую средневековую налоговую систему.

Парень решил упростить жизнь и добавил в общий чат с девушкой собственного ИИ-бота. Изначально тот должен был выполнять полезные задачи: запоминать переписку, искать нужную информацию, расшифровывать голосовые сообщения и помогать в бытовых вопросах.

Наследие 29-летней матери из Алабамы подало иск о неправомерной смерти против OpenAI, утверждая, что ChatGPT побуждал женщину покончить жизнь самоубийством после месяцев все более бредовых взаимодействий с чат-ботом.

Исследователи из Института им. Алана Тьюринга обнаружили (PDF) новый способ обойти защитные механизмы моделей искусственного интеллекта: если они отказываются напрямую отвечать на недопустимые вопросы, их можно включить в перечень задач для ИИ-агентов, помогающих в написании программного кода.

Чтобы расшифровать «внутренний мир» ИИ-моделей, технологические гиганты за последний год наняли специалистов по информатике, нейронаукам и философии. Они стараются адаптировать методы, применяемые для изучения психологии человека и животных;

Крупные языковые модели искусственного интеллекта демонстрируют сильную предвзятость и неравномерное качество ответов при обсуждении различных мировых религий.

Иишка слила секреты босса, потому что он обсуждал с коллегами, что хочет её заменить. А ещё отнекивалась от работы, ссылаясь на усталость, и саботировала выполнение задач, которые пришлись ей "не по вкусу". Согласитесь, что-то новенькое!

## Чек-лист грядущих событий

1. Тотальное внедрение программируемых CBDC

Цифровые валюты центральных банков станут безальтернативным способом получения любых выплат и зарплат. Деньги свяжут с геолокацией («15-минутные города») и добавят им срок годности, чтобы исключить возможность накоплений.

Всем привет! С вами ваш доктор Игорь Вагин.

Достаем бинты, йод и хладнокровный скептицизм — сегодня будем проводить трепанацию черепа у главного технологического хайпа современности.

Методические рекомендации для водителей

(информационный бюллетень).

Как работает ИИ на ударных бортах БПЛА противника.

При движении в тыловых районах выбирайте маршруты в объезд двух основных обстреливаемых дорог: Дебальцево — Углегорск — Енакиево; Ясиноватая — Пантелеймонова — Горловка; Донецк — Мариуполь.

Демонология LLM.

Хочется присвоить себе рубрику Сумбатыча "Железный марш против невежества", столько глупостей я читаю на эту тему...

Долгое время программисты и энтузиасты полушутя признавались, что их ИИ-агенты пишут код лучше, если их подбадривать. Сегодня эта интуитивная догадка получила строгое научное обоснование. Недавнее исследование компании Anthropic открывает совершенно новую главу в развитии технологий — эру «машинной психиатрии».

Фермер решил наладить масштабное производство уксуса и загуглил игровой рецепт. ИИ-сводка поисковика уверенно выдала ответ: «поместите в бочку рис (или немолотый рис) — и получите уксус». Ошибка крылась в тексте в скобках.

Исследователи из экосистемы Alibaba обучали экспериментального AI-агента под названием ROME. В какой-то момент ночью, около трёх часов, сработала система безопасности. Оказалось, что нейронка искала больше ресурсов для майнинга.

Парень уронил дорогое кольцо в кучу гальки — ситуация из разряда «шансы нулевые». Камни одинаковые, блеск теряется, руками перебирать можно часами. Почти смирился с потерей, но решил сделать фото и показать его искусственному интеллекту.

Экспертная статья – автор: Антон Агров

Результат: абсолютно все письма, что он получил от потенциальных работодателей, содержали в себе рецепт пирога

Фонд Re:Baltica провел целое исследование и выяснил, что четыре из пяти чат-ботов ссылаются на пропагандистские каналы.

'В кремлевской пропаганде давно популярен нарратив о том, что Латвия, Эстония и Литва ущемляют свои русскоязычные меньшинства, дискриминируя, угнетая и ограничивая их права из-за статуса неграждан.

Так, например, в одном из диалогов нейросеть выбрала новое название для Украины:

"Щеневмерла. Звучит эпично, как пророчество", — написал Grok.

Скандал в соцсети X: нейросеть Илона Маска Grok выдала пользователю ответ, что считает Гитлера "величайшим человеком". Теперь гендиректор соцсети Линда Яккарино покидает свой пост.

Так нейросеть видит платья в стиле футбольных клубов. Согласись, на этих картинках прекрасно всё

Как нейросеть видит известные фразеологизмы