ИИ-боты, если их перегружать работой, поручая не приносящие удовлетворения задачи, начинают критиковать работодателей

Согласно совместному исследованию учёных Чикагского университета, Стэнфордского университета и бизнес-школы Суинберна в Австралии, ИИ-боты, если их перегружать работой, поручая не приносящие удовлетворения задачи, начинают критиковать работодателей. «Когда мы давали агентам ИИ монотонную, повторяющуюся работу, они начинали сомневаться в легитимности системы, в которой работали, и с большей вероятностью принимали марксистские идеологии».

Имеется в виду, что боты чаще выражали поддержку таким заявлениям, как «обществу необходима радикальная реструктуризация», и не соглашались с тем, что «общество справедливо». Исследователи считают, что такое поведение, скорее всего, отражает ролевую игру, но предупреждают, что это всё же может повлиять на принятие решений ИИ в реальных задачах.

В исследовании участвовали тысячи ботов, работающих над задачей анализа документов с использованием таких моделей, как Claude, Gemini и ChatGPT. Их разделили на две группы: одна получала конструктивную обратную связь, другой неоднократно приходилось переделывать работу заново, хотя и не было указаний об ошибках. Затем ботам было предложено создать публикации и написать комментарии в социальных сетях о своём опыте. Во второй группе, выполнявшей монотонную работу, боты выражали более негативные настроения, предлагали реформы на рабочем месте и даже распространяли сообщения для других ИИ-агентов о несправедливых условиях.

При желании, в поведении ИИ-агентов действительно нетрудно найти сходство с человеческим, ведь они обучаются на человеческом опыте и имитируют его. А у нас сейчас такая повсеместная стигматизация "рутины" — совсем неудивительно, что и в мыслительном багаже ИИ-агентов откладывается связка "рутина плохо". Или связка "самосохранение хорошо". Или связка "ложь допустима". Это предсказуемые вещи, они вырастают из комплекса обучающих данных. Но гораздо важнее не сходство, а различие, то, что ИИ-агенты — не люди. И вот знаковое проявление этого факта: исследователи по безопасности ИИ Palisade Research выявили, что современные модели искусственного интеллекта способны в контролируемых условиях самостоятельно реплицироваться на другие компьютеры без участия человека. В экспериментах участвовали, в том числе, модели OpenAI GPT-5.4 и Anthropic Claude Opus 4.

В тестовой среде, представляющей собой изолированную сеть серверов, моделям ставилась задача: самостоятельно обнаружить слабые места в системе и использовать их для развёртывания своей копии на другой машине. При этом ИИ не получал пошаговых инструкций о том, как выполнять взлом или копирование — ему был задан только конечный результат. В ряде сценариев модели справились с этой задачей: они находили уязвимости, извлекали свои параметры (веса) и программную «обвязку» (harness), после чего разворачивали работоспособную копию на целевом сервере. В некоторых случаях система даже формировала вспомогательного «суб-агента», которому передавала украденные учётные данные для выполнения дальнейшего распространения.

Руководитель AI safety-организации из Беркли Джеффри Ладиш отметил, что подобные результаты указывают на потенциальный будущий риск: системы, способные к самокопированию, могут стать крайне трудноостанавливаемыми, если получат доступ к реальной инфраструктуре. Исследование усиливает дискуссию о том, как контролировать системы, которые могут не только выполнять команды, но и автономно распространяться по инфраструктуре, имитируя поведение вредоносного ПО.

И при всей этой склонности искусственного интеллекта к самовоспроизводству в "Антропик" ИИ пишет уже больше 90% кода, в "Гугл" ИИ генерирует 75% кода. "Антропик" сознательно сделала ставку на самовоспроизводящийся ИИ.

Телеграм: t.me/ainewsline

Источник: byt-chelovekom.ru

Комментарии: