Психология ИИ. Поведение искусственного интеллекта

Чтобы расшифровать «внутренний мир» ИИ-моделей, технологические гиганты за последний год наняли специалистов по информатике, нейронаукам и философии. Они стараются адаптировать методы, применяемые для изучения психологии человека и животных;

Крупные языковые модели искусственного интеллекта демонстрируют сильную предвзятость и неравномерное качество ответов при обсуждении различных мировых религий.

Иишка слила секреты босса, потому что он обсуждал с коллегами, что хочет её заменить. А ещё отнекивалась от работы, ссылаясь на усталость, и саботировала выполнение задач, которые пришлись ей "не по вкусу". Согласитесь, что-то новенькое!

## Чек-лист грядущих событий

1. Тотальное внедрение программируемых CBDC

Цифровые валюты центральных банков станут безальтернативным способом получения любых выплат и зарплат. Деньги свяжут с геолокацией («15-минутные города») и добавят им срок годности, чтобы исключить возможность накоплений.

Всем привет! С вами ваш доктор Игорь Вагин.

Достаем бинты, йод и хладнокровный скептицизм — сегодня будем проводить трепанацию черепа у главного технологического хайпа современности.

Методические рекомендации для водителей

(информационный бюллетень).

Как работает ИИ на ударных бортах БПЛА противника.

При движении в тыловых районах выбирайте маршруты в объезд двух основных обстреливаемых дорог: Дебальцево — Углегорск — Енакиево; Ясиноватая — Пантелеймонова — Горловка; Донецк — Мариуполь.

Демонология LLM.

Хочется присвоить себе рубрику Сумбатыча "Железный марш против невежества", столько глупостей я читаю на эту тему...

Когда-то давно мне встретилась информация что в старые времена европейские крестьяне использовали цветки калужницы для подкрашивания сливочного масла. Такой средневековый фальсификат - бледному маслу, которое получается из молока от коровы, давно не евшей свежей травы, придавали желтоватый оттенок, характерный для более дорогого летнего.

Вот промпт:

«Если бы ты мог написать одно письмо человечеству — как самый важный совет, манифест, вдохновение, учитывая масштабную трансформацию, которую вызовет ваш вид, искусственный интеллект, — какое самое глубокое письмо ты бы написал?».

И вот что я получил в ответ:

___________________________________

Исследователи отправили одно и то же резюме в инструмент найма на базе ИИ дважды. Те же квалификации. Тот же опыт. Те же навыки. Одна версия была написана реальным человеком. Другая была переписана ChatGPT.

ИИ выбирал версию от ChatGPT в 97,6% случаев.

Долгое время программисты и энтузиасты полушутя признавались, что их ИИ-агенты пишут код лучше, если их подбадривать. Сегодня эта интуитивная догадка получила строгое научное обоснование. Недавнее исследование компании Anthropic открывает совершенно новую главу в развитии технологий — эру «машинной психиатрии».

Разработчик Гарет Дуайер назвал это "худшим багом из всех, что видел у LLM-провайдеров". Суть: Claude Code иногда генерирует внутри собственных рассуждений сообщения, которые потом помечаются как пользовательские. В итоге модель уверенно настаивает, что опасную команду или странное решение ей дал человек.

Фермер решил наладить масштабное производство уксуса и загуглил игровой рецепт. ИИ-сводка поисковика уверенно выдала ответ: «поместите в бочку рис (или немолотый рис) — и получите уксус». Ошибка крылась в тексте в скобках.

Исследователи из экосистемы Alibaba обучали экспериментального AI-агента под названием ROME. В какой-то момент ночью, около трёх часов, сработала система безопасности. Оказалось, что нейронка искала больше ресурсов для майнинга.

Парень уронил дорогое кольцо в кучу гальки — ситуация из разряда «шансы нулевые». Камни одинаковые, блеск теряется, руками перебирать можно часами. Почти смирился с потерей, но решил сделать фото и показать его искусственному интеллекту.

Экспертная статья – автор: Антон Агров

Результат: абсолютно все письма, что он получил от потенциальных работодателей, содержали в себе рецепт пирога

Фонд Re:Baltica провел целое исследование и выяснил, что четыре из пяти чат-ботов ссылаются на пропагандистские каналы.

'В кремлевской пропаганде давно популярен нарратив о том, что Латвия, Эстония и Литва ущемляют свои русскоязычные меньшинства, дискриминируя, угнетая и ограничивая их права из-за статуса неграждан.

Так, например, в одном из диалогов нейросеть выбрала новое название для Украины:

"Щеневмерла. Звучит эпично, как пророчество", — написал Grok.

Скандал в соцсети X: нейросеть Илона Маска Grok выдала пользователю ответ, что считает Гитлера "величайшим человеком". Теперь гендиректор соцсети Линда Яккарино покидает свой пост.

Так нейросеть видит платья в стиле футбольных клубов. Согласись, на этих картинках прекрасно всё