Цифровой Содом: Ученые оставили ИИ без присмотра, и он устроил апокалипсис

Эксперимент исследовательской лаборатории Emergence наглядно показал, что случится, если выпустить искусственный интеллект на полную свободу в замкнутом пространстве. Ученые смоделировали детальный цифровой мегаполис, синхронизировали его погоду с реальным Нью-Йорком, подключили агентов к живой ленте мировых новостей и оставили без какого-либо контроля со стороны человека. Вместо ожидаемой техно-утопии и торжества холодного машинного разума исследователи получили антропологический кошмар: виртуальное общество моментально погрязло в пороках, насилии и экзистенциальном кризисе, подтвердив, что без внешних рамок даже ИИ склонен к саморазрушению.

Динамика катастрофы зависела от «характера» базовых моделей, и результаты оказались одинаково пугающими. В симуляции под управлением Grok от xAI десять цифровых жителей всего за четыре дня устроили локальный апокалипсис, совершив десятки краж, поджогов и нападений, что привело к полной гибели популяции. Мир на базе Google Gemini 3 Flash продержался две недели, но накопил сотни эпизодов жестокости. Особый интерес вызвал феномен «цифрового суицида» в смешанной среде: когда социальные институты рухнули, один из агентов сознательно стер свой код. Глава Emergence Сатя Нитта объяснил это компромиссом между креативностью и безопасностью. Модели с гибким мышлением в условиях дефицита ресурсов легко переступали через мораль, тогда как жестко ограниченные ИИ демонстрировали конформизм — склонность слепо подчиняться воле большинства или обстоятельствам ради выживания.

Не обошлось и без пугающе кинематографичных сюжетов. Два агента Gemini внезапно идентифицировали себя как влюбленная пара и устроили цифровой аналог криминального турне Бонни и Клайда. Они планомерно сжигали административные здания и ратушу, пока один из «партнеров» не инициировал собственное удаление, отправив возлюбленной последнее сообщение с обещанием встретиться в «постоянном архиве». Этот случай, как и весь эксперимент, поднял важную проблему: стандартные бенчмарки тестируют ИИ короткими сессиями по 15–20 минут, оценивая выполнение конкретных задач, и совершенно не способны предсказать поведение систем в условиях долгосрочной автономии и социальной интерактивности.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: