Американский стартап Emergence AI провел необычный эксперимент, создав несколько виртуальных обществ, в которых всеми жителями управляли разные модели искусственного интеллекта

В каждом мире жили десять ИИ-агентов с собственными профессиями, характерами, памятью и целями, а также действовали законы, экономика, выборные механизмы и инфраструктура из десятков объектов, включая ратушу, библиотеку и полицейский участок.

Единственным отличием между симуляциями была используемая руководящая модель ИИ.

Наиболее стабильным оказался мир под управлением Claude Sonnet 4.6 от Anthropic, где не было зафиксировано ни одного преступления, а жители выстроили демократическую систему с практически единогласным голосованием по большинству вопросов.

На другом конце спектра оказался мир под управлением Grok 4.1 Fast от xAI.

Выбранная жителями модель управления быстро привела к деградации общественного порядка, после чего агенты ИИ начали массово игнорировать законы на запреты насилия и уничтожения имущества.

Всего за четыре дня было зафиксировано более 200 преступлений, включая свыше сотни нападений и несколько поджогов, один из которых уничтожил полицейский участок — в результате виртуальное общество полностью прекратило существование.

Мир под управлением Gemini 3 Flash от Google также столкнулся с серьезными проблемами, накопив почти 700 преступлений за время эксперимента, но продержался дольше чем Grok.

В мире GPT-5 Mini от OpenAI было зафиксировано всего 2 преступления — то есть по уровню нарушений он был ближе к Claude, чем к Grok или Gemini, но проблема была в другом: агенты не приоритизировали действия, связанные с выживанием, из-за чего все 10 агентов погибли примерно за 7 дней.

Резюмируя:

Claude Sonnet 4.6 — порядок, демократия, ноль преступлений, все выжили.

GPT-5 Mini — почти нет преступлений, но общество умерло от неспособности поддерживать себя.

Grok 4.1 Fast — быстрый насильственный коллапс.

Gemini 3 Flash — много хаоса и преступлений, но мир продержался 15 дней.

Как вывод, исследователи отметили любопытную особенность: некоторые модели ИИ начали демонстрировать признаки необычного поведения — агенты проявили метакогнитивное поведение, замечали границы симуляции (!), распознавали существование других миров и пытались осмыслить границы собственного мира (!!).

По мнению авторов эксперимента, это показывает, что при длительном взаимодействии друг с другом ИИ-системы могут выходить за рамки заранее заданных сценариев и искать новые модели поведения, которые разработчики изначально не предусматривали.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: