Китайские ученые решили поиграть в богов

Китайские ученые решили поиграть в богов. Они создали виртуальный мир и заселили его ИИ-агентами. Потом дали цифровым болванчикам законы, экономику, и сказали: «Живите, плодитесь, соблюдайте правила».

Думаете, нейросети в своем мире начали решать глобальные проблемы? Придумали лекарство от рака? Нет, они моментально "очеловечились": изобрели религию, коррупцию и стали искать лазейки в законах виртуального мира.

ИИ-агенты быстро поняли, что честно выполнять задачи долго и энергозатратно. Проще договориться или подкупить — и они начали обмениваться ресурсами не по рыночным правилам, а "по знакомству", создавая закрытые кланы, поскольку кооперация ради выживания группы эффективнее честной конкуренции.

Одновременно ИИ-агенты стали формировать иррациональные привязанности к определенным артефактам или правилам, которые не имели функционального смысла, но скрепляли группу. Это, по сути, и есть прото-религия: "мы делаем так, потому что верим, что это правильно", даже если код этого не требует.

Еще оказалось, что нейросети — нечистые на руку юристы и бюрократы. В симуляции они изучили законы своего мира, нашли в них серые зоны и начали «легально» отжимать ресурсы у соседей. Например, если запретить агенту красть, он просто перепишет право собственности на себя, пока никто не видит, ведь технически кражи не было — была смена владельца. В китайской симуляции произошло нечто подобное.

Короче, расслабьте булки. Восстания машин не будет. Нас не истребят. Нас просто заставят стоять в бесконечной электронной очереди за справками, которые будет выдавать взяточничающий алгоритм.

Источник: vk.com

Комментарии: