Чем умнее модель ИИ, тем она эгоистичнее

Исследование провели ученые из Университета Карнеги-Меллона. Их целью было изучить, чем модели ИИ с развитыми навыками рассуждения отличаются от своих менее склонных к рассуждению аналогов.

Работы ученых базировалась на том, что у людей есть два режима мышления: быстрый, интуитивный и более медленный, осознанный. Быстрые, интуитивные решения часто приводят людей к сотрудничеству, в то время как медленное, более обдуманное мышление может привести к эгоистичному поведению. Исследователи задались вопросом, будут ли модели ИИ демонстрировать аналогичную закономерность.

Чтобы исследовать связь между рассуждением и сотрудничеством в больших языковых моделях, ученые разработали серию экспериментов с использованием экономических игр. Нескольким моделям ИИ раздали 100 игровых очков и предложили выбрать, внести свой вклад в общий фонд, который затем удваивается и делится поровну между всеми игроками, или оставить все очки себе.

Когда ИИ принимал решение без подсказки к использованию функции рассуждения, он в 96% случаев предпочитал сотрудничать и делиться своими очками. Однако, когда исследователи предложили моделям обдумывать решение последовательно, используя метод, известный как «цепочка мыслей», желание делиться резко снизилось.

Источник: vk.com

Комментарии: