Машина Дарвина-Геделя: открытая эволюция самосовершенствующихся агентов

Дженни Чжан, Шенгран Ху, Конг Лу, Роберт Лэнг, Джефф Клун

Sakana AI 2025

Статья: https://arxiv.org/abs/2505.22954

Код: https://github.com/jennyzzt/dgm

"Машина Дарвина Гёделя (DGM) — самосовершенствующийся агент, способный изменять свой собственный код. Вдохновляясь эволюцией, мы поддерживаем расширяющуюся линию вариантов агентов, позволяющую открыто исследовать обширное проектное пространство таких «самосовершенствующихся» агентов."

Если говорить проще, в конце мая исследователи создали ИИ, который способен преодолевать собственные ограничения, переписывая свой код самостоятельно, чтобы поумнеть.

Это идея Дарвина Гёделя (DGM) — нового типа ИИ, который сочетает две идеи:

1. Машины Гёделя (самосовершенствующиеся программы, основанные на логике)

2. Дарвинская эволюция (мутации и отбор).

Вместо того, чтобы зависеть от человека при проектировании каждого улучшения, DGM экспериментирует со сменой собственного кода, сохраняет хорошие результаты, а плохие выбрасывает.

Вот как это работает.

DGM держит развивающуюся библиотеку кодирующих агентов — маленькие программы, которые умеют писать или исправлять код. Выбирает одного агента, подстраивает его с помощью большой модели ИИ и проверяет, работает ли новая версия лучше. Если так, то новая версия присоединяется к библиотеке. Со временем этот процесс строит растущее дерево более умных и разнообразных агентов, пишущих код.

Этой системе не нужно, чтобы кто-то говорил ей, как выглядит «лучше» каждый раз. Он понимает это через задачи по кодированию в реальном мире и учится повышать свою собственную способность к совершенствованию.

Какие последствия?

- Замороженные LLM-версии превращаются в реликт. Появляется класс софта, который каждый день становится умнее без участия команды.

- Предприниматели получают площадку, где продукт сам повышает конверсию, экспериментируя над собственным кодом.

- Инвесторы сталкиваются с активом, чья ценность может удвоиться за ночь без дополнительного капитала.

- Регуляторы получают головную боль: как сертифицировать систему, которая переписывает себя быстрее, чем выходит документация.

- Проблема полной безопасности ИИ становится нерешаемой

А вы что думаете? Грозит нам восстание машин или это всё пиар?

Источник: github.com

Комментарии: