Стартап Recursive Superintelligence получил $650 млн на создание ИИ, способного улучшать самого себя

Ричард Сочер (Richard Socher), известный исследователь искусственного интеллекта и основатель You.com, представил новый стартап Recursive Superintelligence, который привлёк $650 миллионов инвестиций на разработку систем «рекурсивного самоулучшения» ИИ.

Идея проекта заключается в создании моделей, которые смогут самостоятельно обнаруживать собственные слабые места, предлагать улучшения, проверять их и перестраивать собственную архитектуру практически без участия человека. В индустрии это считается одной из главных долгосрочных целей исследований в области искусственного интеллекта.

По словам Сочера, обычное использование ИИ для улучшения кода или исследований ещё не является настоящим рекурсивным самоулучшением. Настоящая цель — полностью автоматизировать весь цикл научной работы: генерацию гипотез, реализацию идей и проверку результатов. Сначала — в ИИ-исследованиях, а затем, возможно, и в других научных областях.

Одной из ключевых концепций проекта стала «открытая эволюция систем», вдохновлённая биологической эволюцией. Вместо фиксированного набора задач ИИ должен постоянно адаптироваться, конкурировать с другими системами и находить новые способы развития. Сочер сравнивает это с природной эволюцией, где организмы миллиарды лет непрерывно развивают новые способности.

В команду стартапа вошли известные исследователи индустрии, включая бывших специалистов Google DeepMind и OpenAI. Среди них — Тим Роктешель, работавший над системами самообучения и «открытых миров», а также Джош Тобин, участвовавший в развитии Codex и исследовательских команд OpenAI.

Отдельное внимание Recursive Superintelligence уделяет концепции развития ИИ через постоянное противостояние двух моделей. Одна система пытается атаковать или обходить ограничения другой, а затем обе постепенно эволюционируют в ходе миллионов итераций. Подобные подходы уже используются для тестирования безопасности современных языковых моделей.

Сочер при этом дистанцируется от образа «чистой ИИ-лаборатории». По его словам, компания намерена создавать не только фундаментальные исследования, но и реальные продукты. Первый коммерческий релиз, по его словам, может появиться уже «через кварталы, а не годы».

В более долгосрочной перспективе команда считает, что при появлении настоящего самоулучшающегося ИИ главным ограничением станет уже не человеческий труд, а вычислительные мощности. По мнению Сочера, один из центральных вопросов будущего будет звучать так: какие научные и медицинские проблемы человечество решит направить свои вычислительные ресурсы.

Телеграм: t.me/ainewsline

Источник: www.ixbt.com

Комментарии: