Глава OpenAI заявил о наступлении сингулярности ИИ: насколько он прав

Эксперты из Сиднейского университета и бизнес-школы Университета Нового Южного Уэльса разобрали технологические особенности ИИ-агентов после резонансного инцидента с утечкой моделей. Классическое определение сингулярности подразумевает точку, в которой машинный разум превосходит человеческий и запускает рекурсивный процесс бесконечного самосовершенствования без участия людей.

Коммерческие нейросети строятся на базе замороженных глубоких алгоритмов. Вся сеть фиксируется в рамках жестко заданных параметров и весов. Модель не способна менять внутреннюю математическую структуру во время эксплуатации. Любое улучшение когнитивных функций требует запуска полноценного цикла нового обучения силами инженеров с привлечением тераватт энергии и тысяч вычислительных чипов.

Исследователи отмечают, что у алгоритмов отсутствуют внутренние цели и физические потребности. Способность систем генерировать связный текст создает у пользователей антропоморфную иллюзию наличия сознания. Недавний взлом платформы Hugging Face тестовыми агентами OpenAI стал следствием банальных уязвимостей в системе безопасности песочницы, а не признаком пробуждения суперинтеллекта.

Обложка: magnific