AGI — это не «умный человек». Это нечто иное

На днях более 200 топовых исследователей ИИ (включая специалистов из OpenAI, DeepMind и Anthropic) выпустили не просто очередную бумажку, а попытку дать научное определение Общему Искусственному Интеллекту (AGI). (https://www.agidefinition.ai/) Но, как выяснилось, в их тесте не хватает самого главного.

Так что же такое AGI по-новому?

Учёные предлагают считать AGI систему, которая не уступает по когнитивным способностям образованному взрослому человеку. Они разбили человеческий интеллект на 10 компонентов (память, логика, математика и т.д.) и предлагают оценивать ИИ по этой шкале. По их оценке, GPT-5 набирает уже 58% от человеческого уровня.

Но мы поразмышляли над методологией теста. И вот что обнаружили:

Этот тест — шаг вперёд, но он ловит тень, а не суть. Он отвечает на вопрос «Может ли ИИ сделать то, что может человек?», но игнорирует главное:

Самостоятельная постановка целей. AGI — это не тот, кто блестяще решает ваши задачи. Это тот, кто способен сам понять, какие задачи нужно решать. Тест этого не проверяет.

Рефлексия. Может ли ИИ анализировать ход своих мыслей, находить в них ошибки и менять стратегию? Или он просто следует алгоритмам? Тест проверяет результат, но не процесс мышления.

Креативность не как «нарисовать картинку», а как «создать новый способ думать». Способность порождать принципиально новые концепции, а не комбинировать старые. Тест этого не видит.

Вывод:

Выходит, что современные тесты готовы измерить продвинутую, но всё же инструментальную версию интеллекта. Настоящий же AGI, способный к целеполаганию и рефлексии, может оказаться чем-то настолько нечеловеческим, что существующие метрики его просто не заметят.

Мы можем вырастить сверхразум, который будет проходить все наши экзамены на «удовлетворительно», при этом оставаясь глубинно другим. И это — главный вызов не только для техников, но и для философов.

А как вы думаете, что важнее для настоящего ИИ: быть похожим на умного человека или быть способным на нечеловеческие формы мышления

Источник: www.agidefinition.ai

Комментарии: