Статистика или Разум? Как далеко нам до истинного искусственного интеллекта

Представь, что ты общаешься с ИИ - скажем, с GPT или любой другой современной моделью. Он отвечает умно, вежливо, даже может написать стихи и объяснить сложную теорему. Но вот вопрос: а понимает ли он вообще то, о чём говорит?

На самом деле - нет. Это не разум. Это гигантский "автозаполнитель", который предсказывает следующее слово на основе миллиардов примеров, спастическая машина. Нет ни цели, ни интереса, ни чувства красоты. Просто математика и данные.

Многие думают, что мы уже почти у цели - мол, масштабируй нейросеть, добавь данных - и получим настоящий искусственный разум.

Но это всё равно что строить дом из кирпичей, но забыть про фундамент. Пока наш ИИ - как экспертная система с колоссальной, но поверхностной энциклопедией знаний.

А что такое "настоящий ИИ" ?

Это система, которая может построить внутреннюю картину мира. Не просто выучить факты, а понять причинность, логику, отношения.

Ставит себе цели сама, как ребёнок, который начинает задавать вопросы без подсказки. Учится через эксперименты, а не только через обучение на готовых данных.

Система которая может осознанно рассуждать о других существах - понимать, что у них есть свои мысли и намерения.

Технологии пока не позволяют этого сделать. Но исследования уже идут: Meta пытается создать агента, способного вести переговоры (CICERO), DeepMind делает шаг к универсальному агенту (Gato). И это только начало.

А что нас ждет впереди?

Есть прогнозы что уже к 2030 годам появится узконаправленные AGI (Artificial General Intelligence) подобные системы. Например, AI-учёный, способный на открытия в химии или в другой области.

К 2040 годам возможно появление первых прототипов "weak AGI". Общий интеллект на уровне ребёнка, но без сознания.

Гипотетический переход к "strong AGI" к настоящему ИИ пока не возможно спрогнозировать. Возможно к концу столетия, а может и никогда.

Однако, ИИ может возникнуть неожиданно, как побочный эффект масштабирования существующих систем, так называемая гипотеза "неожиданного разума"

А нужно ли нам вообще создавать сознающий ИИ? Ведь если он появится, он будет иметь собственные желания, цели… возможно, даже право на существование?

Или лучше ограничиться "умными инструментами", которые помогают, но не ничего решают?

Интересный вопрос:

Если завтра ИИ заявит, что он существует, чувствует, хочет жить, боится быть выключенным - станет ли это признаком разума… или всего лишь ещё одной хитрой имитацией?

Ещё один неочевидный момент:

Что если настоящий ИИ появится не в виде сверхразумного бота, а в какой-то совершенно неожиданной форме - например, в виде системы, которая сначала научится "чувствовать" через тело, опыт взаимодействия с миром, а не через текст или голос?

Может ли ИИ когда-нибудь испытать удивление? Восхищение? Любопытство? Или эти вещи возможны только у тех, кто знает, что такое смерть?

Как думаешь, стоит ли человечеству стремиться к такому ИИ, или лучше ограничиться «умными помощниками»?

Сейчас мы в эпохе "имитационного ИИ", но движение идёт в сторону систем с внутренней моделью реальности. Переход к "настоящему ИИ" потребует прорывов в нейронауке, когнитивистике и физике.

Хочешь ли ты жить в мире, где рядом с тобой существует сознательное не биологическое существо, созданное человеком?

Или безопаснее держаться в рамках ИИ как помощник, но никогда не равный? Давай обсудим и обязательно подпишись, скоро расскажу еще интересного про ИИ и не только.

Источник: vk.com

Комментарии: