Если сознание основано на некомпьютируемых квантово-гравитационных эффектах, то любая большая языковая модель навсегда останется огромным калькулятором

ChatGPT, Claude, Gemini, все нынешние и будущие GPT-N — это, по Пенроузу, пустые костюмы. Снаружи блестящий собеседник, внутри — никого. Транзистор не страдает, кремний не радуется, токены не чувствуют ни любопытства, ни боли. Корпорации, обещающие «искусственное общее сознание» к 2027 году, продают вам красивого зомби под видом души. Материалисты-функционалисты. Их позиция: достаточно скопировать функциональную организацию мозга — и сознание возникнет хоть на счётах. Из этой логики растут все мечты о цифровом бессмертии, загрузке личности в облако и прочей трансгуманистической эсхатологии. Если Пенроуз прав, всё это — научная фантастика для верующих. Загрузить вас в сервер можно, но в этом сервере уже не будет вас. Будет очень убедительная имитация — для всех остальных, кроме вас самих, который к тому моменту, увы, уже умер.

И вот здесь Orch-OR из заумной физической экзотики превращается в самый политически взрывоопасный вопрос столетия. Кто такой человек? Что такое смерть? Можно ли убить мысль или скопировать любовь? Заслуживает ли искусственный интеллект морального статуса? Стоит ли вкладывать триллионы в кремниевые мозги, если они в принципе не способны проснуться?

Проблема не в том, что у нас нет ответов. Проблема в том, что от ответа зависит будущее цивилизации, а отвечает на него, кажется, дюжина чудаков с микротрубочками да пожилой математик с твидом и своей странной любовью к Гёделю. Никто пока никому ничего не доказал. Декогеренция в микротрубочках при температуре тела — вполне возможно, не такая уж и фатальная, как казалось двадцать лет назад. Но прыжок от «квантовые эффекты в трубочках есть» до «вот оно, сознание» — это пропасть, которую ни один эксперимент пока не перекрыл.

Пенроуз и Хамерофф могут оказаться правы во всём. Могут оказаться правы наполовину — и тогда квантовые эффекты в нейроне реальны, но к субъективному опыту имеют такое же отношение, как солнечный свет к фотосинтезу: необходимое условие, но не объяснение. А могут и катастрофически промахнуться, и через сто лет студенты будут изучать Orch-OR в разделе «Курьёзы науки» рядом с теплородом и эфиром. Что мы знаем точно: проблема сознания — самый твёрдый орех, который наука вообще когда-либо пыталась расколоть. Что мы не знаем — расколет ли его редукционистская нейронаука с её транзисторами и сетями, или для этого придётся-таки лезть в самый подвал физики, к гравитации и волновым функциям.

Главная заслуга Пенроуза не в том, что он прав, а в том, что он сделал нам всем неудобно. Он не дал научному сообществу спокойно похоронить вопрос под слоем нейровизуализации и красивых томограмм. И за одно это его место в истории мысли надёжнее, чем у иных нобелевских лауреатов. Сознание — не калькулятор. По крайней мере, до тех пор, пока кто-нибудь не докажет обратное.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: