Леонард Эйлер | Питер Деннинг. Почему ИИ никогда не сможет сравниться с человеком

/ Европейский центр программирования им. Леонарда Эйлера, 2026.

/ RTVI, 13.07.2026.

/ Наука ТВ, 13.07.2026.

[ Питер Джеймс Деннинг (род. 1942) — американский учёный в области компьютерных наук. Наиболее известен своими новаторскими работами в области виртуальной памяти, в частности изобретением модели рабочего набора для описания поведения программ, которая стала эталонным стандартом для всех политик управления памятью.

В Принстонском университете с 1968 по 1972 гг. написал свою классическую книгу "Теория операционных систем" (1973) совместно с Э. Г. Коффманом. Cотрудничал с Альфредом Ахо и Джеффри Уллманом в области компьютерной трансляции.

С 1983 по 1991 гг. в Исследовательском центре Эймса NASA основал Научно-исследовательский институт перспективных компьютерных наук (RIACS) и превратил его в один из первых центров междисциплинарных исследований в области вычислительной техники и космических наук.

Также известен своими работами по принципам функционирования операционных систем, операционному анализу сетевых систем массового обслуживания, разработке и внедрению CSNET, цифровой библиотеки ACM, а также систематизацией важнейших принципов вычислительной техники.

Начиная с 1967 г., долгие годы работал в Ассоциации вычислительной техники (Association for Computing Machinery, ACM). За это время был президентом, вице-президентом, трижды занимал пост председателя правления, был членом совета, редактором ACM Computing Surveys и редактором ежемесячного журнала ACM Communications. ]

====

* RTVI, 13.07.2026: https://dzen.ru/a/alSnK8pc2E9VITol

« Искусственный интеллект никогда не сможет сравниться с человеком по производительности и креативности, а его развитие может привести к опасным последствиям, считает известный американский ученый в области вычислительной техники Питер Деннинг. В своей новой книге Turing’s Mistake: Escaping the Yoke of Unintelligent Machines он объясняет это отсутствием у машины ряда ключевых черт, присущих человеческому разуму.

В книге Питер Деннинг подвергает критике положения, высказанные в 1950 году основоположником современных компьютерных наук Аланом Тьюрингом, отражавшие представления научного сообщества тех времен о том, что человеческое сознание способно существовать вне тела, а потому может быть воссоздано на элементах вычислительной техники.

Деннинг подвергает сомнению то, что истинный искусственный интеллект может быть проверен с помощью так называемого теста Тьюринга, также предложенного в 1950 году.

По этим причинам развитие искусственного интеллекта, считает ученый, уже три четверти века идет в неправильном направлении. «Эти два утверждения во многом сформировали исследования и развитие ИИ, — пишет Деннинг. — Я предполагаю, что наше согласие с этими утверждениями привело к неразберихе в области ИИ, в которой обнаруживаем себя сегодня».

В связи с этим прогресс в области ИИ никогда не достигнет желаемого уровня так называемого общего искусственного интеллекта (Artificial General Intelligence, AGI); вместо этого он может оказаться опасным. Общим искусственным интеллектом называют ИИ с когнитивными функциями человеческого уровня, включая способность к самообучению. Считается, что такой искусственный интеллект сможет автономно решать множество сложных задач в различных областях знаний.

Ключевым аргументом в позиции ученого является концепция так называемого неявного знания — накопленных человеком знаний, которые не могут быть переданы словами или любой символьной формой и потому не могут быть восприняты и обработаны вычислительной машиной.

Деннинг выделяет пять главных типов такого знания, которое не может быть использовано при машинном обучении. Сюда входят жизненный опыт, наши ежедневные взаимодействия с другими людьми и средой, наши чувства и восприятие, профессиональные навыки, социальная и историческая культура.

Ученые уже пытались каталогизировать известные человечеству факты из области жизненного опыта. Еще в 1984 году ученый Дуглас Ленат запустил проект Cyc — онтологическую базу знаний, позволяющую программам решать задачи на основе логических выводов и привлечения здравого смысла. За 40 лет в ней удалось собрать 25 млн элементов. «Но даже этой сокровищницы не хватит для создания жизненного опыта, которого было бы достаточно экспертной системе, чтобы быть умной на уровне экспертов», — считает Деннинг.

Профессиональные навыки — еще один непреодолимый барьер для искусственного интеллекта. «Наши навыки в тысячах областей не могут быть переданы машинам, — считает Деннинг. — Несмотря на то, что результаты профессиональных навыков (знание, что делать) часто можно представить в качестве битов, хранящихся в машине, мы не знаем, как закодировать присущее нам знание для профессиональных навыков (знание, как делать)».

Как пример — виолончелист, виртуоз, который способен играть прекрасную музыку, но не способен описать, как он это делает. «Даже если робот может наблюдать и имитировать опытного человека, не имея человеческого тела, он не способен понять, что чувствует музыкант, играющий прекрасную музыку, и что чувствует аудитория, слушая ее», — пояснил ученый.

По его словам, другими примерами неявного знания являются интуиция, внутреннее ощущение, спонтанное творчество и воображение. В освоении и передаче этого феномена и кроется ключевая проблема при разработке AGI — поскольку мы сами не можем объяснить и даже понять неявное знание, мы не способны им управлять и передавать его. «То, как мы обладаем неявным знанием, — большая загадка, — считает Деннинг. — Все, что мы знаем, — что оно в нас есть. Мы понятия не имеем, что нам надо увидеть и измерить в нашем теле, чтобы раскрыть его». »

====

* Наука ТВ, 13.07.2026: https://naukatv.ru/news/u_lyudej_kotorye_dozhivayut_do_100_let_est_odna_obschaya_cherta_i_ona_ne_imeet_nichego_obschego_s_dietoj

« Сильный искусственный интеллект (AGI) в том виде, каким мы его себе представляем, невозможен в принципе, убежден профессор Питер Дж. Деннинг. Своими соображениями — и прогнозами — он поделился в книге «Ошибка Тьюринга: Освобождение от ярма неразумных машин».

По мнению Деннинга, в своей знаменитой работе 1950 года Алан Тьюринг высказал два ошибочных тезиса:

интеллект может существовать без тела,

машины смогут мыслить (что можно проверить через «имитационную игру» — тест Тьюринга).

Отца теоретической информатики автор, что немаловажно, ни в чем не упрекает — тот был ученым, а не провидцем. Виноваты скорее те, кто развил его заблуждения и три четверти века слепо следовал им.

«Эти два тезиса во многом определили направление исследований и разработок в области ИИ. Моя предпосылка состоит в том, что наше согласие с этими утверждениями и привело к тому хаосу в сфере ИИ, в котором мы сегодня оказались», — пишет Деннинг.

Ключевая особенность живого интеллекта, которая, как он полагает, никогда не будет доступна машинам — неявное (тацитное) знание. В своей монографии профессор делит его на пять основных областей:

• здравый смысл,

• повседневное взаимодействие с другими людьми и окружающей средой,

• чувства и восприятие,

• исполнительские навыки,

• социальная и историческая культура.

Другие примеры неявного знания — интуиция, внутренние ощущения, спонтанное творчество и воображение. Препятствием ко всему этому служит то, что Деннинг называет «проблемой представления».

== Фундаментальная преграда на пути к AGI

Это фундаментальная преграда на пути к созданию AGI человеческого уровня — для любого вычисления данные и инструкции должны быть закодированы в физических формах, которые машины могут распознавать и обрабатывать. Сама природа неявного знания такова, что закодировать его без потери смыслов не представляется возможным.

«За каждым словом стоит глубокий колодец неявного знания, который придает ему смысл. Слова — это лишь символические представления значений, а не сами значения. Широко используемые большие языковые модели, такие как ChatGPT, Claude и Gemini, манипулируют только словами, они не могут знать или понимать значение того, что говорят», — объясняет Деннинг.

Это создает непроходимую пропасть: поскольку мы не можем объяснить или даже понять, как работает неявное знание у людей — мы не можем даже начать его передавать.

«То, как мы храним неявное знание, по большей части остается загадкой, — признает Деннинг. — Все, что нам известно, — оно воплощено (в теле). Мы понятия не имеем, что можно наблюдать или измерять в нашем теле, чтобы его выявить».

Схожие трудности с культурной составляющей тацитного знания. Культура охватывает наши ценности, нормы, суждения, истории, сообщества и настроения, а также динамику власти и заботы.

«Человеческие разговоры пропитаны фоновыми допущениями, которые придают смысл и значимость используемым словам. Наращивание больших языковых моделей и укрупнение нейросетей не позволит им обрести то телесное человеческое знание, которое мы называем культурой. LLM не достигнут цели теста Тьюринга — продемонстрировать машинное мышление, неотличимое от человеческого», — считает профессор.

== Разумная угроза неразумных машин

Видный исследователь ИИ, он не отрицает дальнейшего его развития — но всерьез опасается, что оно заведет не туда. Искусственные нейросети породят форму машинного неявного знания, которое люди не смогут понять.

«Машины не могут прочитать наше неявное знание, а мы не можем прочитать их. Мы чужие друг другу, разделенные непроходимой пропастью», — констатирует ученый.

Поскольку машины неспособны считывать невыраженный человеческий контекст, их надежное согласование с нашими намерениями может оказаться невозможным, предупреждает Деннинг.

«Через ИИ-автоматизацию агентные сети машин, вероятно, разовьют собственный машинный интеллект, который не достигнет уровня человеческого общего интеллекта, но все же будет вполне способен создавать для людей серьезные проблемы. Эта угроза реальнее, чем захват сверхразумными машинами», — подчеркивает он.

Нельзя забывать о том, что сделало нас разумными — в конечном итоге это поможет нам не оказаться под властью машин в случае, если у них появятся такие поползновения. »

Телеграм: t.me/ainewsline

Источник: naukatv.ru

Комментарии: