Критика систем искусственного интеллекта (ИИ), в частности больших языковых моделей (LLM) и генеративных нейросетей, со стороны академического сообщества математиков и физиков носит строгий

Критика систем искусственного интеллекта (ИИ), в частности больших языковых моделей (LLM) и генеративных нейросетей, со стороны академического сообщества математиков и физиков носит строгий методологический характер. Ученые и преподаватели точных наук оценивают ИИ не как потенциальный «сверхразум», а как специфический вычислительный инструмент, повсеместное и неконтролируемое внедрение которого в науку и образование несет системные риски.

Основные идеи и аргументы этой критики разделяются на три ключевых блока: эпистемологический (природа научного знания), прикладной (решение задач) и дидактический (обучение).

1. Эпистемологическая критика: подмена понимания корреляцией

В фундаментальной физике и математике ключевой целью является не просто фиксация или предсказание факта, а выявление причинно-следственных связей, скрытых инвариантов и законов природы. Критика ученых строится на понимании внутренней архитектуры современных ИИ-систем:

Статистическая, а не логическая природа: Генеративный ИИ работает на основе расчета вероятностей появления следующего токена (слова или символа) в тексте на базе массивов данных, созданных человеком. В нем отсутствует блок логического вывода и абстрактного моделирования. Он оперирует корреляциями, а не причинно-следственными связями.

Проблема «черного ящика»: Нейросети выдают результат, структура которого скрыта внутри весов миллиардов параметров. Физика и математика требуют верифицируемости и воспроизводимости. Если алгоритм предсказывает поведение физической системы, но не может эксплицировать закон, по которому это предсказание сделано, этот результат обладает низкой научной ценностью. Математическое знание прирастает методом доказательства и введением новых концептов, а не голым ответом.

Отсутствие физических ограничений внутри модели: ИИ не имеет встроенного понимания законов сохранения (энергии, импульса, заряда). Без жесткого внешнего программирования рамок («физически информированные нейросети», PINNs) чистая LLM склонна генерировать математически гладкие, но физически невозможные решения.

2. Прикладная критика: неспособность к качественному переходу и ложная авторитетность

Математики-исследователи и физики-теоретики указывают на жесткие ограничения ИИ при решении нестандартных задач:

Проблема галлюцинаций в строгом синтаксисе: В гуманитарных текстах небольшая ошибка или подмена факта может быть незаметна или списана на метафору. В математике и физике ошибка в одном знаке, пропущенный индекс тензора или некорректное деление на выражение, потенциально равное нулю, полностью обнуляют решение. Генеративные модели склонны маскировать отсутствие логики внешней гладкостью математического синтаксиса, выдавая ложные доказательства за истинные.

Ограничение рамками обучающей выборки (Интерполяция vs Экстраполяция): Современный ИИ эффективен в задачах интерполяции — усреднения и компиляции уже известных методов. Однако фундаментальная наука продвигается вперед за счет экстраполяции и качественных скачков (создание неевклидовой геометрии Лобачевского, формулирование квантовых постулатов Бора). ИИ не способен выйти за рамки заложенной в него математической парадигмы, поскольку он обучается на прошлом опыте человечества.

Иллюзия вычисления: Перебор статистических вариантов ИИ часто подменяет собой аналитическое решение. Математики подчеркивают, что автоматический подбор параметров или численный перебор на суперкомпьютере не заменяют строгого доказательства теоремы, так как не дают понимания границ применимости этого решения.

3. Дидактическая критика: разрушение когнитивных механизмов обучения

Преподаватели физико-математических факультетов и специализированных школ фиксируют деструктивное влияние ИИ на процесс формирования мышления учащихся:

Атрофия навыка преодоления ментального тупика: Изучение математики и физики строится на процессе самостоятельного поиска решения. Момент, когда ученик находится в состоянии неопределенности, совершает ошибки, строит контрпримеры и ищет внутренние противоречия, является необходимым условием для формирования нейронных связей, отвечающих за абстрактное мышление. Готовый ответ от ИИ, полученный за секунды, исключает этот когнитивный этап. Образование превращается в имитацию (сдачу готовых скриптов преподавателю).

Разрушение числовой и геометрической интуиции: Отказ от устного счета, ментального удержания цепочки уравнений и ручного геометрического построения в пользу автоматических систем деформирует рабочую память. Учащиеся теряют способность производить грубую прикидку порядка величин (оценку результата «на глаз»), из-за чего перестают замечать абсурдность физических результатов (например, когда при расчете на ИИ масса электрона получается равной нескольким килограммам).

Стандартизация и алгоритмизация мышления: ИИ транслирует наиболее вероятные, то есть усредненные и шаблонные пути решения задач. Постоянное взаимодействие с моделями приучает студентов мыслить узко алгоритмически, действуя по предложенному образцу, что прямо противоположно эвристическому подходу, требующемуся для решения олимпиадных и исследовательских задач.

Резюме аргументации

Ученые и преподаватели точных наук подчеркивают: ИИ является мощным автоматизатором рутинных операций (написание тривиального программного кода для расчетов, форматирование документации, проведение стандартных вычислений), но он не обладает субъектностью, не понимает смыслов и не генерирует новое значеское содержание. Восприятие его как «альтернативного разума» в науке и образовании ведет к снижению критического порога верификации данных и к интеллектуальной деградации обучающихся.

Прямым продолжением и документальным подтверждением этой дискуссии стал глубокий кризис в академическом сообществе, кульминацией которого стало открытое письмо ведущих ученых, опубликованное 11 сентября 2026 года. Документ получил название «A Severe Misalignment of AI in Mathematics» («Глубокое несоответствие ИИ в математике»).

Первоначально манифест подписали 25 ведущих математиков мира, включая лауреатов Филдсовской премии (среди которых Теренс Тао, Артур Авила и Джеймс Мейнард). Всего за несколько дней заявление поддержали более 7 200 ученых по всему миру. [1, 2]

Контекст появления заявления

Триггером для столь масштабного выступления ученых послужили события начала сентября 2026 года. 8 сентября 2026 года компания OpenAI объявила о том, что её ИИ-система нашла доказательство существования и гладкости решений уравнений Навье — Стокса — одной из семи «задач тысячелетия» Института Клея.

Система использовала около 10 000 цифровых агентов, работавших параллельно, и выдала за 88 часов машинного счета рукопись объемом 166 страниц, верифицированную на формальном математическом языке Lean. Почти одновременно модель Claude Fable от компании Anthropic выдала контрпример к другой исторической гипотезе — Якобиану.

Массовая генерация машинных доказательств вызвала шок в академической среде и привела к публикации манифеста.

Основные идеи и аргументы заявления математиков

Манифест филдсовских лауреатов перевел технологическую дискуссию в строго методологическую плоскость, выдвинув три главных обвинения в адрес IT-корпораций:

Целевое несоответствие (Мисалайalignment): Цели коммерческих IT-компаний и цели научного сообщества принципиально расходятся. Корпорации стремятся к массовому закрытию «брендовых» математических задач ради демонстрации вычислительной мощности своих моделей и маркетингового продвижения. Но суть математики состоит не в накоплении массива правильных ответов, а в концептуальном понимании, интуиции и передаче этого знания будущим поколениям. Машинное доказательство на 166 страницах, которое синтаксически верно, но не поддается человеческому осмыслению, не обогащает науку новыми идеями.

Угроза образовательной экосистеме: Массовое решение открытых математических проблем силами ИИ подрывает фундамент, на котором строятся исследовательские школы. Сложнейший вопрос, который озвучил Теренс Тао: как теперь обучать аспирантов и молодых ученых? Традиционно ученые растут, месяцами и годами размышляя над трудными задачами, заходя в тупики и развивая мышление. Если ИИ закрывает эти задачи за часы, исчезает сама почва для взращивания человеческих кадров.

Кризис институтов верификации и авторства: Академические журналы начали тонуть в сгенерированных статьях низкого качества. Традиционная система добровольного рецензирования (peer review) силами ученых рушится под этим объемом, поскольку проверка машинного кода требует колоссальных временных затрат от людей, при этом сам автор сгенерированного текста часто до конца не понимает логику ИИ.

Переход к «Математике 2.0»

Комментируя ситуацию, Теренс Тао констатировал, что классическая эпоха («Математика 1.0») была миром дефицита, где доказанная теорема являлась твердой валютой. Теперь наступает эпоха избытка, когда ценность голого ответа стремится к нулю, а главной задачей человека становится вылавливание крупиц смыслов из океана машинных данных.

Ученые сошлись во мнении, что бездумный прагматизм IT-индустрии уничтожает интеллектуальную радость исследования (то, что математик Джон Уршел из MIT назвал «удовольствием блуждать в темноте»), замещая её механической компиляцией, лишенной человеческого прозрения.

Заявление Филдсовских медалистов вызвало раскол: некоторые крупные математики (например, Тимоти Говерс) отказались его подписывать, выбрав путь сотрудничества с ИИ для контроля процесса.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: