Общий ПЕРЕЧЕНЬ базовых аргументов: почему человеческое ПОНИМАНИЕ не может быть воспроизведено ИИ

1. ОТСУТСТВИЕ СУБЪЕКТИВНОГО ОПЫТА (КВАЛИА):

ИИ не обладает сознанием или способностью переживать ощущения (например, боль, цвет, эмоции), которые лежат в основе человеческого понимания.

2. СИНТАКСИС БЕЗ СЕМАНТИКИ

ИИ манипулирует символами и паттернами (синтаксис), но не придает им смысла (семантика): см. эксперимент "Китайская комната" Дж.Сёрла.

3. ЗАВИСИМОСТЬ ОТ ДАННЫХ, А НЕ ОПЫТА

Обучение ИИ основано на статических датасетах, а не на интерактивном взаимодействии/контакте с миром, телесности или социальном контексте, но тут есть нюансы...

4. НЕСПОСОБНОСТЬ К РЕФЛЕКСИИ

ИИ не осознает себя, не задает вопросов о собственном мышлении и не выходит за рамки предзаданных алгоритмов. Да, но есть нюансы...

5. ОГРАНИЧЕНИЯ ФОРМАЛЬНЫХ СИСТЕМ

Теоремы Гёделя показывают, что формальные системы (включая ИИ) не могут охватить все истины, тогда как человеческий разум преодолевает эти границы через интуицию.

6. ОТСУТСТВИЕ ИНТЕНЦИОНАЛЬНОСТИ

У ИИ нет собственных целей, намерений или мотивации; его "действия" сводятся к оптимизации функций потерь.

9. ПРОБЛЕМА КОНТЕКСТА И НЕЯВНЫХ ЗНАНИЙ

ИИ часто ошибается в интерпретации иронии, метафор или культурных нюансов, требующих глубинного понимания контекста. Сейчас начинает справляться с этим все лучше и лучше.

8. ЭМЕРДЖЕНТНЫЕ СВОЙСТВА СОЗНАНИЯ

Понимание возникает из сложного взаимодействия биологических систем (нейроны, тело, среда), которое не сводится к вычислениям. Однако , т.к. пока наше сознание до конца не познанно, то и аргумент пока скорее проблематичен.

10. "ТРУДНАЯ ПРОБЛЕМА СОЗНАНИЯ" (Д. Чалмерс)

Даже идеальная имитация мышления не отвечает на вопрос, 'почему' и 'как' возникает субъективный опыт, необходимый для понимания.

++++++++++

PS: честности ради, надо заметить, что из перечисленных, пожалуй, только половина является "сильными"... Значительная же доля этих аргументов неплохо если не снимаются, то, по крайней мере, проблематизируются в контраргументах редукционистов - См., например, Работы Д.Деннета.

Источник: vk.com

Комментарии: