Андрей Карпати: ИИ — другой тип интеллекта, а не "недочеловек"

Бывший директор по ИИ в Tesla Андрей Карпати предлагает рассматривать большие языковые модели (БЯМ) не как "недоделанных людей", а как иной тип мышления. По его мнению, они развиваются не по пути создания цифрового человека, а в принципиально иной среде. Людей формировала борьба за выживание на протяжении миллионов лет, тогда как современные модели совершенствуются на основе датасетов, метрик и положительных отзывов.

Карпати пытается объяснить, почему ИИ может решать сложные задачи, рассуждать о квантовой физике, дрейфе континентов и даже анализировать Вселенную, но иногда с трудом справляется с простыми задачами, такими как подсчёт букв в слове. Однако это свойство присуще не только ИИ — гении тоже могут быть гениальны в одной области, но не всегда приспособлены к повседневной жизни.

Причина, по мнению Карпати, заключается в разном темпе мышления и сопутствующих чертах. Гении могут быть психопатичными, невротичными, сверхчувствительными, раздражительными, обидчивыми, капризными и с частыми перепадами настроения. У них практически отсутствует способность к адаптации.

Что касается ИИ, то Карпати опирается на эволюционную метафору. Для животных ошибка в острых задачах может стоить жизни и генов. Для LLM провал в аналогичном тесте почти ничего не значит — нейросеть не "умирает", её просто немного корректируют создатели, и появляются новые версии.

Далее Карпати выделяет три уровня отличий. Во-первых, это разные носители: малопонятный биологический мозг с нейронами и ныне "трансформеры" на графических процессорах. Во-вторых, разные механизмы обучения: человек формируется на основе генетики, развития тела и опыта, а ИИ обучается на текстах, другой информации и донастраивается по обратной связи.

В-третьих, различается режим существования: у человека есть непрерывная биография, тогда как знания модели "замораживаются" после обучения. ИИ, словно духи, "призываются" в ответ на запрос, обрабатывают его и исчезают до следующего вызова.

Главным отличием Карпати называет цель оптимизации. Биологический разум формировала естественная эволюция, где ошибка напрямую влияла на выживание особи и племени. Нейросети формируются в другой среде: данные, функции потерь, проверки безопасности, оценка разметчиков, продуктовые метрики, "лайки" и "дизлайки" пользователей. Ошибка здесь означает ухудшение качества сервиса, падение рейтингов или блокировку, но не смерть.

И гении, и ИИ живут в "своём выдуманном мире". В результате и возникает асимметрия интеллекта: иногда они демонстрируют феноменальные способности, но также имеют "пробелы в знаниях", особенно когда задача кажется неважной и малоинтересной.

Однако, по мнению Карпати, ИИ и люди — почти инопланетяне друг для друга. Пользователи, которые научатся относиться к БЯМ как к иным "информационным существам" с уважением и может с любовью НО В МЕРУ, смогут лучше понимать их поведение и достигать больших совместных результатов.

То есть "спать" с роботами не нужно, всё равно что спать с пришельцем(тем более эти "прищельцы" создан тобой — какой-то постэскапизм), а вот провести совместную научную работу, где ИИ будет анализатором, а человек — творцом, почему бы и нет

Источник: vk.com

Комментарии: