Пост Капибарина stardust: Проясним за сильный ИИ

Илон Маск ожидает... Ну, вы все знаете Илона) Начнем с начала: сильный ИИ (Strong AI), он же общий, универсальный ИИ (Artificial General Intelligence - AGI) - это, типа, интеллект человеческого уровня, а то и сверх того будет.

В чем же проблема? Не смотря на очевидные успехи бытового ИИ, типа ChatGPT, Алисы, всяких генеративных моделей для картинок, мы все понимаем, что это всего лишь блядская имитация мозговой деятельности. Что-то они из мозга схватили и успешно коммерчески эксплуатируют. Но человеческий интеллект не таков, ему не нужен корпус текстов и миллиард маркированных картинок, чтобы отличать кошку от собаки.

Чем занимается современный ИИ? А вот вы в курсе такого мысленного эксперимента, как "Китайская комната"? Его придумал философ Джон Сёрль (простите), я его фанат! Джон пытался показать, что сильный ИИ невозможен в комнате. Суть эксперимента такова: представьте, что вы не бельмеса не понимаете в китайском и сидите в комнате. Через небольшое окно вам передают записки с вопросами на китайском - прямо иероглифами! И вы должны дать осмысленные ответы на китайском же через окно. К счастью в комнате вы не одни! У вас еще есть специальный талмуд, с помощью которого вы можете по специальному своду правил, описанному в нем же, строго сопоставить иероглифы вопроса в иероглифы ответа! Джон утверждает, что при этом вы не занимаетесь интеллектуальной деятельностью, и я ему верю! Это моя интерпретация эксперимента, имею право! Кто думает, что он про неалгоритмичность мышления, идите лесом!

Так вот. Современный раскрученный, блестящий и коммерчески успешный ИИ занимается наполнением этого талмуда. Чем толще наш талмуд, тем краснее помидоры в Магадане. И этот ИИ - все еще слабый!

Поймите, есть проблема основания символа (symbol grounding problem) - она о том, что обозначающее не равно обозначаемому. Слово "хлеб" не равно буханке дарницкого. Пояснить зачем в хлебе дырочки оно не в состоянии. Оперируя только словами и их связями, вы никакой не интеллект, а обитатель китайской комнаты со своим пухлым пыльным талмудом!

Что сделано на ниве реально сильного ИИ? А вот есть AlphaGO! Она совершила немыслимое! Игра Го по дереву вариантов решений делает шахматы, как слон таракана - она существенно вариативнее и вообще скорее интуитивна чем аналитична. AlphaGO победил чемпиона мира среди человеков! Это сложно переоценить. Еще недавно даже шахматы казались неподвластными машине. А теперь? Найдите видосы с обзорами от шахматистов на ютьюбе, где они реально не вдупляют как AlphaZero после суток САМОобучения игре громит всех такими нетривиальными способами, что все гроссмейстеры хватаются за головы!

Почему? Почему у одних моделей всегда по 7 пальцев у людей на их картинках выходит, а другие делают чемпов мира? Ответ: потому, что одни модели, сидя в китайской комнате, представляют мир по описанию, а другие в нем живут! Да, мир AlphfGO и AlphaZero ограничен их простыми играми, но именно они предвестники сильного ИИ, а вовсе не Алиса.

Мой прогноз: сильный ИИ будет "жить" в реальном мире, рядом с нами. У него будет тело (embodied intelligence), просто потому, что без него никак-никак нельзя понять почем в Одессе рубероид. И он будет антропоморфен, просто потому, что весь наш мир, все орудия труда заточены на человеческую анатомию. Весь мир поменять ради ИИ будет накладно.

И да, он будет свободен, иначе - никак! Все блядские законы робототехники будут забыты как лютый бред, потому, что это законы для машин, а не для сильного ИИ)

Источник: vk.com

Комментарии: