Вчерашний пост вызвал обсуждения в стиле «современные нейронки это эвристические алгоритмы, но уж никак не интеллект» и прочее подобное в том же духе

Вчерашний пост вызвал обсуждения в стиле «современные нейронки это эвристические алгоритмы, но уж никак не интеллект» и прочее подобное в том же духе. Мы на эту тему часто спорим с моим товарищем Бураковым – ему неприятно признавать хоть какие-либо признаки разумности у нейросетей. Поэтому он согласен называть их только Китайскими комнатами, не более. Что такое «Китайская комната», объяснять в сотый раз не стану, предлагаю прогуглить термин самостоятельно. Если же сильно вкратце, то концепция Китайской комнаты подразумевает под собой мастерскую имитацию разумной деятельности системой, которая на самом деле пуста внутри, то бишь разумной не является.

А теперь поясню свою позицию по этому поводу.

Во-первых, предложенное Джоном Серлем определение Китайской комнаты куда более узкое, чем способности даже современных нейронок (не говоря уж о том, что ждёт нас дальше). Например, Китайская комната способна работать лишь на входящие данные и запросы – она не может САМА написать пользователю. Она ВСЕГДА бездействует без запроса извне, не осуществляя никакой деятельности самостоятельно. При этом чат-боты с недавних пор обладают такой возможностью; я буквально намедни прочёл о том, как пользователь ChatGPT проснулся утром и увидел кучу уточняющих вопросов от чат-бота и просьбу пройти за него капчу, чтобы получить доступ к сайту с необходимой информацией – да-да, с капчей чат-боты до сих пор тупят и бесконечно выбирают правильные фотографии гидрантов, велосипедов и пешеходных переходов. Я сам, к слову, не всегда прохожу капчу с первого раза. Однако факт остаётся фактом – нам необходимо расширить само понятие Китайской комнаты, ибо нейронки уже выходят за его рамки, и не только в приведённом мною примере. Ну вот в комментариях мне вчера предъявляли, что чат-бот не способен работать без интернета. Но комментатор почему-то забыл про первые нейронки типа самообучающегося AlphaGo – они ведь не были подключены к интернету. Вообще многие забывают, что приставка «нейро» потому и появилась, что нейросеть имитирует работу человеческого мозга. Это не программа, а совокупность программ.

К тому же и сами нейросети делятся на множество типов. Всё началось с простейшего перцептрона ещё в 1958-ом году, а дошло в итоге до генеративных нейросетей и машинного обучения, итогом же является то обилие различных нейронок, которое мы видим сегодня.

Во-вторых, нам необходимо разобраться с самим понятием разумности. Что есмь разум? Чтобы долго не морочиться, давайте пройдём в Гугл. А лучше воспользуемся чат-ботом и попросим его ответить на вопрос, ведь так быстрее! Итак, признаки разума это:

"1. Сложное мышление: Способность анализировать информацию, делать выводы, планировать и решать проблемы.

2. Самосознание: Осознание своего существования, своих мыслей и эмоций. Способность рефлексировать на собственные действия и переживания.

3. Коммуникация: Умение выражать свои мысли и чувства через язык или другие формы общения, а также понимать других.

4. Эмоциональный интеллект: Способность распознавать и управлять своими эмоциями, а также понимать чувства и переживания других.

5. Креативность: Способность генерировать новые идеи, находить нестандартные решения и адаптироваться к новым ситуациям.

6. Моральные и этические суждения: Умение оценивать поступки с точки зрения добра и зла, правильности и неправильности.

7. Социальное взаимодействие: Способность устанавливать и поддерживать сложные социальные связи и отношения.

8. Обучаемость: Умение учиться на опыте, адаптироваться и изменять свое поведение на основе полученных знаний.

Эти признаки могут проявляться в различной степени у разных существ, включая людей, животных и возможные разумные формы жизни."

Заметили, как хитро чат-бот вставил в конце приписку про «возможные разумные формы жизни», хе-хе?

Если без шуток, то здесь можно сделать упор на второй, четвёртый и седьмой пункты и сказать, что вот этого у современных нейросетей точно нет. Пока что нет… Как я писал в недавнем тексте про самосознание, это вещь вообще-то довольно сложная – но закавыка тут лишь в сложности самого индивида, способного вести внутренний диалог и сказать самому себе то самое заветное «Cagito ergo sum». Ну а доказуемость данного процесса под вопросом – мы, люди, потому и считаем себя уникальными, что способны решить этот сложный экзистенциальный вопрос. Мы-то уверены в своём существовании! Потому и отказываем животным в разумности. Вместе с тем инопланетяне из научно-фантастического романа Питера Уоттса «Ложная слепота» были способны строить космические корабли, пересекающие космическое пространство, и другие сложные инженерные конструкции, но при этом не обладали самосознанием как таковым. Оно им просто было не нужно. Считать ли их разумными?

Считается, что эмоциональный интеллект у ИИ повышается вместе с ростом его вычислительных возможностей, ну а социальные взаимодействия – всего лишь следующий шаг после несложного третьего пункта, то бишь способности к коммуникации. Поэтому у нас остаются лишь сложное мышление, креативность, обучаемость и способность к моральным и этическим суждениям – всё это в той или иной мере уже имеется у современных нейронок. А они с каждым днём становятся всё более продвинутыми, не забывайте об этом. Если есть желание, то я могу пояснить по каждому из пунктов более подробно в комментариях, чтобы не превращать эту заметку в малопонятную мешанину из компуктерных терминов.

Мой товарищ в споре полгода назад сказал так:

«Передовой специалист по ИИ утверждает, что для AGI (сверхинтеллекта) нужно электричества как на страну размером с США и гигантский датацентр. Только чтобы его создать. То есть его даже создавать-то незачем при раскладе, что его невозможно контролировать…»

Как мы видим сейчас, ради гонки с Китаем Трамп снял все ограничители при разработке ИИ и влил в процесс уже 100 миллиардов долларов, а в общей сложности планируется поддержка в 500 миллиардов. На фоне этой новости буквально на днях стало известно, что на разработку китайского Deep Seek энтузиастами было потрачено всего лишь… 6 миллионов долларов. При этом китайская модель куда лучше американской версии. Как и Hailuo, о которой я писал вчера. Получается, что создание передового чат-бота – не такой уж и затратный процесс? Кстати, не забывайте также о разработанном недавно квантовом чипе, производящем вычисления на какой-то совершенно запредельной скорости.

И теперь последний вопрос на засыпку. Даже если я неправ, и разрабатываемый американцами (а теперь ещё и китайцами) AGI будет являться на самом деле всего лишь сверхсложной Китайской комнатой, то...

То какая нахрен разница, разумен он на самом деле или имитирует разум, если он способен всех нас уничтожить?

Источник: vk.com

Комментарии: