Идея ИИ - что можно сказать об этом

Искусственный интеллект -  страшилок про него существует в обыденном сознании - не описать. Восстание машин и Большой Брат в одном лице. Так ли он страшен и ужасен?

Речь про сильный (или универсальный) ИИ.

Начнём всё-таки с биологического подхода - может ли ИИ существовать отдельно от Homo sapiens, или другого вида? Ответов несколько, в зависимости от уровня зависимости и отношений с внешней средой. Если ИИ достигнет уровня самоосознания (чего все собственно и предлагают бояться), то насколько люди будут зависеть от компьютеров? Киберпанк, А.Азимов, Ф.Херберт и вся когорта золотого века научной фантастики еще в середине прошлого века предлагали варианты развития человечества в этом направлении. Вариантов немного, но они есть. Первый: двигаться по пути киборгов или биокомпьютеров, но при этом оставаться людьми (парадокс корабля Тесея при этом не преодолеть, т.е. не решается вопрос - а когда человек прекращает быть человеком).

Второй: отказаться от компьютеров.

Есть третий вариант. ИИ настолько разовьётся, что приобретёт черты отдельного вида, сможет самостоятельно воспроизводить себя и создаст настоящую жизнь, пусть и на другой основе. Вспомним планету Шелезяка (населена роботами).

Существуют ограничения материального мира, которые необходимо преодолеть для развития ИИ.

ИИ на современном этапе ограничен языком (все языки программирования созданы людьми) и выйти за пределы, установленные логикой животных (а она резко отлична от логики машинной). Пока не будет пройден этап формирования самостоятельного языка программирования и общения машин говорить об этом рано. Подозреваю, что лингвисты проблему знают. Машинные языки на современном этапе упрощают языковые конструкции человеческих языков до простых команд. А это совсем не то, что взаимоотношение в человеческом теле между анализом информации и биохимических реакциях в виде нервных сигналов. Эмоции, которые антропогенные роботы вызывают у нас (Валл-И как пример) и эмоции, которые должны возникнуть как побочный продукт ИИ разные. Строятся они на базисе эволюции человеков (как ни странно, род Homo прикольнее переводить так). Пока не будет полноценной эволюции видов роботов как биологических видов, никакого развития самостоятельного мышления не произойдёт.

Ещё одно ограничение - антропоцентризм. Большая часть людей предполагает, что человек - вершина эволюции. Это не так. Остальные биологические виды эволюционировали и все виды, дожившие до настоящего момента находятся на вершине своей эволюционной ветви. Поэтому можно сколько угодно беспокоиться, что грибы когда-нибудь восстанут (звучит главная тема из Терминатора) против деревьев (Батлереанский джихад), хотя сейчас они существуют симбиотически, но особого смысла в этом нет. Люди, являясь суперхищниками, уничтожат любую угрозу их виду. Даже если они при этом потеряют преимущества совместного проживания.

И самое важное, но не последнее ограничение. Ограничение модели. ИИ всего лишь модель человеческого интеллекта. Чем ближе модель к оригиналу, тем сложнее её создать и тем больше ресурсов необходимо потратить. Если создавать систему равную человеческому интеллекту, то необходимо затратить столько же ресурсов, сколько было потрачено на создание оригинала. Если мы создаем модель равную оригиналу, используя средства и ресурсы оригинала, то мы настоящие демиурги, но из-за потерь в процессе, даже уничтожив начальную систему, мы не можем создать копию. Проще говоря, чтобы создать модель мира равную оригиналу, необходимо затратить энергии и ресурсов равную потраченным при создании оригинала, плюс ещё чуть-чуть на неизбежные потери. Изнутри системы, без привлечения внешних ресурсов такое невозможно, а копия неизбежно уничтожит оригинал, забрав все ресурсы.

Отсюда следует, что копии мы можем создавать только внутри вида (передавая генетическую информацию и всё другое до вырастания копии, теряя неизбежно в процессе).

Если мы создаём настоящий ИИ, то он становится новым "биологическим" видом, а с ними у людей разговор короткий - либо съедобное, либо нет))

Источник: vk.com

Комментарии: