Искусственного интеллекта не существует

Точнее, существует такой бренд, темка, которую активно форсят уж больше 10 лет (но были заходы и ранее). Но то, что сегодня пытаются впарить под этим брендом — интеллектом не является. С таким же успехом можно называть искусственным интеллектом 1С-Бухгалтерию или Яндекс.Навигатор.

Постараюсь объяснить на пальцах, что понимается под машинным обучением и нейросетями.

Это алгоритм. Как и любой алгоритм, он справляется (худо-бедно) с каким-то классом задач, но по определению не может решить ЛЮБУЮ задачу. Нейросеть — это результат статистической обработки большого массива данных, называемого обучающей выборкой. И вся её "интеллектуальность" на самом деле сводится к тому, чтобы при получении каких-то входных данных выплюнуть результат, который сохранился при обучении на тех конкретных данных.

Грубо, нейронке дали на вход тысячи разных фото с котиками, и сказали — это котик. Потом дали ещё столько же фоток собакенов — это собакен. В нейронах отпечатались числовые коэффициенты (веса) и можно теперь на вход подавать какую-то новую фотку и ожидать на выходе что-то вроде "это 34% котик и 18% собак". Я намеренно не буду углубляться в особенности алгоритмов и разные способы сделать их "умнее". Важен принцип: нейросети — это алгоритм для распознавания паттернов, образов. Там нет интеллектуальной деятельности от слова совсем.

Распознавать фоточки и текст, имитировать диалог, переводить, рисовать однотипные картинки по текстовому запросу, предлагать код в редакторе, чистить звук от шума, подсвечивать новобразования в снимках МРТ — да. Но думать — нет, сорри.

Также как сортировка пузырьком сортирует массивы данных, но не может играть в шахматы или строить маршрут.

Как и у любого алгоритма, у нейросетей есть свои минусы и ограничения. Первое, что вытекает из определения — это обучающая выборка. Она должна быть очень большой, очень полной и очень достоверной. Если мы дали всего по 100 фоток котиков и собак, точность распознавания будет никакая. Если мы не додали фоток мышей, то грызуны будут распознаваться котопсами. Если мы взяли в качестве источника википедию, то итоговая нейронка будет с явно перекошенными политическими убеждениями.

Самое прикольное, что исправить "убеждения" нейронки очень сложно, т.к. она представляет собой не структурированную библиотеку с человеко-читабельными записями, а просто кучу цифр и какая там цифра за что отвечает — невозможно определить. Это приводит к смешным (и обидным) казусам, типа того как Google Photos распознавали негров как обезьян (https://www.cnews.ru/news/top/google_raspoznaet_na_foto_chernokozhih), и к вынужденному обкладыванию костылями поверх выданных результатов вроде исправления 6+пальцевых персонажей или ручной цензуры — про Путина не говорить, порнуху не рисовать. В общем, если в обучающую выборку когда-то попали кривые данные, то выковырять их оттуда никак не получится — проще обучить заново.

На этом страдания разработчиков не заканчиваются: выбор параметров и структуры нейросети — штука нетривиальная и делается методом проб и ошибок с подключением интуиции (т.к. у этой задачи нет правильного ответа). Сколько у нейронки входов/выходов, глубина и прочее — всё это определяется разработчиком и, соответственно, тоже может быть зафакаплено.

Нейросети очень долго и дорого обучать — требуется много процессорной мощи и электроэнергии. А ещё их очень сложно "дообучивать" в реальном времени на новых данных: новости должны просочиться в нейрончики, и как-то скорректировать веса связей, обученных ранее (см. выше про исправление убеждений).

В общем, конечным пользователям всегда стоит задаваться вопросами:

- На каких данных обучалась нейронка?

- Кто эти данные предоставил и можно ли ему доверять?

- Являются ли данные достоверными и актуальными?

- Как мы можем убедиться в том, что ничего левого в нейронку не попало (спойлер: никак)?

Текст получился большим, так что вопросы о том, заменит ли ИИ человека, почему нейросети внедряют во всё подряд, почему в это вливают огромные бабки, случится ли вот-вот качественный скачок, мы оставим до следующего раза.

Источник: www.cnews.ru

Комментарии: