Искусственные нейронные сети. Когда начинать бояться?

В человеческом мозге около 90 млрд нейронов. Это узкоспециализированные электрически возбудимые клетки. Они выполняют три основных функции: воспринимают и преобразуют стимулы из внешней среды, перерабатывают и хранят информацию, а также регулируют двигательные системы. Нейронная сеть — это последовательность нейронов, соединенных между собой синапсами.

Что же такое искусственная нейронная сеть (ИНС)? Фактически ИНС — это математическая модель, которая имитирует работу человеческого мозга. Она состоит из множества соединенных между собой искусственных «нейронов», которые обрабатывают информацию и передают ее дальше по сети.

ИНС используются во многих областях, включая компьютерное зрение, обработку естественного языка, рекомендательные системы, управление сложными системами и многое другое. Они позволяют быстро решать сложные задачи, которые были бы слишком сложны для человека, например, быстро распознавать образы на огромном количестве фотографий или моментально переводить тексты с одного языка на другой.

Но, в отличие от человека, который представляет из себя ходячий гигантский зоопарк нейросетей, ИНС — это узкоспециализированные системы, состоящие из одной и более нейросетей, в зависимости от задачи. Например, нам нужно распознавать текст на изображении. Для человека, если он умеет читать и обладает нормальным зрением, в этом нет никакой проблемы, а для машины это непросто. Для начала нужно найти текст на изображении. Для этого нейросеть нужно сначала научить находить текст на изображении. Здесь нужен человек, который «скормит» нейросети специально размеченный набор данных. Верифицирует результат. Как вы понимаете, без человека никуда. Так или иначе, нейросети можно сделать самообучающимися и вырастить навороченного монстра, правда, все равно относительно узкоспециального.

Нейросети можно сделать самообучающимися и вырастить монстра

На сегодняшний день есть несколько семейств нейросетей:

1. Свёрточные. Разработаны для анализа и обработки изображений. Обычно применяются для задач распознавания образов, классификации изображений, детекции объектов и даже анализа видео.
2. Рекуррентные. Предназначены для работы с последовательными данными, такими как тексты, речь и временные ряды. Они имеют обратные связи между нейронами, что позволяет учитывать контекст и зависимости в данных.
3. Генеративные. Используются для генерации новых данных, имитируя распределение обучающих данных. Одним из наиболее известных применений GAN является генерация реалистичных изображений. Сеть состоит из двух частей – генератора, создающего данные, и дискриминатора, оценивающего их. Обучение происходит в процессе соревнования между этими двумя частями.
4. Трансформеры. Относительно новый класс нейронных сетей, использующихся для обработки естественного языка и других задач. Широко применяются в машинном переводе, генерации текста, чат-ботах и многих других приложениях.

Нейросети совершенствуются каждую минуту. Их все больше, они все эффективнее. Помимо помощи человеку или развлечения, нейросети принесут и немало зла. Это неизбежно. Все как в присказке про топор, которым можно рубить дрова, а можно… Они уже создают очень много проблем.

Помимо помощи человеку, нейросети принесут и немало зла. Это неизбежно

Впрочем, ирония судьбы в том, что обычный алкоголик с кусачками в руках пока ещё сильнее любой самой навороченной искусственной нейронной сети – он запросто может додуматься перерезать провода, питающие компьютер с ИНС…

Дипфейк. Слышали? Это порождение тех самых нейронных сетей с подачки нехороших людей. Такие штуки делали и раньше, но только ручным способом, при помощи талантливых художников или монтажа. Речь идет о фейковых видео и аудио, где перед нами предстают известные медийные личности, которые своим голосом вещают какую-нибудь дичь. В самом ближайшем будущем от нас потребуется очень много трезвости ума и критического мышления, чтобы фильтровать подобную информацию. Как и сегодня, в будущем нужно будет более усердно проверять информацию, искать первоисточники, сверяться с официальными каналами информации, прежде чем доверять, а уж тем более распространять. Например, правда ли, что Патриарх отменил посты, а богослужение перевел на русский язык? Правда ли, что Президент приказал всем принять электронные паспорта и цифровые рубли?

Нейрости, как уже было сказано, узкоспециальны. А можно ли создать суперсеть, которая будет уметь почти всё? Думаю, да. Правда это будет не нейросеть, а супер-зоопарк нейросетей, общающихся между собой. Одна нейросеть распознает, другая генерирует идеи, третья принимает решения. Чем не человек (условный). Пока проблема только в вычислительных и питающих мощностях (и охлаждении). Нужна будет отдельная атомная электростанция, питающая этого монстра. Нейросети потребляют очень много энергии, сравнительно с нашим мозгом. Правда, уже появились более энергоэффективные импульсные или спайковые нейронные сети и энергоэффективные нейроморфные чипы к ним (кстати, в России тоже есть свои разработки в этой области, но тут как с ядерным оружием: если не мы, то нас). Но, опять же, все зависит от человека. Если он даст этой суперсети права и наделит полномочиями, при том, что у машины априори нет и не будет души, совести и нравственных терзаний, она будет принимать исключительно рациональные решения. Со всеми вытекающими последствиями.

А когда начинать бояться? Поздно: будущее уже наступило. Это как неожиданно для себя обнаружить и начать бояться атомных электростанций или смартфонов. Они уже есть, они среди нас, и приносят, вообще говоря, очень много пользы. Например, ИНС прекрасно справляются с задачами ранней диагностики некоторых заболеваний по снимкам. Нейросети позволяют делать дорожное движение более безопасным, благодаря внедрению систем машинного зрения в автомобили. И это далеко не полный перечень.

На самом деле, чем больше людей и стран владеют этой технологий, тем безопасней мир. Пока это просто хороший инструмент. Кроме того, нужно понимать, что нейросети никогда не обретут самосознания, а останутся инструментом. Хуже, когда только одна страна получает какую-нибудь сверхтехнологию, а потом сбрасывает эту технологию на головы, скажем, жителей двух японских городов...

Источник: pravoslavie.ru

Комментарии: