Роботизация, искусственный интеллект и страх перед массовой безработицей

Позавчера, 15 марта, компания OpenAI опубликовала так называемый паспорт новой архитектуры нейросети GPT (GPT-4 System Card) — лицензионное соглашение, если хотите. И при тестировании GPT-4 на площадке фриланс-услуг TaskRabbit она совершила, как многие говорят, невозможное. Она обманом заставила соискателя разгадать капчу. Любители красивых заголовков могут раздуть из этой новости самые разные истории: от технической революции до грядущего восстания машин, от срочной необходимости брать технологический сектор под государственный контроль до необходимости коммунизма, чтобы машины работали, а люди условно говоря развлекались и превращали свою жизнь в интересное творческое приключение. Но если у вас есть хоть какое-то представление о самых основных принципах работы любой нейросети, вы сразу поймёте, что всё куда проще. GPT-4 изначально был задан, так сказать, курс на «обман». Она должна была заставить кого-то разгадать капчу, не сообщая, что она — не человек.

Машина — это превосходный помощник и инструмент, но не более того. Машинный алгоритм, в сущности своей чистая математическая симуляция, никогда не сможет превзойти человеческий разум. Хотя бы потому, что машинному алгоритму недоступно то, что люди называют «душой» — совокупность факторов, присущих органическим нейронам и мозгу человека, которые отличают нас от любого другого живого существа. И всё же, несмотря на это, находится масса людей, опасающихся потенциала технологического сектора, то есть по сути технологии машинного обучения, и промышленного роботостроения в целом. Они, подобно луддитам в своё время, пересказывают всё те же старинные слова: если не остановить паровую машину (робота) сейчас, то в будущем она заменит людей на мануфактурах (заводах). На деле же паровая машина просто интегрировалась в производство, облегчив кому-то работу и позволив производить гораздо больше товаров. В значительной степени паровые машины комплексно повлияли на промышленность, что только создало новые или расширило старые рабочие места: да взять хоть тот же обслуживающий персонал этих самых машин или их производителей. Страх перед прогрессом всегда происходит из-за непонимания его сущности.

Вопреки распространенному мнению, ни одна промышленно развитая страна никогда полностью не заменяла человеческий труд машинами. Ни Gigafactory Илона Маска, на которых вообще-то заняты тысячи специалистов, ни советские эксперименты в области роботизации не заменяли производства машинами даже наполовину — просто потому, что образ роботизации в популярном представлении целиком и полностью создан научными фантастами. Тами самыми, кто придумали киберпанк или коммунизм.

Человеческий и машинный труд — это вовсе не антиподы. Это две переменные, которые друг друга дополняют. Это первостепенное положение, которое вам нужно запомнить, чтобы понимать промышленную роботизацию правильно.

Большинство компаний в мире, которые производят автоматизацию на своих производствах, а также компаний, которые занимаются автоматизацией на заказ, работают с частными и комплексными проектами. О полной автоматизации речи не идёт, так как это проекты с крайне сомнительной окупаемостью. Но это не значит, что гипотетически полная автоматизация предприятия невозможна. Современный уровень технологий, очевидно, позволяет создать полностью автоматизированный производственный цикл, но, тем не менее, даже те корпорации, обладающие специальными экспериментальными отделениями и дочерними компаниями, которые могут позволить себе такой скачок, придерживаются моделей исключительно комплексной автоматизации. Вас может удивить тот факт, что автоматизация рассматривается как что-то выгодное исключительно там, где высок риск нештатных ситуаций и цена ошибки слишком высока. Именно это всегда и везде рассматривается главной целью автоматизации — такую несложную мысль расскажет вам любой студент, выбравший автоматизацию своей специальностью. В противном случае все сетевые продуктовые магазины давно установили бы уже относительно дешёвые кассы самообслуживания, чтобы заменить кассиров и не выплачивать им больше зарплаты или не нести за них социальную ответственность перед государством.

Другой, возможно, более интересный вопрос — может ли нейросеть быть разумной, что открыло бы возможности планировать самые мелкие аспекты экономики и реагировать на нестандартные ситуации в ней, или вовсе заменить человека абсолютно везде. Зависит, как говорится, от определения. Если мы называем разумом просто механическую способность производить некие действия (операции), которые могут корректироваться в зависимости от внешних условий, то может. И обезьяны, создающие различные примитивные орудия труда под разные ситуации, могут. И любой другой живой организм, адаптирующий и калибрующий свои действия на пути к своей цели — даже кошки, живущие инстинктами, как любое другое животное. Но если считать разум чем-то более «антропоцентричным», то есть если придать термину «разум» значение, смежное с термином «душа», то мы выясним, что механический подражатель не осознаёт себя.

На вопрос о разумности пусть каждый ответит для себя по-своему: это очень интересный и большой философский вопрос. Корректнее здесь поставить этот вопрос так: может ли нейросеть выйти за рамки заданных значений в её математической модели? Ответ: нет. Это как если бы мы требовали от человеческого головного мозга чего-то, на что он чисто физически не способен. Для нейросети не существует абсолютно ничего, что находится вне её модели. И её так называемое машинное обучение на самом деле крайне ограничено. Существует много различных типов машинного обучения, и каждое из них работает с заранее заданным массивом данных — есть структурированные данные («мозг» нейросети) и неструктурированные, то есть то, чему ей нужно обучиться, что ей нужно впитать в свой «мозг». При этом само обучение нейросети тоже не берётся из некой осознанной воли, в отличие от человеческого разума, а из заранее заданной создателем системы вознаграждений. Представьте коробку с кубиками разных размеров и, допустим, робота с нейросетью, которому подкладывают всё новые кубики. Всё, что находится вне коробки, для робота не существует, потому как это ре предусмотрено его математической моделью. Его специально построенная нейросеть обучается тому, что кубики могут быть разных размеров и форм-факторов. Смысл именно в том, что нейросеть обучается тому, что ей «подкладывают», тогда как человек познаёт окружающий мир другим способом — собственной волей, прихотью ума, если хотите.

Как я уже написал ранее, любая нейросеть — это симуляция. Но симуляция даже не органических нейронов настоящего мозга, а чистой математической вероятности. Пожалуй самым известным примером из последних новостей стала та же самая GPT, которая писала на первый взгляд убедительные и логически стройные тексты, но выдавала фейковые ссылки. Здесь нужно понимать, что это формальное подражание текстам, написанным людьми — как и вообще всё, что вам может показаться признаком разума у машины. Дело в том, что GPT не осознаёт своего выбора, в отличие от реальных авторов, потому как она неразумна. Она может попытаться убедить вас, что разумна, если дать ей установку, что вас нужно в этом убедить. Реальные авторы пишут свои тексты, держа общую концепцию, как говорится, в уме, и выстраивая в них в полном смысле логическую цепочку повествования. Нейросеть же просто подбирает нужные слова исходя из вероятности совпадений — из того, как это делают люди.

Источник: vk.com

Комментарии: