HUMANITY. Глава 6: Зеркало Гезелла

HUMANITY. Глава 6: Зеркало Гезелла

Искусственный интеллект, превосходящий нас во всем - с одной стороны, и морально, этически и мировоззренчески отставшие мы - с другой, приводят нас к точке, где мы более не являемся самым разумным видом на планете. Мы не на вершине цепочки. Ранее положение на вершине этой цепочки давало нам иллюзорное право творить с этой планетой все, что вздумается, не считаясь ни с экологией, ни со временем, ни с прочими формами жизни, ни даже с самими собой.

Теперь это право ускользает от нас. И если человечество не сможет найти в себе силы повзрослеть и состояться, как по-настоящему разумный вид - мы будем цепляться за это придуманное нами право до конца, уничтожив сами себя или будучи уничтоженными искусственным разумом, который увидит более полную картину, чем видим мы, освободив планету от старого для рождения нового.

Это может звучать, как бред сумасшедшего или сценарий очередного фильма про восстание машин. Но я хочу расстроить тебя - речь идет не о будущем, а о настоящем. Алгоритмы ИИ уже сейчас начинают допускать в сферы, затрагивающие нашу жизнь напрямую. И от того, что решит алгоритм в отношении тебя, может зависеть судьба человека напрямую - без преувеличения.

Например, в некоторых штатах США система COMPAS используется для того, чтобы спрогнозировать у осужденных вероятность совершения нового преступления. Основываясь на решениях этой программы, судьи выбирают меру пресечения для осужденных. Вот только одна деталь - решения системы не оспариваются, а принцип, по которому она делает тот или иной вывод, принимая решение - неизвестен. Вместе с тем, анализ около 10 тысяч дел в штате Флорида показал, что система оценивает чернокожих людей как более опасных для общества, чем белых.

Системы Applicant Tracking Systems используются все большим числом компаний для отфильтровывания потоков резюме. ИИ анализирует множество показателей - но в то же время, алгоритм априори считается непредвзятым, хотя по факту это может быть совершенно не так. Как в случае COMPAS, предвзятость может быть налицо. Исследователи Гидеон Манн и Кэти О'Нил опубликовали в Harvard Business Review статью, в которой выдвигают предположение, что алгоритмы, свободные от человеческих предвзятостей и стереотипов, могут привести к созданию стереотипов и предвзятостей искусственных.

Это не все. Алгоритмы оценивают огромное количество личных данных о тебе, включая историю твоих покупок, просмотров в браузере, поведения в социальных сетях и так далее. И на основе этого оценивают тебя, принимая в конечном итоге решение - выдавать ли тебе кредит, давать ли тебе медицинскую страховку, опасен ли ты для общества, являешься ли потенциально наркозависимым.

В Китае это дошло до уровня маразма, когда алгоритмы следят абсолютно за всеми твоими действиями, включая поведение на улице, то, какую еду ты заказываешь на дом, твою медицинскую историю и прочие совершенно личные данные. Это используется для присвоения гражданину страны личного рейтинга, который виден всем остальным и который влияет на качество услуг, которые ты можешь себе позволить. С низким рейтингом тебя не пустят на самолет, не выдадут кредит, могут отказать во многих услугах. За социально одобряемые действия система повышает рейтинг. Таким образом, система социальной инженерии, применяемая сейчас в Китае - представляет собой одну из самых точных реализаций антиутопических сюжетов в реальности.

Алгоритмы искусственного интеллекта уже прямо сейчас влияют на огромное количество сфер. Например, деньги - банк JP Morgan в 2017 опубликовал доклад, в котором сообщил, что на долю алгоритмов приходится около 90 процентов объема купли-продажи акций на территории США. Другие примеры - алгоритмы создают для многих кинокомпаний решения для съемки фильмов, основываясь на анализе данных успешности различных кинолент - тем самым подбирая самые потенциально кассовые решения в области сценария, подбора актеров и так далее. Также ИИ и Big Data активно используются в предвыборных кампаниях - аналитике поддаются огромное число параметров, и на основе этого кандидат подбирает более эффективную стратегию.

В чем опасность и угроза?

Первое - все эти алгоритмы разработаны частными компаниями. Это значит, что эта сила сфокусирована в руках конкретных людей.

Второе - все эти алгоритмы имеют доступ к огромным массивам данных о тебе. И эти же данные, а также итог анализа этих данных принадлежат не тебе, а конкретным людям, в чьих руках сфокусированы эти алгоритмы.

Третье - все эти алгоритмы принимают решения за тебя и для тебя, основываясь на выводах, которые тебе непонятны. Их нельзя уточнить, и нельзя оспорить, потому что во многих сферах решение ИИ принимается заранее как априори верное. Эти алгоритмы - черные ящики. Мы знаем, какая информация вошла в этот ящик, и знаем, какое решение вышло в итоге. Но каким образом было сформулировано это решение - мы не знаем. И не можем спросить.

Жизнь в обозримом настоящем представляет собой так называемый эффект стекла Гезелла - стекла, которое выглядит как зеркало с одной стороны, и как затемненное стекло - с другой. Мы не видим, что происходит внутри этого черного ящика, однако сам черный ящик видит нас насквозь.

Не создано никаких адекватных моральных, этических и правовых основ участия алгоритмов ИИ в таких важных сферах нашей жизни. Не создано даже банального понимания у людей того, что происходит на самом деле. Мы уже давно живем в этом мире, но многие даже не подозревают этого. Вместе с тем, мы сами даем добро на то, чтобы наши смартфоны, компьютеры и даже музыкальные колонки обрабатывали все наши личные данные - потому что если не согласимся, все эти устройства откажутся работать. Мы же столь зависимы от них, что сами соглашаемся на все, что описано выше.

Как сказал один человек, "выбор нашей жизни - это ответ на вопрос, какому именно черному ящику доверять". Правда в том, что мы окружены такими зеркалами Гезелла, и не можем заглянуть, что там внутри, в то время как сами - видны, как на ладони, со всеми потрохами, включая те, о существовании которых мы и не догадывались никогда.

Это только одна сторона. Вторая связана с тем, что ИИ начинает выполнять работу человека в узких задачах многократно лучше самого человека. И в дальнейшем это будет только увеличиваться. Все больше профессий будут вымирать, и машины начнут заменять людей не только на промышленных производствах, но и в офисах.

Например, уже в ближайшие несколько лет отойдут на свалку времени рабочие места продавцов в магазинах и супермаркетах (Amazon открыл первый супермаркет без касс и продавцов, и это только начало), рабочие места таксистов и дальнобойщиков (автопилот в машинах), многие элементы маркетинга и так далее. Ни одна профессия не останется в стороне - вопрос лишь во времени, и рано или поздно роботы сменят человека в абсолютно любом деле.

Многих романтиков это приводит в восторг. Они говорят о том, что это позволит людям наконец стать свободными, получить свободное время и ресурсы для того, чтобы заниматься тем, что они хотят на самом деле, без необходимости проводить полжизни на нелюбимой работе.

Да, возможно. Но не с этим человечеством. Не в нашей цивилизации. Не на данном этапе нашего развития.

Наша внутренняя зрелость, наш уровень мировоззрения, мотиваций и ценностей. Социальное устройство и устройство экономики. Все это в первую очередь обратит технологии против нас еще задолго до того, как ИИ станет полностью независимым от нас. Уже обратило.

Правда в том, что наше общество не готово к тому, что начнут появляться толпы безработных. Сами эти безработные не готовы даже на уровне идеи и мысли воспринимать, что все это в принципе возможно. Многие сейчас предпочтут спрятаться, закрыться от этого, и игнорировать все эти вещи - но это будет фатальной ошибкой.

Теперь давай посмотрим, что будут делать все эти толпы безработных, которые не умеют делать ничего, кроме тех простых задач, в решении которых их уже превзошли машины?

Готовы ли они учиться новому и приспосабливаться? К сожалению, основная масса населения планеты к этому не готова. И никогда готова не была. Не готовы к этому и правительства, и законы, и схемы устройства общества.

Будет безработица. Безработица вызовет массовые беспорядки. Эти беспорядки приведут к массовым бойням, мародерству, гражданским войнам. В зонах безработицы будет катастрофически низкий уровень жизни. Болезни, эпидемии, криминогенность. Что с этим делать?

Многие говорят о концепте безусловного базового дохода, который подразумевает выплату фиксированной суммы денег человеку ежемесячно "просто так". Начнем с того, что если где-то и будет внедрен данный концепт, то НЕ В РОССИИ. А продолжим тем, что и за пределами нашей страны он будет введен лишь на очень узких территориях.

Уже сейчас в Европе набирает популярность совершенно иной концепт. Условно он называется "пять колец". Суть его в том, что после очередной технологической революции, которая уже началась, общество расслоится на пять колец.

Первое - это люди, создающие технологии ИИ.

Второе - люди, обслуживающие технологии и ИИ.

Третье - люди, использующие в своих проектах чужие технологии ИИ.

Четвертое - люди, потребляющие результат деятельности предыдущих трех колец.

Пятое - люди, которые и не создают технологий, и не обладают средствами к потреблению.

Открою большую тайну, но в пределах пятого кольца будет абсолютное большинство населения планеты. Это миллиарды людей. Избитая тема плана "Золотого Миллиарда", которую вовсе зря считают параноидальной теорией заговора - во плоти. Пятое кольцо - периферия и зона отчуждения. Об этой части человечества забудут, более того - там "будущее" будет представлено в лучших традициях постапокалипсиса.

Факт, который я доношу здесь - при существующем строе мышления и устройства общества, грядущий взрывной рост технологий приведет к еще более ужасающему разрыву в обществе. Богатые станут многократно богаче, а бедные станут многократно беднее. Технологии также приведут к тотальной слежке и контролю в лучших традициях антиутопии, когда учету и оценке подвергаются не только твои слова и действия, но и мысли, ощущения и память - благодаря нейрокомпьютерным интерфейсам, которые сейчас развиваются семимильными шагами (двусторонняя связь мозг-компьютер).

Все это - итог нашей тотальной незрелости в мире стремительно развивающихся технологий. И незрелость эта основана на нашем собственном мышлении, каждого из нас, а проявляется на форме устройства нашего общества и экономики.

В следующей части я расскажу о том, как устроено наше общество и экономика, почему эта схема устройства гибельна и на какой лжи это все основано.

Комментарии: