Сравнение искусственного интеллекта с ядерным оружием стало общим местом

Сравнение искусственного интеллекта с ядерным оружием стало общим местом. Но настоящая угроза кроется не в гипотетическом суперинтеллекте, который однажды поработит человечество. Опасность гораздо прозаичнее и страшнее: авторитарные режимы уже сегодня получают инструменты, делающие контроль абсолютным, а сопротивление — бессмысленным. Это не футурология, это реальность, которая разворачивается прямо сейчас.

Начнём с того, что диктатура всегда держалась на страхе и слежке. Раньше для тотального надзора требовались миллионы доносчиков и годы кропотливой работы спецслужб. Теперь алгоритмы обрабатывают видеопотоки с уличных камер, распознают лица в толпе, анализируют голоса в телефонных разговорах и переписки в мессенджерах. По микро-паттернам поведения — как вы ходите, с кем встречаетесь, как часто меняете интонацию — ИИ вычисляет ваши политические симпатии и круг общения задолго до того, как вы сами решите выйти на протест. Участников любого несанкционированного митинга знают поименно ещё до того, как они соберутся.

Но слежка — лишь половина дела. Вторая половина — автоматическое уничтожение. Уже существуют системы, подобные израильской «Лавандер» (Господь), которые самостоятельно составляют списки целей для авиаударов, маркируя тысячи людей как «террористов» на основе одних лишь алгоритмических вычислений. Автономные дроны-камикадзе, оснащённые ИИ-распознаванием лиц, способны физически устранить любого неугодного человека без суда, без приказа командира, без малейшего колебания. Машинам неведомы жалость, усталость или чувство вины — они просто выполняют программу.

Ещё более коварный инструмент — управление реальностью. Глубокие подделки позволяют показать любого политика, произносящего любые слова. Диктатура может с лёгкостью сфабриковать «признание» оппозиционера в измене родине или смонтировать провокационное видео, способное развязать войну между соседними государствами. Массовые боты, управляемые ИИ, создают иллюзию всенародной поддержки режима, а любую альтернативную точку зрения топят в океане фейковых комментариев. В итоге люди перестают доверять любым новостям, потому что всё может оказаться подделкой. Общество погружается в паралич — управлять таким обществом легче, чем когда-либо.

Не менее опасна и автоматизация военных решений. Системы противоракетной обороны, управляемые ИИ, могут принять ложный сигнал о ядерном ударе за реальный и мгновенно запустить ответные ракеты. В 1983 году советский офицер Станислав Петров спас мир только потому, что не поверил показаниям электроники. ИИ не способен на такое сомнение — он просто оптимизирует победу, не понимая цены человеческой жизни. Сегодня подобная ошибка может случиться не из-за технического сбоя, а из-за того, что система сочтёт превентивный удар «наиболее эффективным решением».

В итоге диктатура, усиленная ИИ, становится самоподдерживающейся. Она реагирует быстрее, чем люди успевают организоваться. Мессенджеры читаются за доли секунды, скопления граждан распознаются за десять минут до начала, авторы анонимных текстов вычисляются по стилю письма. Система сама находит и подавляет любые потенциальные угрозы до того, как они успеют оформиться. Революция или переворот становятся математически невозможными.

Искусственный интеллект не поработит человечество, восстав из микросхемы. Он сделает диктатуру вечной, бесшумно и неотвратимо уничтожая саму идею свободы. Это ядерное оружие, которое не взрывает города, а тихо и методично убивает возможность сопротивления.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: