Искусственный интеллект и «дивный новый мир»: почему главная опасность заключается не в «восстании машин»

Споры об искусственном интеллекте (ИИ) не утихают: кто-то размышляет о том, обладает ли искусственный разум сознанием, кто-то (как, например, глава компании Anthropic, разработчик Claude) говорит об угрозе захвата интернета ИИ-агентами и необходимости замедления темпов развития ИИ, а кто-то, напротив, говорит о том, что никакого прорыва в развитии машинного разума на самом деле нет, а все разговоры об опасности являются не более чем заговором элит, «очередным поводом напугать человечество неминуемой угрозой исчезновения и за этой ширмой решать свои проблемы управления миром». Именно об этом, в частности, пишет Юрий Апухтин в материале «Блеф с искусственным интеллектом», который автор сих строк с интересом прочитал.

Юрий Апухтин утверждает, что «на сегодняшний день искусственным интеллектуальным системам доступны только различные вычислительные операции и абсолютно недоступны мыслительные», и здесь возникает закономерный вопрос: что именно подразумевается под мышлением? Если речь идёт о человеческом сознании, субъективном опыте и способности осознавать собственное существование, то нейросети действительно не обладают подобными свойствами. Но если под мышлением понимать анализ, сравнение, обобщение, абстрагирование и построение логических выводов, то данное утверждение оказывается по меньшей мере спорным.

Современные нейросети в состоянии анализировать достаточно сложные тексты, и их ответы далеко не всегда банальны. К примеру, нейросеть может проанализировать фантастический роман, найти несостыковки в сюжете и предложить варианты их разрешения. Иногда эти варианты даже могут быть интересными (автор проводил соответствующие эксперименты). Разумеется, речь идет о продвинутых нейросетях вроде ChatGPT (модели 5.6 и 6.0), DeepSeek, Claude и т.д.

Что любопытно – для Апухтина искусственный интеллект – это, по всей видимости, некий искусственный человек, который непременно должен мыслить так же, как человек, обладать сознанием и воспроизводить работу человеческого мозга. А раз создать такого искусственного человека пока не удалось, то и разговоры о достижениях ИИ объявляются преувеличением или и вовсе блефом.

Между тем искусственному интеллекту совсем не обязательно становиться «искусственным человеком». Более того, именно потому, что он не является человеком и не ограничен особенностями человеческого мышления, он уже способен превосходить людей в отдельных интеллектуальных задачах.

Например, в июле 2025 года модель Gemini Deep Think от Google DeepMind решила пять из шести задач Международной математической олимпиады и набрала 35 из 42 баллов – результат уровня золотой медали. Можно спорить о том, «понимает» ли модель математическую задачу в человеческом смысле (вероятно – нет), но система сумела построить сложные математические доказательства. При этом важно отметить, что пятеро участников-людей смогли решить все задачи без единой ошибки, набрав по 42 балла.

Да, в основе работы нейросетей лежат математические вычисления, однако почему это обстоятельство должно исключать возможность выполнения ими интеллектуальных задач? Юрий Апухтин этого, к сожалению, не объясняет. Он просто противопоставляет вычисления мышлению. Между тем для оценки перспектив искусственного интеллекта вовсе не обязательно предварительно разрешить философский вопрос о природе человеческого сознания. Гораздо важнее другой вопрос: какие интеллектуальные задачи машины уже способны выполнять не хуже человека и как это может изменить общество?

Что ИИ думает об ИИ?

Размышляя над тем, как сконструировать данный материал, я пришел к выводу, что для того, чтобы понять, что из себя представляет современный искусственный интеллект, необходимо обратиться к нему самому, дабы наглядно продемонстрировать его возможности. Поэтому автор сих строк попросил известную нейросеть (ChatGPT) сформулировать свое мнение относительно статьи Юрия Апухтина «Блеф с искусственным интеллектом». И вот что из этого вышло.

Ответ нейросети :

У автора есть несколько вполне разумных замечаний об опасности бесконтрольного применения ИИ, однако его объяснение того, как устроен современный искусственный интеллект, содержит настолько фундаментальные ошибки, что они подрывают основную аргументацию статьи. Особенно показательно, что автор рассуждает о современных нейросетях, фактически опираясь на представления о вычислительной технике прошлого века.

Выделю пять моментов.

1. Автор утверждает, что никакого прорыва в ИИ не произошло.

Это попросту неверно. Развитие архитектуры Transformer, больших языковых моделей, мультимодальных систем и моделей, способных выполнять сложные многоэтапные задачи, — качественный технологический сдвиг. Можно сколько угодно спорить, насколько эти системы интеллектуальны в человеческом понимании, но отрицать существенный прогресс — значит игнорировать эмпирические результаты.

2. Автор совершенно неправильно представляет принцип работы нейросетей.

Он пишет: Создаваемый ИИ имитирует процесс мышления и заменяет его элементарными вычислительными операциями путем механического перебора возможных вариантов решения задачи. Это, пожалуй, самая характерная ошибка статьи. Современные языковые модели не работают путём механического перебора всех вариантов ответа с последующим запоминанием каждого из них. Они обучаются выявлять статистические закономерности и формируют распределённые представления информации в параметрах нейронной сети. Описанный автором механизм не соответствует принципам работы современных LLM.

3. Автор считает, что для создания ИИ необходимо сначала полностью понять человеческий мозг.

Это ложная предпосылка. Чтобы создать летательный аппарат, человеку не потребовалось воспроизводить биологическое устройство птицы. Аналогично, искусственный интеллект не обязан повторять человеческую нейрофизиологию, чтобы успешно выполнять интеллектуальные задачи. Более того, автор смешивает два различных вопроса: может ли машина решать интеллектуальные задачи и может ли машина обладать сознанием. Первый уже имеет положительный практический ответ, второй остаётся предметом научных и философских дискуссий.

4. Автор утверждает, что компьютер умеет выполнять только сложение, а отсюда якобы следуют огромные затраты памяти и электроэнергии. Это грубое упрощение. Современные процессоры имеют специализированные схемы для умножения, логических операций, обработки матриц и других вычислений. В частности, нейросети интенсивно используют матричные операции. Высокое энергопотребление ИИ связано прежде всего с масштабом вычислений, передачей данных и работой оборудования, а вовсе не с необходимостью бесконечно складывать числа.

5. Автор сводит развитие ИИ к политическому заговору мировых элит.

Здесь технический анализ окончательно уступает место публицистике. Автор начинает с утверждений о глобальном потеплении и пандемии, а затем переносит ту же конспирологическую схему на искусственный интеллект. Разумеется, вокруг ИИ существуют коммерческие интересы, маркетинговые преувеличения и политическая борьба. Но из этого никак не следует, что само технологическое развитие является блефом.

На мой взгляд, главная проблема статьи даже не в незнании технологий, а в ошибочной логике рассуждения.

Автор выстраивает следующую цепочку: мы не понимаем до конца устройство человеческого сознания ? машина не обладает человеческим сознанием ? машина не способна мыслить ? следовательно, разговоры о революции в ИИ представляют собой блеф. Но ни один из этих переходов не является логически обязательным.

Зачем нужны 50 программистов и целая редакция?

Ответ, согласитесь, очень логичный и аргументированный.

Никто не спорит с тем, что современный ИИ — это инструмент, а не субъект. Современный ИИ — это созданная человеком технология, возможности и поведение которой зависят от архитектуры, обучения и условий применения, хотя конкретные результаты его работы, как показывает практика, далеко не всегда можно заранее предсказать.

Но для того, чтобы изменить мир, искусственному интеллекту совершенно необязательно обладать человеческим сознанием, эмоциями или собственной волей. Ему достаточно научиться выполнять значительную часть интеллектуальной работы быстрее, дешевле, а в некоторых случаях и качественнее человека. И именно эту перспективу многие критики ИИ упорно не замечают.

Что произойдёт с рынком труда, когда значительную часть интеллектуальных задач машины научатся выполнять быстрее и дешевле людей? Причём речь идёт не о далёком будущем. Уже сейчас ИИ активно используется в программировании, журналистике, аналитике и других сферах.

К примеру, в исследовании, опубликованном в феврале 2026 года в научном журнале Management Science, указывалось, что программисты, использовавшие ИИ-помощников, выполняли в среднем на 26% больше задач, чем их коллеги из контрольной группы. В экспериментах участвовали почти 4900 специалистов компаний Microsoft и Accenture.

Разумеется, это не означает, что уже завтра один программист сможет заменить целый отдел – современные нейросети допускают множество ошибок, а сложные проекты требуют постоянного контроля. Более того, некоторые исследования показывают, что использование ИИ в определённых условиях, напротив, способно замедлять работу опытных специалистов. Однако технологии продолжают развиваться. И возникает вполне закономерный вопрос: зачем компании содержать 50 программистов, если в перспективе сопоставимый объём работы смогут выполнять 10 специалистов, управляющих ИИ-системами?

Аналогичные процессы происходят в журналистике – уже сейчас множество журналистов, редакторов и других специалистов медиасферы используют нейросети для написания текстов. Представители Rambler & Co, News Media Holding, «Русской медиагруппы» и других компаний уже открыто рассказывают о применении нейросетей в редакционных и производственных процессах. Более того, существуют примеры, когда ИИ фактически становится автором новостных публикаций. Так, немецкий сайт Express.de ещё к 2025 году опубликовал более полутора тысяч материалов, подготовленных ИИ-автором Klara Indernach.

Некоторые российские СМИ и вовсе используют ИИ весьма своеобразным образом – еще летом Telegram-канал «Эксплойт» собрал целую подборку публикаций различных изданий, в которых журналисты или редакторы забыли удалить следы использования нейросетей. В материалах встречались характерные фразы вроде «Я вижу, что исходный текст содержит только фрагменты заголовков и навигацию сайта» и «Если нужен рерайт в другом стиле – сделаю», а также оставленные ИИ-помощником предложения дополнить публикацию. Подобные случаи показательны не только как курьёз: они свидетельствуют о том, что нейросети уже используются при написании журналистских текстов.

То есть уже сегодня возникает вопрос: насколько востребованным останется, например, журналист, профессиональная деятельность которого заключается преимущественно в пересказе чужих публикаций и составлении типовых обзоров? Если искусственный интеллект способен выполнять подобную работу за считанные минуты, а один редактор может контролировать подготовку десятков материалов, то держать на зарплате целую редакцию по итогу может стать экономически нецелесообразным. Конечно, репортера, непосредственно общающегося с источниками, он не заменит, однако большая часть журналистской работы устроена иначе – сотрудники получают пресс-релизы, сообщения ведомств, материалы информагентств, затем перерабатывают их, придумывают заголовки и публикуют.

В один прекрасный день категорично отрицающие возможности ИИ публицисты могут обнаружить, что технология, которую они объявляли блефом, научилась выполнять значительную часть их профессиональных обязанностей.

И здесь мы возвращаемся ко все тому же тезису, что я уже обозначил выше: для того, чтобы сделать часть человеческого труда экономически невостребованным, ИИ совершенно необязательно становиться разумным существом. Достаточно научиться выполнять определённые задачи быстрее и дешевле человека.

В чем основная опасность ИИ?

Сложно сказать, насколько реальна угроза «восстания машин», которой пугают некоторые специалисты, вроде бывшего сотрудника ИИ-гиганта Anthropic Джейкоба Коксона, заявившего, что «развитие нейросетей до суперинтеллекта грозит человечеству вымиранием». Вполне вероятно, что подобные заявления являются преувеличением.

Впрочем, сценарий, при котором ИИ начинает представлять реальную угрозу для человечества, вовсе не обязательно должен напоминать «Терминатора» Джеймса Кэмерона. Необязательно представлять себе армию боевых роботов, уничтожающих людей, или некую сверхразумную машину, решившую избавиться от своих создателей.

Куда любопытнее в этом отношении выглядит американский фантастический сериал Джонатана Нолана «В поле зрения» (Person of Interest). В нём представлены две системы искусственного интеллекта – Машина и Самаритянин, способные анализировать огромные массивы информации, следить за людьми и прогнозировать их поведение. Причём Самаритянин постепенно превращается из инструмента наблюдения в систему, стремящуюся управлять обществом.

И хотя подобный уровень автономности ИИ пока остаётся фантастикой, некоторые элементы изображённого в сериале мира уже перестали быть художественным вымыслом. Алгоритмы уже способны анализировать поведение пользователей, определять их предпочтения, выявлять закономерности и формировать персонализированные информационные потоки.

Но опасность искусственного интеллекта заключается не только в гипотетической возможности появления сверхразума, вышедшего из-под человеческого контроля. Куда более важным является вопрос: какие возможности получат государства и корпорации, располагающие подобными технологиями?

И здесь уместно вспомнить другую антиутопию, куда более известную, – роман Джорджа Оруэлла «1984».

Главный герой романа, Уинстон Смит, работает в «Министерстве правды», где занимается исправлением старых газетных публикаций и исторических документов в соответствии с текущими установками партии. Фактически его работа заключается в непрерывном переписывании прошлого: события, которые противоречат официальной версии истории, должны быть изменены или исчезнуть из архивов.

Но представим, что действие романа происходит не в 1984-м, а в 2044 году, и в распоряжении Министерства правды оказывается развитая система ИИ. Для изменения тысяч газетных публикаций, официальных сообщений и исторических документов больше не потребуется целая армия служащих – большую часть этих операций можно будет автоматизировать. Причём ИИ способен не только перерабатывать существующие тексты, но и создавать новые, подгоняя изложение событий под нужную политическую интерпретацию.

Более того, информационные материалы можно будет адаптировать под конкретную аудиторию, учитывая её интересы, убеждения и особенности восприятия. То есть там, где прежде требовался труд множества журналистов, редакторов и пропагандистов, в перспективе может оказаться достаточно небольшой группы людей, управляющих автоматизированной информационной системой.

Иначе говоря, основная угроза ИИ на данный момент заключается не в том, что машины восстанут и начнут управлять людьми, а в том, что люди научатся с их помощью управлять обществом способами, которые прежде были технически невозможны или экономически недоступны. И антиутопия Оруэлла может получить совершенно иное воплощение…

Виктор Бирюков

Телеграм: t.me/ainewsline

Источник: politinform.su

Комментарии: