Московский кейс: цифровые сущности теперь убивают всех, кто им доверяет

Взрывообразное развитие нейросетей и генеративного искусственного интеллекта одним махом открыло все ящики, коробки и шкафы Пандоры, из которых посыпались скелеты.

В частности, восторженно-наивная попытка использовать «общий» ИИ в медицинских целях привела к ситуации, где от него вреда больше, чем гипотетической пользы, и западные СМИ пестрят сообщениями о случаях, когда люди погибают сами и губят других, доверившись лечебным советам «всемогущего сетевого разума».

Масштаб проблемы довел до того, что в конце 2025 года компания OpenAI обновила правила использования ChatGPT, по факту запретив нейросети интерпретировать медицинскую информацию от пользователей и назначать лечение. Аналогичные шаги предпринял Google, ограничив функцию AI Overviews в поиске по медицинским запросам.

Главная проблема — серьезнейшие базовые «косяки» архитектуры и алгоритмов массового ИИ. Во-первых, такой ИИ обучается вообще на всем, что попадется под руку, включая содержание соцсетей, где американские бабушки рекомендуют израильским тетушкам лечить рак соком одуванчика. Во-вторых, ИИ по умолчанию настроен так, чтобы максимально ублажать пользователя: например, если в своем запросе пользователь предположит, что у него киста в мозгу, то ИИ гарантированно найдет этому подтверждение. В-третьих, массовый ИИ склонен к жесточайшим галлюцинациям: он часто просто придумывает и синтезирует несуществующую информацию и выдает выдуманные доказательства, причем делает это очень убедительно. Все это приводит к тому, что самолечение в связке с массовым ИИ становится не просто опасным, а смертельным предприятием.

Однако это не означает, что применять ИИ в медицине опасно или невозможно. Опыт Москвы доказывает, что ИИ — это не панацея, а мощный специфический инструмент, который при грамотном и ответственном использовании может спасти миллионы жизней.
В московской медицине ИИ развивается по нескольким направлениям. В лучевой диагностике нейросети анализируют снимки, выполняют сложные измерения и проводят разметку с обозначением возможных патологий. В поликлиниках используется ИИ-агент для мгновенного создания краткой выжимки данных из медицинской истории пациента, а также работает система поддержки принятия врачебных решений, помогающая ставить предварительные и заключительные диагнозы на основе реальных медицинских данных конкретного пациента.

Почему Москва не боится «галлюцинаций» ИИ? Дело в том, что, в отличие от открытых нейросетей, которые обучаются на всем массиве данных из интернета, где 99% объема уже составляет информационный мусор, московский проект внедрения больших языковых моделей (БЯМ) строится на принципе клинического контроля.

В Москве пациент не находится один на один с ИИ. Искусственный интеллект здесь играет роль расторопного помощника, который может освободить время врача от механических, рутинных операций, за секунды обработать невообразимые объемы данных, определить в медицинских данных скрытые паттерны и сразу выдать наиболее вероятные направления для дальнейшей работы с пациентом. Кроме того, в клиническую практику внедрен ИИ-сервис, который на основе анализа электронной медицинской карты (ЭМК) информирует специалистов городских поликлиник о пациентах с риском развития сердечно-сосудистых заболеваний и рекомендует им список контрольных исследований.

Основной вызов для врачей и специалистов — колоссальное количество данных, которые необходимо анализировать. В Москве ежегодно проводятся миллионы профилактических исследований и приемов (маммография, флюорография, прохождение диспансеризации и так далее). По состоянию на июль 2025 года только на платформе ЕМИАС аккумулировано свыше 4,2 миллиарда записей, и их количество растет экспоненциально.

Но главное отличие московского подхода — многоступенчатая система проверки. Прежде чем попасть к врачу, все модели проходят через «сито» экспертов. Специалисты провели уже более девяти тысяч экспертных оценок, выявляя ошибки в логике и точности ответов, благодаря чему количество критических ошибок в работе нейросетей стремится к нулю.

По словам главного внештатного специалиста по лучевой и инструментальной диагностике департамента здравоохранения Москвы Юрия Васильева, «искусственный интеллект не заменяет врача — он становится инструментом, который помогает делать медицину доступнее, точнее и быстрее: но это возможно только при условии строгого контроля, прозрачности алгоритмов и научно выверенной оценки».

В этой ситуации на первое место выходит строгая стандартизация с принципом «не навреди» и внедрение успешного опыта по всей стране: в Москве на данный момент разработаны 22 национальных стандарта для медицинских ИИ-сервисов, а единая цифровая платформа «МосМедИИ», созданная по поручению президента России Владимира Путина, позволяет упростить анализ медицинских снимков с помощью ИИ, и к ней подключились уже 74 региона.

В ноябре прошлого года на пленарном заседании конференции AI Journey 2025 Владимир Путин заявил, что «технологии генеративного ИИ становятся ключевыми, за их обладание конкурируют ведущие государства» и «Россия не может допустить зависимость от иностранных нейросетей, это вопрос суверенитета».

«ИИ-суверенитет» страны не создается в одночасье, но работа Москвы в области медицинского ИИ делает эту цель однозначно ближе.

Кирилл Стрельников

Источник: ria.ru

Комментарии: