Искусственный интеллект в здравоохранении: между прогрессом и рисками

XIII Международный конгресс "Оргздрав" в Москве стал площадкой для обсуждения одной из самых актуальных тем современной медицины — внедрения искусственного интеллекта (ИИ) в здравоохранение. От теории до практики, от мифов до реальных перспектив — эксперты разбирали, как технологии меняют медицину и какие вызовы стоят перед системой. Подробнее — в материале Накануне.RU.

Медицина переживает беспрецедентную технологическую революцию. Если раньше инновации внедрялись постепенно, то с появлением глубокого обучения и вовлечением ИТ-гигантов развитие ИИ в здравоохранении ускорилось в разы. А после выхода ChatGPT в конце 2022 года ажиотаж достиг пика — сегодня о возможностях ИИ говорят даже те, кто далёк от технологий. Началась своеобразная гонка. В России зарегистрировано 39 медицинских изделий на основе ИИ, тогда как в США — уже более тысячи. Власти даже включили внедрение ИИ-сервисов в KPI губернаторов: каждый регион должен освоить как минимум три таких решения. Но за громкими заявлениями скрываются серьезные вопросы.

Врачи vs IT: кто должен управлять процессом?

Искусственный интеллект — мощный инструмент, но его внедрение требует не только технологий, но и продуманной стратегии, доказательной базы и главное — сохранения баланса между инновациями и безопасностью пациентов.

Ректор Высшей школы организации и управления здравоохранением Гузель Улумбекова в своем выступлении подчеркнула, что организаторы здравоохранения должны не просто знать технологии, но и предвидеть их влияние на медицину. "Мы не хотим повторения истории с оптимизацией, когда нами управляли экономисты. Важно, чтобы в этот раз не только IT-специалисты руководили переменами в здравоохранении", — отметила она.

Этот посыл стал ключевым для дискуссии: врачи должны активно участвовать в разработке и внедрении ИИ, иначе технологии рискуют стать "черным ящиком", решения которого непонятны и неприменимы на практике. Улумбекова привела личный пример: несмотря на отсутствие математического образования, она погрузилась в изучение ИИ, чтобы понимать его возможности и ограничения.

"Я тонула в объемах информации, но через полгода что-то начало проясняться", — призналась она.

При этом, как рассказывают участники конгресса, IT-компаниям важно теснее сотрудничать с медиками. Сейчас в рамках федерального проекта решения на базе ИИ внедряются почти во всех регионах, а их эффективность отслеживается по объективным показателям — например, количеству выявленных патологий.

ИИ в диагностике — помощник или источник ошибок?

Президент Российского общества рентгенологов Валентин Синицын поделился практическим опытом использования ИИ в лучевой диагностике. Он отметил, что технологии уже помогают врачам, но доверять им слепо нельзя.

"Генератор создал схему сердца, где нет определенных [существующих] зон, и есть то, чего нет. Гигачат нарисовал картинку, но подписи анатомических структур были ошибочными", — рассказал Синицын.

Этот пример иллюстрирует одну из главных проблем ИИ — даже самые продвинутые модели могут генерировать неточную информацию. Синицын подчеркнул, что в диагностике критически важно сохранять клиническое мышление.

"Если врач начнет безоговорочно доверять ИИ, это приведет к катастрофическим ошибкам", — предупредил он.

Регулирование и безопасность

На конгрессе "Оргздрав-2025" заместитель министра здравоохранения РФ Вадим Ваньков поделился информацией о прогрессе и сложностях внедрения ИИ в медицину:

"Мы живем в интересное время, но разговоры об ИИ иногда напоминают предсказания из фильма "Москва слезам не верит", где главный герой говорил о том, что через 20 лет будет одно сплошное телевидение и ничего другого не будет. Мне кажется, мы периодически проходим вот такие итерации с точки зрения взрывного роста какой-либо технологии. Действительно, какое-то огромное ожидание по поводу ИИ. Но мне кажется все-таки, что пройдет время, и все займет свое место".

С 2019 года системы ИИ, участвующие в диагностике, проходят обязательную регистрацию как медицинские изделия. За это время их число значительно выросло, особенно среди решений для анализа снимков (рентген, КТ) и медицинских документов. При этом сервисы, вроде чат-ботов или голосовых помощников, остаются вне строгого контроля — они не влияют на постановку диагноза. В здравоохранении действует особый подход к регулированию:

Что внедряют?

Ключевой прорыв 2024 года — создание Центрального архива медицинских изображений и перевод данных в цифру. Это фундамент для внедрения ИИ. Вадим Ваньков рассказал о двух направлениях регулирования ИИ: медицинские изделия (требующие регистрации) и сервисы (не требующие ее). Наибольшее число зарегистрированных решений связано с анализом изображений, но генеративный ИИ пока не имеет аналогов в мире.

"Успешное внедрение требует четкой клинической задачи и понимания, как технология будет применяться", — отметил Ваньков.

Основной проблемой в медицине остается кадровый голод, который якобы может помочь преодолеть тот же ИИ. Парадокс, но не хватает специалистов, способных "объяснить" ИИ медицинские нюансы. Интеграция — 30% внедрений проваливаются из-за нестыковки с реальными процессами в больницах. Вопрос о доверии: каждый третий врач старше 50 лет избегает использовать алгоритмы. Хотя вооруженная ИИ медсестра в далекой глубинке могла бы неплохо заменять врача, но сам ИИ врача заменить не может.

На 2025-2026 годы запланировано:

"Наша цель — не гонка за технологиями, а помощь врачам. Когда алгоритм экономит время доктора — это победа. Когда усложняет работу — это брак", — резюмировал замминистра.

По данным Минздрава, к 2026 году доля медучреждений с ИИ вырастет до 45%, но живого врача это точно не заменит.

Глава Всероссийского научно-исследовательского института медицинской техники Игорь Иванов считает, что мониторинг безопасности — это не формальность, а инструмент улучшения. Если ИИ ошибся, об этом нужно сообщать немедленно. Он привел пример, когда Росздравнадзор приостановил работу одного из продуктов из-за выявленных рисков и только после доработок разрешил его использование.

Управляющий директор Центра индустрии здоровья Сбербанка Сергей Жданов в своей презентации о внедрении ИИ в здравоохранение затронул ключевую проблему — безопасность технологий. Он отметил, что ИИ в медицину пришел всерьез и надолго, но его внедрение должно быть осмысленным.

"Это не дань моде, а реальность, которая требует баланса между инновациями и безопасностью, — сказал он. — Все упирается в данные — они хранятся в медучреждениях, но их использование порождает массу юридических и технических вопросов".

Среди таких вопросов:

Перед выходом на рынок любое медицинское ПО обязано пройти технические испытания.

"Нужно подтвердить, что программа корректно работает, защищена от внешних угроз и не навредит пациентам", — пояснил эксперт. Но и здесь не всё гладко. В России за последние два года разработана серия нормативов для ИИ в медицине, что упростило процесс тестирования.

"Но далеко не все разработчики успешно проходят эту проверку", — констатировал Жданов, ссылаясь на опыт испытательного центра Института медицинской техники.

ИИ в медицине: между прогрессом и рисками

Директор по развитию Webiomed, эксперт ЦНИИОИЗ Минздрава России Александр Гусев в своем выступлении обратил внимание на важный дисбаланс: "Мы много говорим о внедрении ИИ, но почти не обсуждаем его побочные эффекты".

По данным Webiomed, 40% "выявленных" ИИ пациентов с риском диабета через год оказываются здоровыми — но успевают пройти дорогостоящие обследования. На примере предиктивных моделей (прогнозирование рисков, снижение смертности) эксперт пояснил парадокс, что чем точнее становятся алгоритмы, тем больше нагрузка на систему: растет поток пациентов, усиливается выгорание врачей и потребность в финансировании. Выявить риск — не значит автоматически его устранить.

Эксперт привел пример из практики:

"Мы создаем технологии для выявления рисков, но никто не считает, во что обходится лечение этих "предсказанных" пациентов, — заявил Гусев. — Каждый дополнительный процент точности алгоритмов увеличивает поток людей к врачам на 15-20%. Где взять ресурсы на их обследование?"

Гусев подчеркнул, что игнорирование этих проблем опасно: "Я не против развития технологий, но обидно, что мы закрываем глаза на последствия. Нужен такой же предметный разговор о рисках, как и о достижениях".

Среди проблем ИИ-диагностики:

Эксперт предложил три решения:

"Технологии должны снижать нагрузку, а не создавать новые проблемы. Пока мы лишь перекладываем ответственность с алгоритмов на врачей. Мы научили нейросети находить иголку в стоге сена, но забыли подготовить систему к тому, что теперь нужно проверять каждую соломинку", — образно пояснил Гусев.

Выступление доктора медицинских наук и заместителя директора НПКЦ диагностики и телемедицины Антона Владимирского подвело важный итог дискуссии о роли искусственного интеллекта (ИИ) в медицине. Он призвал коллег отказаться от излишней мифологизации термина "искусственный интеллект" и сосредоточиться на сути — автоматизированном анализе медицинских данных, который уже давно является частью современной медицины.

Ключевой вывод его речи заключается в том, что ИИ не заменяет врачей, а становится их незаменимым помощником, освобождая от рутинных задач и позволяя сосредоточиться на сложных диагностических и клинических решениях. Особое внимание уделяется профилактике и массовым скринингам, где автоматизация демонстрирует впечатляющие результаты, сокращая трудозатраты врачей.

Однако для дальнейшего развития этих технологий необходимо срочное обновление законодательства, которое до сих пор отстает от реалий цифровой медицины.

В заключение, как отмечает Владимирский, важно не бояться изменений, а воспринимать их как естественную часть прогресса. ИИ — это не чудо, а следующий логический этап эволюции медицинских технологий, который уже сегодня спасает жизни и улучшает качество здравоохранения. Будущее медицины — в гармоничном сочетании человеческого опыта и технологических возможностей.

Эксперты конгресса оказались едины в одном: ИИ — мощный инструмент, но его применение в здравоохранении должно быть осторожным, прозрачным и контролируемым. Врачам предстоит не только освоить новые технологии, но и сохранить критическое мышление — только так можно избежать ошибок и сделать ИИ помощником, а не источником угроз. Пока медсообщество делает ставку на прагматичный подход, где ИИ не самоцель, а способ повысить качество помощи пациентам.

Источник: www.nakanune.ru

Комментарии: