Вызовите алгоритмического консультанта: новая эра медицинского ИИ требует создания новой пограничной профессии ИИ-эдвайзера, помогающего врачам взаимодействовать с ИИ-инструментами – по аналогии с

Международная группа медиков, адептов внедрения ИИ-решений в повседневную практику, выступила с любопытной статьей-манифестом, опубликованной в Digital Medicine. Авторы, по большей части аффилированные с медицинской школой Гарварда, говорят, что в современном здравоохранении назрела проблема: клинических ИИ-решений стало так много, и они стали настолько сложными, что обычные врачи просто не в состоянии самостоятельно разбираться в них, выбирать нужное под конкретную клиническую ситуацию, правильно интерпретировать их работу и нести за это ответственность.

Невозможно, чтобы каждый врач понимал показания и ограничения каждого алгоритма: «Представьте, если бы от врачей общей практики требовалось полное понимание необработанных данных МРТ-сканирования без помощи рентгенологов?», – заходят с козырей авторы.

Решением должно стать создание новой медицинской специальности – «алгоритмического консультанта» (physician-algorithm specialist), который будет сочетать знания в области анализа данных с пониманием клинической ситуации и станет медиатором между ИИ-системами и врачами.

Задача такого специалиста – расшифровать этот черный ящик и «подружить» врачей с ИИ. В его обязанности будет входить:

Выбор, интеграция и настройка конкретных ИИ-инструментов под нужды больницы, а также под конкретных клинический случай у постели больного.

Помощь коллегам-врачам в интерпретации результатов работы ИИ, то есть объяснение, почему ИИ выдал именно такое решение.

Контроль безопасности использования ИИ – например, отслеживание «дрейфа данных» (когда точность ИИ падает со временем) и предотвращение предвзятости алгоритмов.

Разграничение зон ответственности и решение прочих этических пертурбаций при использовании ИИ – врачи больше не будут чувствовать, что они берут на себя ненужный риск, используя сложные инструменты, поскольку ими руководит эксперт-эдвайзер, который принимает удар на себя. Впрочем, тут авторы подчеркивают, что проблема ответственности за результаты работы алгоритмов – сложный вопрос, для которого пока не существует общепринятого решения, тем не менее внедрение консультантов станет промежуточной мерой, которая минимизирует риски для врачей и систем здравоохранения, использующих ИИ.

Ближайшей аналогией новой профессии авторы называют клинического фармаколога в современных больницах, чьи обязанности можно разделить на две части: предоставление рекомендаций врачам непосредственно на месте оказания помощи при принятии решений, касающихся конкретных лекарственных препаратов и их дозировок, и управление формуляром медикаментов в ЛПУ. Так же и консультант по алгоритмам будет совмещать две роли: консультировать врачей у постели больного, когда они запрашивают информацию у системы ИИ по конкретному клиническому сценарию, и отвечать за надзор и управление арсеналом используемых ИИ-решений в больнице.

Оба специалиста обладают уникальными знаниями на стыке дисциплин, чтобы уметь выбрать нужный инструмент с пониманием конкретной клинической задачи, только фармаколог обладает экспертизой в области фармакокинетики и фармакодинамики, а эдвайзер по алгоритмам – в области Data Science.

Коллеги, а что думаете вы? Согласны, что успех ИИ в медицине зависит не от мощности компьютеров, а от появления нового класса профессионалов, способных выступать посредником между «дьявольской машинерией» и клинической практикой

Источник: vk.com

Комментарии: