FUTURE-AI опубликовала в BMJ международное консенсусное руководство по надежному и применимому искусственному интеллекту в здравоохранении

Группа из 117 ученых из 50 стран мира, получившая название «Консорциум FUTURE-AI» (the FUTURE-AI Consortium), опубликовала в BMJ международное консенсусное руководство по надежному и применимому искусственному интеллекту в здравоохранении (FUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare)

В этом руководстве авторы сформулировали 6 главных принципов применения ИИ в здравоохранении:

1 Справедливость (Fairness). ИИ должен одинаково правильно работать для всех категорий граждан и исключать дискриминацию или предвзятость, хотя на практике это будет почти нереально. В этой связи разработчики должны постоянно выявлять предубеждения в ИИ-системах и оперативно устранять их.

2 Универсальность (Universality). ИИ должен сохранять корректность работы при обработке данных новых пациентов или применении в новых, ранее неизвестных ему, условиях (новых клиниках, регионах и тд).

3 Прослеживаемость (Traceability). ИИ-система должна содержать встроенные механизмы документирования и мониторинга работы на всех этапах жизненного цикла. Должна быть обеспечена прозрачность и подотчетность за счет сбора подробной информации о работе алгоритмов ИИ.

4 Удобство использования (Usability). ИИ-системы должны быть удобны и просты для использования в условиях реальной клинической практики. Разработчики должны постоянно трудиться над выявлением и устранением ошибок, над поиском более простых для пользователя сценариев применения технологий ИИ. ИИ-системы должны улучшать эффективность работы врача и приводить к улучшению результатов лечения с минимизацией риска причинения вреда.

5 Надежность (Robustness). ИИ-системы должны быть готовы к обработке ранее неизвестных данных и других аномалий и изменений, характерных реальной клинической практики. Даже если ИИ-система встретила такие данные, это не должно приводить к ошибкам в работе или неверным рекомендациям.

6 Объяснимость (Explainability). Модели машинного обучения должны создаваться так, чтобы конечный пользователь мог понимать – почему модель пришла к тому или иному выводы, а также иметь информацию об ограничениях и реальных возможностей моделей – чтобы решить, можно ли доверять ИИ-системе.

Источник: www.bmj.com

Комментарии: