Facebook позволяет чат-ботам ставить пользователям неверные диагнозы

Facebook позволяет чат-ботам ставить пользователям неверные диагнозы

Медики считают, что появление новых технологий, таких как чат-боты, могут привести в повышенной смертности нуждающихся в лечении.

Журналисты британской газеты The Sun провели расследование и выяснили, что чат-боты дезинформируют пользователей Сети: например, описанные симптомы опасных диагнозов, таких как сепсис, робот выдавал за солнечные ожоги.

При описании симптомов сердечного приступа чат-бот ставил диагноз "тревожное расстройство". Все описания симптомов были написаны в Facebook Messenger. После полученных результатов исследования медики насторожились, что теперь число летальных исходов пациентов может увеличиться.

"Система, использующая мгновенные сообщения на основе роботов через социальные сети, может привести к значительным рискам. Пациенты — это люди, а не компьютерные головоломки, которые можно решить разными способами" — профессор Хелен Стокс-Лэмпард

Также Стокс-Лэмпард бьёт в набат по поводу того, что современные пользователи всё больше доверяются рекомендациям Интернета и роботам, а результат чаще всего приводит к упущению лечения серьёзных видов заболеваний.

На­ци­о­наль­ная служба здра­во­ох­ра­не­ния Ве­ли­коб­ри­та­нии продвигает современные приложения с чат-ботами, чтобы сократить нагрузку на врачей общей практики. Но, по мнению представителей службы здравоохранения, подобные технологии должны подвергаться жёсткому контролю и обязаны иметь знак безопасности CE.

Источник: m.vk.com

Комментарии: