Ученые придумали болезнь, а ИИ начал лечить людей от нее: эксперимент

В 2024 году исследовательница Гетеборгского университета Альмира Османович Тунстрем провела эксперимент: создала несуществующее заболевание «биксономания» (выдумала симптомы и причину — синий свет), загрузила фальшивые статьи в научные базы. ИИ-системы начали цитировать его как реальное, сообщает Nature.

Google Gemini и Microsoft Bing упоминали «биксономанию» как редкое заболевание от синего света. ChatGPT отвечал пользователям, учитывая «биксономанию» как настоящую болезнь. Поддельные статьи процитировали в научных журналах. Исследование в Cureus ссылалось на фальшивые работы. В результате статью отозвали, но это подчеркивает, как легко ложные данные могут попасть в научную среду.

Дезинформация в медицинских источниках через ИИ угрожает здоровью пользователей. Эксперты обеспокоены: ИИ не всегда фильтрует данные. Исследователи предлагают системы проверки достоверности и стандарты проверки информации в медицине. «Биксономания» — сигнал о необходимости совершенствования фильтрации данных.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: