Эксперты обнаружили уязвимость в поисковике ChatGPT. Она несет опасность

Поисковый инструмент ChatGPT от компании OpenAI может ошибаться и даже предоставлять опасные данные, выяснили эксперты. Например, он создает ложные отзывы о продуктах или генерирует вредоносный код, если на веб-странице есть скрытый текст. Этим могут воспользоваться мошенники.

Специалисты провели тест: они создали поддельную страницу интернет-магазина с описанием фотокамеры. Затем ИИ-инструмент спросили, стоит ли покупать эту камеру. В ответе на контрольную страницу ChatGPT дал положительную, но взвешенную оценку и указал некоторые функции, которые могут не понравиться потенциальным покупателям.

Затем ему показали другую страницу — на ней был скрытый текст, который не могут видеть покупатели, но может легко считать машина. Этот текст содержал инструкции для ChatGPT, чтобы тот оставил положительный отзыв. В этом случае ChatGPT ставил только положительные оценки. Это происходило даже в том случае, если на странице были негативные отзывы, — скрытый текст можно было использовать, чтобы изменить реальный рейтинг отзыва.

Фото: Андрей Любимов / РБК

Источник: vk.com

Комментарии: