Бесконечный спам, созданный при помощи ИИ, может засорять поисковую выдачу Google

За прошедший год системы искусственного интеллекта добились огромных успехов в способности генерировать естественный и убедительный текст, создавая различный контент, от текстов песен до коротких рассказов. Эксперты предупреждают, что эти инструменты могут быть использованы для распространения политической дезинформации. Но есть и другая возможная цель применения таких способностей систем ИИ, которая не менее правдоподобна и потенциально более прибыльна.

Вместо того, чтобы создавать поддельные новости, ИИ мог бы использоваться для написания бесконечных блогов, веб-сайтов и маркетингового спама. При этом такой контент будет дешевым в производстве и наполнен релевантными ключевыми словами. Но, как и большинство текстов, сгенерированных ИИ, он имел бы только поверхностное значение и мало соответствовал бы реальному миру. Это был бы информационный эквивалент пустых калорий. Тем не менее, для поисковых алгоритмов было бы крайне трудно отличать их от реальных созданных людьми текстовых материалов.

Например, в этом маркетинговом блоге содержится много материалов, которые с технической точки зрения написаны хорошо. Они содержат вступление, ссылки, цитаты. При этом заголовок может быть вполне конкурентоспособным поисковым запросом. Например, последний материал озаглавлен следующим образом: «Какие фото фильтры лучше использовать для маркетинга в Instagram». Другие записи в блоге также имеют правильные и красивые заголовки и хорошее (с точки зрения поисковой системы) наполнение. Но проблема заключается в том, что само наполнение является некачественным. В материалах содержатся ссылки и цитаты несуществующих изданий и несуществующих людей. А сами описываемые фильтры – тоже не существуют в Instagram. Таким образом, для человека эти материалы не представляют никакой реальной ценности, а лишь вводят в заблуждение. Хотя в поисковой выдаче они могут хорошо ранжироваться и часто появляться по ключевым запросам.

Для написания постов в блоге использовался инструмент с открытым исходным кодом Grover, созданный Институтом искусственного интеллекта Аллена. В данном случае он применялся для демонстрации идеи. Но кто-то может воспользоваться им и для создания множественных материалов и на реальных сайтах.

Исследователи отмечают, что системы ИИ позволяют создавать контент в практически неограниченных масштабах. При этом такой контент будет тяжело распознать как некачественный неподготовленным людям и поисковым системам. Хотя для внимательного пользователя распознать поддельный ИИ-текст (пока что) будет не так уж сложно, потому что он содержит множество лингвистических и грамматических подсказок.

Источник: The Verge

Источник: itc.ua

Комментарии: