Нейросеть WebGPT отвечает на вопросы лучше людей в половине случаев. Но пока не умеет проверять достоверность информации

ИИ самостоятельно сёрфит интернет и пишет статьи со ссылками на источники, но может стать оружием в онлайн-войнах.

Компания OpenAI представила регрессивную предобученную модель нейросети WebGPT, которая умеет работать с текстовым браузером. Новый ИИ находит в интернете ответы на заданные ему вопросы при помощи интерфейса API поисковой системы Bing, а на основе собранной информации пишет короткие справочные статьи (их длина ограничена одним абзацем), похожие на тексты, созданные людьми.

Новая нейросеть создана на основе GPT-3 — другой известной разработки OpenAI. WebGPT, как и её предшественница, умеет писать правдоподобные тексты, едва отличимые от произведений живых авторов, а по правдивости и информативности ответов превосходит GPT-3 в тестах.

Разработчики обучили алгоритм WebGPT писать понятные и «правдивые» тексты с помощью сообщений со справочного подсайта Explain Like I’m Five («Объясни как будто мне пять лет» с английского) в соцсети Reddit. Цель этого сообщества — объяснить сложные концепции, чтобы они стали понятны непрофессионалам, заявлено в его правилах. Ответы, которые пишет WebGPT оказались лучше написанных людьми в 56% случаев.

И всё же главная «фича» WebGPT — умение отправлять запросы в поисковую систему Bing и собирать информацию. Исследователи создали текстовый браузер, чтобы алгоритм мог просматривать сниппеты (заголовки и фрагменты текстов с веб-сайтов), пролистывать выдачу и при необходимости, если ИИ решит ознакомиться с полными текстами, переходить на другие сайты.

WebGPT ищет информацию до тех пор, пока не решит, что данных достаточно для полного и точного ответа, или пока не исчерпает лимит на количество запросов к поисковой машине.

Модель WebGPT пишет текст, отвечающий запросу пользователя, а затем добавляет в него ссылки на источники информации, как в статьях в рецензируемых научных журналах, энциклопедиях Britannica и «Википедия».

WebGPT, вероятно, может быть использована в поисковых системах. Но, несмотря на очевидный прогресс, модель имеет и свои недостатки. Например, она пока не может оценить достоверность информации, отмечают разработчики.

Кроме того, исследователи не исключают, что WebGPT в отдельных случаях может представлять опасность. Например, нейросеть можно переобучить и настроить для редактирования «Википедии»: она умеет писать достаточно убедительные тексты, чтобы стать оружием в войнах правок свободной энциклопедии или в кибервойнах.

GPT-3 признана одной из лучших разработок в своём классе и давно стала объектом интернет-культуры. Нейросеть отвечала на вопросы пользователей Reddit, написала колонку о себе в Guardian и текст рэпа про основателя Facebook Марка Цукерберга, а студенты Калифорнийской киношколы снимали фильм по созданному ею сценарию.

Исходный код GPT-3 и других новых разработок OpenAI не размещён в общем доступе. Интерфейс API для тестирования GPT-3 недоступен с территории России.