OpenAI закрыла ИИ-детектор из-за «низкой точности»

OpenAI прекратила работу классификатора ИИ, который выявлял тексты, написанные с помощью инструментов искусственного интеллекта. Такое решение было принято из-за «низкого уровня точности».

Работа идентификатора строилась на предположении о том, что ИИ создаёт тексты по определённому шаблону. Однако скорость развития языковых моделей делает развитие таких инструментов сложным.

Журналисты TechCrunch протестировали детектор GPTZero и классификатор OpenAI на семи сгенерированных текстах. Первый правильно выявил пять из них, а второй — только один. 

Между тем многие пользователи, несмотря на оговорки со стороны OpenAI, использовали детектор для проверки текстов студентов, соискателей вакансий и фрилансеров.

Теперь компания заявила, что обрабатывает отзывы пользователей и «изучает более эффективные методы идентификации текста». Это объявление появилось примерно в то время, когда OpenAI присоединилась к нескольким другим компаниям в «добровольном обязательстве» развивать ИИ этично и прозрачно, как того потребовали власти США. Участники этого соглашения обязались разрабатывать надёжные методы идентификации и выявления сгенерированного контента.

Между тем исследователи из США уже представили набор руководящих принципов под названием LongEval, который позволит оценивать качество сгенерированных с помощью генеративных нейросетей текстов.