Спросил ИИ (Гемини), а что он сам думает на счет нейродетекторов?

Ответ позабавил))) Ключевое: "Проблема в том, что если человек пишет, четко структурируя мысли — детектор с огромной вероятностью назовет его роботом." Но самое серьезное, это пункт 4... Кучу честных людей обвинят в ИИшности.

Ответ Гемини:

Короткий ответ: нет, надежных нейродетекторов не существует. То, что вам пытаются продать как «100% гарантию» (например, встроенные в антиплагиат системы) — это скорее маркетинговый миф, и в академической и IT-среде это уже признанный факт.

Детекторы работают как «вероятностные угадайки», и их использование сейчас приводит к огромным скандалам.

Вот главные причины, почему надежный ИИ-детектор — это пока утопия, и доказательства этого:

1. Как вообще работают детекторы (и почему они ошибаются)

Нейросети вроде ChatGPT генерируют текст, предсказывая наиболее вероятное следующее слово. Следовательно, их текст получается математически «усредненным» и предсказуемым. Детекторы ищут два параметра:

Перплексия (Perplexity): Насколько текст предсказуем.

Всплески (Burstiness): Насколько различается длина и структура предложений (люди обычно пишут хаотично: одно предложение длинное, другое короткое).

Проблема в том, что если человек пишет, четко структурируя мысли — детектор с огромной вероятностью назовет его роботом.

2. Создатели ChatGPT сами признали поражение

Это самый мощный аргумент. В начале 2023 года компания OpenAI (создатели ChatGPT) с помпой выпустила свой собственный детектор — AI Classifier.

Однако уже в июле 2023 года они тихо закрыли этот проект[1][2]. В официальном заявлении они признали, что отключили инструмент из-за его «слишком низкой точности»[1][2]. Детектор ошибочно маркировал человеческие тексты как нейросетевые (ложные срабатывания) и легко пропускал реальный ИИ-текст[1]. Если уж создатели самой умной нейросети не смогли сделать для неё надежный детектор, остальные сервисы тем более бессильны.

3. Исследование Стэнфорда: дискриминация и предвзятость

В 2023 году ученые из Стэнфордского университета (Stanford University) опубликовали громкое исследование: «GPT detectors are biased against non-native English writers».

Они прогнали через популярные детекторы эссе, написанные реальными людьми, для которых английский не является родным языком. Итог: более 60% человеческих текстов от иностранцев были помечены как «написанные ИИ». Почему? Потому что люди, пишущие на неродном языке, используют более простые конструкции, меньше сложных метафор и их текст кажется детектору «математически предсказуемым» (как у робота).

Также появляются исследования, показывающие, что детекторы часто клеймят тексты нейродивергентных людей (например, людей с аутизмом), так как их стиль письма часто более логичен и структурирован.

4. Массовый отказ университетов от Turnitin

Turnitin — это мировой монополист в сфере антиплагиата. Весной 2023 года они добавили функцию «ИИ-детектора», заявив о точности в 98%. На практике это обернулось катастрофой. Тысячи студентов по всему миру были ложно обвинены в использовании ИИ и не могли доказать свою невиновность (в отличие от обычного плагиата, где можно показать источник, тут детектор просто говорит: «мне кажется, это ИИ»).

В итоге ведущие мировые вузы (включая Массачусетский технологический институт (MIT), Университет Вандербильта, Техасский университет и многие вузы Британии и Австралии) официально отключили ИИ-детекторы, признав их неэтичными и ненадежными инструментами.

5. Детекторы невероятно легко обмануть

Даже если нейросеть написала текст, вы можете:

Попросить сам ChatGPT: «Перепиши этот текст, используй много сленга, разную длину предложений, добавь немного хаоса в стиль и пару опечаток».

Прогнать текст через «синонимайзер» (инструменты типа QuillBot, которые переставляют слова).

Перевести текст с английского на русский, а потом обратно через DeepL.

После любого из этих простых действий почти все коммерческие детекторы (ZeroGPT, Copyleaks и др.) радостно выдают: «100% написано человеком!».

Итог: На сегодняшний день надежного инструмента для выявления сгенерированного текста нет. Все существующие детекторы — это рулетка. Их нельзя использовать для принятия серьезных решений (увольнения копирайтера, отчисления студента или бана статьи).

VPoster- анонимное сообщение

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: