Перед вами картинка, на которой чётко виден артефакт генерации нейросетью — у женщины «шестой палец»

Перед вами картинка, на которой чётко виден артефакт генерации нейросетью — у женщины «шестой палец». Видите, насколько детализирована картинка, размыт задний фон, и палец, который делится на два и имеет лишний сустав. Очевидная же проблема нейросетевой генерации «гиперреалистичного изображения».

Именно это мы недавно обсуждали в рамках чата авторов «КэтГика». Кажется, что же тут обсуждать? Проблема в том, что кроме «очевидно» нейросетевого изображения в посте был ещё и текст. А текст был достаточно интересный. И вот группа авторов, многие из которых написали более сотни текстов, начали разбираться, нейросетевой это текст или нет (ссылку на пост мы дадим в комментариях, ВК такое очень не любит).

Небольшая доля контекста — автор обсуждаемого нами поста пишет историю про женщину, которая занимается выпечкой хлеба в одной из деревень Русского Севера.

С учётом того, что фото очевидно нейросетевое — аргументы «за» нейросетевой текст тоже были весьма убедительные и логичные:

Слишком уж «идеальные» штампы. В тексте есть метафоры и фразы, которые будто бы собрали из топ-10 популярных клише о деревенской жизни. Они красивые и точные, но от них веет какой-то сборной солянкой, а не уникальным авторским стилем;

В тексте много лишних деталей. Создается ощущение, что нейросеть перестраховывается. Вместо того чтобы быть лаконичным, текст обрастает объяснениями, без которых можно было бы обойтись;

Слишком ровно всё сложилось. Композиция текста идеально выверена: знакомство, затем быт, потом откровения и философия. Все диалоги и воспоминания тети Светы аккуратно вписываются в общую картину и раскрывают её характер. В настоящем тексте обычно остаются какие-то шероховатости, нестыковки — здесь же всё приглажено, как будто по линейке;

Персонаж похож на «конструктор». Тетя Света получилась очень правильным, но собирательным образом. Пожилая, уставшая, мудрая женщина с больной спиной, которая говорит колоритными деревенскими фразами. Нейросети отлично удаются такие типажи, потому что они буквально собирают их из самых частых и узнаваемых черт;

Эмоции даны по плану. В тексте есть чувства, но они какие-то... управляемые. Усталость тети Светы, тепло от общения, легкий юмор — всё это присутствует, но всегда имеет четкое обоснование и дозировано;

Самое главное – всё полностью соответствует образу нейросетевого текста, подтверждённого нейросетевыми фотографиями. Текст и фото настолько дополняют друг друга, что становится совершенно ясно – одно генерировали под другое.

Не все авторы согласились с тем, что это нейросетевой текст. Однако их аргументация строилась в основном вокруг уникальности содержания и того фактора, что автор, скорее всего, сгенерировал только фотографии, а сам рассказ написал самостоятельно. Лишь отдельные люди, и то только после изучения других статей этого автора (к слову, профессионального журналиста и писателя), засомневались: может быть, это вообще не нейросеть?

Вы, дорогие читатели Гика, можете задать мне вопрос: а накой чёрт я вам вообще всё это рассказываю?

Дело в том, что всё обсуждение строилось на очень серьёзной ошибке – фото, которое прикреплено к нашему посту, НЕ нейросетевое, что смог доказать его автор, у которого есть ещё много других достоверных фото.

Вспомните про достаточно рациональную аргументацию людей, которые склонялись к тому, что мы обсуждали нейросетевую публикацию. Теперь, когда отброшен главный аргумент, «однозначно нейросетевое фото», их аргументация больше не выглядит логичной. Не выглядит последовательной и основанной на анализе стилистики и специфики текста.

Главная проблема нашего разбора в том, что мы все попали в классическую ловушку. Мы увидели одну кричащую деталь — странную фотографию — и тут же наклеили на весь пост ярлык «нейросеть». Мы в массе упёрлись в логическую «ошибку подтверждения».

Вместо того чтобы спокойно разобрать текст по косточкам, мы стали подгонять под свою версию всё подряд. Любая фраза, любая метафора тут же объявлялась «штампом» или «лишней деталью» не потому, что она объективно такая, а только потому, что она «подходила» под образ нейротекста. И при этом каждый из нас имеет большой опыт написания собственных текстов, но даже опыт не дал никаких преимуществ по сравнению с обычным читателем, который увидит «триггер» в виде шестого пальца.

Большая проблема в том, что мы все привыкли к типичному инструменту распознавания ИИ – «артефакт» или типичная нестыковка позволяют клеить на работу автора настоящее клеймо, которое смыть крайне сложно. В этом конкретном случае у автора были «пруфы», а что делать тем, у кого железных пруфов нет?

Мы уже стоим в большом авторском кризисе, который заключается не только в росте уровня нейронных текстов, но и в жутком недоверии к авторским работам, даже талантливым и качественным. Любое произведение может быть с равным успехом заподозрено в машинном происхождении, а может быть, машинный труд защищён как человеческое детище. И эта ситуация подрывает саму основу доверия между автором и аудиторией.

А что делать с этим? Совершенно непонятно.

Используем излюбленный приём нейросетевых текстов и зададим в конце вопрос аудитории: «А этот текст, который вы сейчас читали, он авторский или сгенерирован нейросетью?»

Источник: vk.com

Комментарии: