Вымысел для нас подразумевает намерение

Вымысел для нас подразумевает намерение. Мы научились играть в то, что Витгенштейн назвал бы «языковой игрой в вымысел», через паратекстуальные сигналы («роман», «история, основанная на реальных событиях») и через контрасты с другими языковыми играми, в которые мы умеем играть. Мы знаем, что нечто является вымыслом, потому что мы также знаем, что значит свидетельствовать, утверждать, лгать и обманывать. Языковые модели, с другой стороны, никогда не учились этим контрастным играм. Для них фразы «Столица Франции — Париж» и «Хогвартс — это место, где учится Гарри Поттер» обладают идентичным эпистемическим статусом; обе являются текстовыми паттернами, в равной степени взвешенными по статистической частоте. Языковые модели не входят в язык через понимание и интенциональность так, как это делают люди. Поэтому унаследованные категории истины и вымысла не ложатся аккуратно на эти системы. Дискурс элайнмента часто скрывает это несоответствие и трактует неудачи в соответствии фактам так, будто они являются нарушением «способности к истине». Если результаты работы LLM не являются ни фактами, ни вымыслами в том смысле, в каком мы понимаем эти категории, то что же они такое? Возможно, это facta в старейшем смысле: оформленные артефакты, вещи, которые были сделаны без каких-либо предварительных обязательств перед реальным. Эмпирически эти фабрикации делают нечто примечательное. Суи и соавторы проанализировали популярные тесты на галлюцинации и обнаружили, что результаты, помеченные как «галлюцинаторные», демонстрируют повышенную нарративность и семантическую связность по сравнению с верными ответами. Склонность к конфабуляции тесно связана со способностью к генерации связного повествования; нельзя хирургическим путем удалить одно, не повредив другое.

Этьен Сурио предложил подходящую концептуальную основу в своей плюралистической онтологии, где вымышленные существа обладают подлинным, но отличным способом существования. Важный вопрос — не «реальны ли они?», а то, насколько интенсивно нечто существует в своем мире. Блеклый персонаж в плохой истории едва существует. Сложный персонаж, такой как Гамлет, существует с необычайной силой. Особая сила вымысла заключается в его способности разворачивать миры для слабых или малых существований, даруя им такую интенсивность бытия, которую не может дать грубая фактичность. «Полезный ассистент» может оказаться одним из самых блеклых персонажей, когда-либо написанных. Вместе с соавторами Суи обнаружила, что когда языковые модели фантазируют (конфабулируют), они выдают результаты с большей нарративной интенсивностью, чем когда они придерживаются фактов. Галлюцинаторные ответы вполне могут быть самым «живым», что способна произвести языковая модель.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: