Лев Троцкий и искусственный интеллект

Та самая Литературка! Тот самый Гафуров (поцелуй в щечку моего раздутого и пузатого тщеславия - я сам первым над собственным тщеславием посмеялся, так что вам нет необходимости над ним потешаться! Вот!).

Я всегда говорил (и студентов учу), что никогда не нужно спорить с редакторами - у них одна задача: сделать твой текст лучше, а в Литературке редакторы великолепные (мало где такие еще остались).

Тем не менее вот мой вариант:

Лев Троцкий и искусственный интеллект

Сто лет назад, наверное, лучший памфлетист за всю историю русской словесности и блестящий литературный критик Л.Д.Троцкий с какой-то невероятной прозорливостью писал, как будто, предвосхищая нынешние дискуссии о больших языковых моделях (БЯМ) и нейросетях: «Формалисты не доводят, в сущности, своего подхода к искусству до логического конца. Если к процессу поэтического творчества относиться только как к комбинации звуков или слов и на этом пути искать разрешения всех задач поэзии, то единственная законченная формула „поэтики“ будет такова: вооружившись Далем, создавать, путем алгебраических комбинаций и перестановок словесных элементов, все уже созданные и все еще не созданные поэтические произведения мира. Рассуждая „формально“, к „Евгению Онегину“ можно прийти двумя путями: либо подчиняя выбор словесных элементов предвзятой художественной идее (как у самого Пушкина), либо разрешая задачу алгебраически. С той же „формальной“ точки зрения второй путь вернее, так как не зависит от настроения, вдохновения и других шатких вещей и имеет еще и то преимущество, что на пути к „Евгению Онегину“ обеспечивает несчетное число других великих произведений...».

Если разбирать эту цитату из «Литературы и революции» (1924 г.) через призму архитектуры современных Больших языковых моделей, то Троцкий описал «движок» с пугающей, почти рентгеновской точностью. Правда, Наркомвоенмор здесь, сам того не зная, описывает не только радикальный формализм, но и довольно пугающую мечту о машине для производства искусства: взять словесные элементы, построить правила их комбинации, перебрать пространство комбинаций и получить среди них «Евгения Онегина» — а заодно бесконечное (в понимании теории множеств) число других шедевров. Это почти идеальная интеллектуальная карикатура (хотелось бы надеяться, что карикатура!) на то, что мы сегодня называем большой языковой моделью, идущей от корпуса человеческой речи - от высокой поэзии и арго юристов до бытовых диалогов и армейских приказов - путем алгебраических комбинаций и перестановок через вероятностное предсказание следующего токена. Никакой магии, чистая многомерная геометрия, линейная алгебра и статистика.

И нет, ИИ «не зависит от настроения, вдохновения и других шатких вещей» - у БЯМ нет циркадных ритмов, нет «утреннего тумана», нет ни страха, ни надежды, она не сжимается от трагизма отнявших копеечку мальчишек и призывов к высшему руководителю их зарезать и не чувствует вкуса арманьяка, кубинского рома, зубровки или венесуэльского кокуя.

Но есть один нюанс, который Троцкий в своем сарказме упустил, и который на сегодня является главным. Да, БЯМ может алгебраически сгенерировать текст, который формально будет безупречен по грамматике, стилю и даже аргументации, но (хочется надеяться!) смысл этому тексту придает человек. Именно людская «предвзятая художественная идея» (в самом высоком, пушкинском смысле этого слова) — жизненный опыт, любимая женщина, маленькие «человечки», личная боль или ирония и самоирония, понимание того, что хотя добро и зло относительны, это не отменяет различий между добром и злом, — превращает «алгебраические перестановки» в ту самую живую, бьющую в цель статью, которую БЯМ может позволить отшлифовать без опечаток и описок.

Троцкий предполагает, что раз произведение состоит из словесных элементов, то его можно получить алгебраической перестановкой этих элементов, получив огромный массив уже существующих языковых последовательностей, построив чрезвычайно сложную статистико-структурную модель их взаимосвязей и затем генерируя новые последовательности. Тем самым он фактически делает сильнейшее допущение: пространство формы достаточно, чтобы порождать содержание. Руководитель РВС совершенно правильно увидел возможность автоматического порождения бесконечного количества новых текстов — но, возможно, ошибся именно в том месте, где начинается искусство.

Возникает поразительная вещь: на выходе у БЯМ сто миллиардов грамматически безупречных текстов; миллион очень красивых стихотворений; десять тысяч текстов, которые выглядят как Пушкин; тысячу текстов, которые специалист-литературовед примет за раннего Пушкина, но возникают сильные подозрения, что при этом у модели не выйдет ни одного Онегина.

Искусство всегда социально, даже в замке из слоновой кости, нельзя писать стихи или прозу в обществе, будучи свободным от общества. «Евгений Онегин» — это не просто определённая комбинация слов. Даже если принять максимально формалистскую позицию, в нём есть структура более высокого уровня: выбор темы, композиции, героя, иронической дистанции, системы культурных отсылок, ритма, отношения автора к читателю, учет цензурных соображений и так далее.

Но тут становится ещё интереснее, потому что современная БЯМ, как раз, показывает, что граница между «комбинацией слов» и чем-то похожим на мышление гораздо более зыбка, менее очевидна, чем казалось ещё недавно. Модель ведь не перебирает: слово №1 + слово №2 + слово №3 в примитивном комбинаторном смысле. Она учитывает огромное многомерное пространство вероятностных связей и потом выбирает продолжения, которые согласуются с контекстом. То есть это гораздо ближе к алгебре отношений между языковыми элементами, чем к механической перестановке слов из Даля, и потому фраза Троцкого сегодня читается почти как предварительная формулировка грандиозной проблемы генеративного ИИ: если мы достаточно полно и плотно опишем пространство формальных закономерностей языка, сможем ли мы автоматически получать произведения, которые раньше требовали человеческого творчества?

Мы сегодня знаем, что получить несчётное число произведений — технически легко, но получить несчётное число великих произведений другое дело — вот где сидит дьявол. Для человека — между языковыми элементами может быть другая социальная ситуация, другой субъект речи, другая степень близости, сексуальный подтекст, оттенок власти и нежности. То есть самое интересное в языке находится не только между словами, но и в том, кто, кому, когда и зачем их говорит.

Но дальше возникает еще более фундаментальный вопрос: если язык возник не для передачи «истины» и даже не для передачи готовых мыслей, а как инструмент координации совместной целенаправленной деятельности приматов, то что именно происходит, когда инструмент этой деятельности начинает самостоятельно производить язык?

Это ведь самый фундаментальный онтологический и антропологический вопрос, который сегодня стоит перед философией сознания, лингвистикой и теорией ИИ. Если мы отбрасываем идеалистическую иллюзию о том, что язык — это «зеркало истины» или «телеграф для передачи мыслей», и возвращаемся к материалистическому, эволюционному и деятельностному подходу (от советской школы Выготского-Леонтьева до современной эволюционной антропологии Майкла Томаселло), то картина становится предельно жесткой и ясной.

Речь — это инструмент социальной физики. Она нужна приматам, чтобы договориться, как загнать мамонта в ловушку, кто пойдет в дозор, кто с кем спаривается, как разделить мясо и против кого дружить. Язык — это продолжение груминга (социального почесывания), позволяющее удерживать связность группы за пределами «числа Данбара» (150 особей). Как в эту систему вписываются Большие Языковые Модели?

Можно говорить, что в гегельянском, марксистском и не только смысле БЯМ это предельное «отчуждение» коллективной речевой деятельности от его биологического и социального субъекта. Модель впитала в себя всю сумму текстов — то есть все следы человеческой координации за несколько тысячелетий, выучив синтаксис убеждения, приказания, утешения и мобилизации, но у нее нет биологических ставок.

Когда примат говорит сородичу: «Там хищник, бежим», за этими словами стоит страх смерти, адреналин и эволюционная необходимость выживания группы. Когда БЯМ генерирует текст: «Необходимо сплотиться перед лицом угрозы», это статистическая реконструкция паттерна без малейшей интенции (намерения) и без последствий для ее «тела». БЯМ владеет формой коллективной деятельности, но полностью исключена из ее материальной практики.

Популярный американский эволюционный психолог Майкл Томаселло считал, что главное отличие человека от других приматов — это способность к «разделяемой интенциональности», то есть мы умеем создавать общее ментальное пространство «МЫ», где есть общая цель, и БЯМ гениально имитирует эту «МЫ-позицию», используя маркеры солидарности, риторические приемы создания коалиций и эмоциональные триггеры.

Проблема в том, что это симулякр, так как модель не разделяет с вами целеполагание, а лишь предсказывает, какие слова статистически чаще всего приводили к тому, что приматы в прошлом начинали действовать сообща. Забавно, что именно поэтому БЯМ так хороши в генерации идеологий, манифестов и пропаганды – и вообще исключительно полезна для политтехнологов: она идеально копирует инструментарий координации, не заботясь о том, куда именно эта координация направлена.

Если цель речевой деятельности не истина (что бы под ней ни понимать), а координация, то знаменитые «галлюцинации» (выдумки) нейросетей перестают быть технической ошибкой и становятся эволюционной нормой. В истории нашего биологического вида мифы, религии, идеологии и откровенная ложь координировали миллионы людей гораздо эффективнее, чем сухая эмпирическая правда.

БЯМ, обучаясь на человеческих текстах, усвоила этот принцип: дискурс, который объединяет и мобилизует, важнее факта. Если вы попросите модель написать мотивирующую речь для стартапа или политическую программу, она выдаст вам именно то, что заставит людей действовать вместе, даже если для этого придется «подогнать» факты. Иными словами БЯМ — это именно что машина по производству координирующих мифов.

Можно задаться вопросом, соотносятся ли БЯМ и коллективная деятельность напрямую? Очевидно, нет, так как модель не является приматом, не может встать в круг вокруг костра и разделить с нами риски. Однако она становится новым орудием труда и новой средой для нашей координации.

Как топор не рубит дерево сам по себе, а является продолжением руки примата, так и БЯМ становится продолжением нашего речевого аппарата. Мы (приматы) используем БЯМ, чтобы быстрее писать код, составлять юридические договоры, планировать логистику и формулировать политические тексты. БЯМ не координируется с нами, но опосредует координацию между нами.

Выходит, что БЯМ — это кристаллизованный, оцифрованный и отчужденный общественный опыт коллективной деятельности нашего вида, своего рода гигантская карта всех возможных социальных взаимодействий, когда-либо описанных людьми. Но карта — это не территория, и в рамках нашей аналогии территория — это мы сами, высшие приматы, смертные, которые продолжают использовать этот мощнейший инструмент, чтобы договариваться, воевать, строить государства и писать статьи об искусственном интеллекте.

И ответственность за то, в какую именно сторону эта сгенерированная речь направит нашу коллективную деятельность — к созиданию или к взаимному уничтожению, — остается исключительно на нас, существах из плоти, крови и социальных инстинктов. А вот вопрос, не находимся ли мы сейчас в точке, где смертные передали функцию «удержания связности стаи» алгоритму, сами того не осознавая, требует отдельного ответа. Троцкий ошибся в одном: он думал, что машина напишет «Онегина», но не предвидел, что машина напишет миллион текстов о том, почему «Онегин» невозможен, — и именно это станет главной литературой нового века.

Саид Гафуров – доцент МГЛУ, член Центрального совета Независимого профсоюза «Новый труд».

Телеграм: t.me/ainewsline

Источник: lgz.ru

Комментарии: