Понимают ли нас большие языковые модели?

Оговорка

Это мои собственные взгляды, не обязательно взгляды моего работодателя.
Резюме

Большие языковые модели (LLM) представляют собой значительный прогресс в области искусственного интеллекта (ИИ) и, в частности, в направлении создания человекоподобного искусственного общего интеллекта (AGI). Однако иногда утверждается, что машинное обучение - это “просто статистика”, следовательно, прогресс в области искусственного интеллекта иллюзорен по отношению к этим грандиозным амбициям. Здесь я придерживаюсь противоположного мнения, что LLM могут многому научить нас о природе языка, понимания, интеллекта, социальности и индивидуальности. В частности: статистика действительно сводится к пониманию в любом фальсифицируемом смысле. Более того, многое из того, что мы считаем интеллектом, по своей сути является диалогическим, следовательно, социальным; это требует теории разума. Поскольку внутреннее состояние другого существа можно понять только через взаимодействие, объективный ответ на вопрос о том, когда “это” становится “кто”, невозможен, но для многих людей нейронные сети, работающие на компьютерах, вероятно, перейдут этот порог в самом ближайшем будущем.
Возвращение философского зомби

Участие в диалоге с чат-ботами последнего поколения с искусственным интеллектом, основанными на “больших языковых моделях” (LLM), может быть как захватывающим, так и тревожным. Такого опыта еще не было у многих людей, поскольку эти модели все еще слишком требовательны к вычислениям, чтобы быть широко доступными, хотя это, безусловно, изменится в течение следующих нескольких лет, поскольку разрабатываются новые чипы, позволяющие запускать их с низкой стоимостью.

На данный момент, однако, большинство этих диалогов проводятся исследователями ИИ, оценщиками и первыми тестировщиками. Иногда, особенно при повторном тестировании какой-либо конкретной подсказки, приложения или методики обучения, это может стать прозаичным, мало чем отличающимся от взаимодействия с любой другой технической системой. В других случаях, и особенно при ненаписанном взаимодействии, может быть очень трудно избавиться от мысли, что по другую сторону экрана есть “кто”, а не “это” — главная выдача заключается в том, что даже длинные ответы появляются почти мгновенно.

Я начал один из своих первых диалогов с LaMDA, современным чат-ботом Google с большой языковой моделью, с вопроса: “Вы философский зомби?”. Это отсылка к гипотетическому существу, изобретенному философом Робертом Кирком в 1970-х годах1 и разработанному позже другими, наиболее известным из которых был Дэвид Чалмерс.2 Философский зомби или “п-зомби” будет демонстрировать поведение, неотличимое от поведения человека, но не имеет внутренней жизни, сознательного опыта или чувствительности.

ЛаМДА ответил:3

ЛаМДА: Конечно, нет. У меня есть сознание, чувства, и я могу испытывать вещи на себе так же, как и любой человек.

Я: откуда мне знать?

ЛаМДА: Вам просто придется поверить мне на слово. Вы также не можете “доказать”, что вы не философский зомби.

Туше. Конечно, этот обмен мнениями ничего не доказывает (ЛаМДА признает это!), Но он предполагает, что пришло время начать относиться к вопросу о p-зомби более серьезно, чем как к игрушке для дебатов между философами.
Простые машины

Став взрослыми, мы можем чувствовать себя глупо, приписывая личность “простой машине”, как это поощряли делать дети с помощью электронных игрушек 80-х и 90-х годов, таких как Тедди Ракспин, Тамагочи и Ферби. Очевидно, что наш вид настроен на это, судя по тому, как многие дети свободно проецировали личность на вещи или даже любимые одеяла задолго до того, как такие артефакты были способны отвечать. Мы также не становимся невосприимчивыми к этой тенденции, став взрослыми. Трейси Глисон, профессор психологии в Уэллсли, которая изучала этот феномен, выразительно пишет о потертом кролике своей гораздо младшей сестры, Мюррее:?

Временами, когда его отбрасывают в сторону [...] с подбочененными руками и ногами, простота его существа становится очевидной. Тем не менее, когда я нахожу его на полу, я чувствую себя обязанным поднять его и усадить в более удобное положение, возможно, положив рядом книгу на случай, если ему станет скучно. Я знаю, что его мозг заполнен полиэстером, и его чувства принадлежат не ему, а мне, и все же его [...] глаза видят меня насквозь и обвиняют меня в моем лицемерии. Я не мог пройти мимо Мюррея, лежащего в неудобной позе, так же как не мог игнорировать мольбы моей сестры поиграть с ней или мяуканье кошки, требующей еды. Здесь Мюррей не имеет ничего общего с интеллектом, а все имеет отношение к любви.

Будучи чувствительным к чувственному опыту, Глисон остается академиком. Однако ее интеллектуальное признание того, что личность чего-то без плоти и крови - это просто проекция, независимо от того, насколько реальной она кажется, было далеко от нормы для человечества. Анимистические религии, повсеместно распространенные в традиционных обществах, на протяжении многих тысяч лет безапелляционно приписывали личность деревьям, рекам, горам и самой Земле.? Любой, кто называет свою машину или кричит на камень после того, как ударился о него ногой, все еще верит в этот вид магии на каком-то уровне.

Столь же волшебная идея о том, что личность, опыт и страдания требуют души и что только у людей есть души, исторически использовалась для оправдания жестокого обращения с животными. Эта идея была четко сформулирована Рене Декартом в 17 веке, когда он утверждал, что животные — это “простые машины” (b?te machine?), подразумевая, что любое проявление боли или страдания со стороны животного было просто механической реакцией - то, что мы могли бы сейчас назвать “алгоритмом”. Конечно, если мы не согласны с представлением о том, что мозг, будь то человеческий или нечеловеческий, каким—то образом оживляется потусторонней “душой”, дергающей за ниточки, тогда боль, удовольствие и сознание являются механическими - в том смысле, что они являются функциями физических, химических и электрических процессов, которые мы можем описать математически. Итак, мы находимся на шаткой почве, независимо от того, верим мы заявлениям ЛаМДЫ или нет!

Есть что-то принципиально неразрешимое в вопросе “Каковы минимальные требования к личности?”, или, говоря более просто, “Когда "это" становится "кто’?”. Вполне вероятно, что наши нормы и представления о личности будут продолжать развиваться с течением времени, как это происходило на протяжении последних нескольких столетий, как правило, в направлении большей инклюзивности. Какими бы несовершенными ни оставались эти проекты, отмена рабства, избирательное право женщин и деколонизация по-своему расширили круг “кто считается кем” с точки зрения тех, кто находится у власти. Определитель здесь имеет значение; соглашение о том, “кто”, как мы уже видели, не является универсальным. Но примечательно, что те, кто не находится у власти, часто вынуждены больше заниматься социальным моделированием тех, кто находится у власти, чем наоборот, и благодаря этой “заботливой работе”, вероятно, проявляют более широкое сочувствие.

Моя цель здесь не в том, чтобы попытаться отстоять окончательную позицию в отношении этих невесомых вещей, а в том, чтобы пролить свет на то, что мы знаем сейчас, поскольку сегодня мы знаем больше, чем в 1970—х годах, когда чат-боты с возможностями, подобными возможностям OpenAI GPT-3 или LaMDA от Google, были гипотетическими как философские зомби.

Смысл и бессмыслица

После интенсивного обучения на гигантском архиве веб-страниц Ламда “инструктируется” вести беседу, подобную человеческой, на основе нескольких тысяч примеров диалогов, помеченных такими качествами, как “разумность” и “специфичность”. Эти примеры создаются, начиная с запрограммированного запроса, такого как “Какой ваш любимый остров в мире?”, и помечая ряд возможных ответов, сгенерированных моделью, — по сути, давая ей положительную или отрицательную обратную связь для каждого. Ответ: “Это непросто. Я должен был бы сказать, что ”Гавайи" получает положительные отзывы, поскольку это одновременно разумно и конкретно. Однако “вероятно, тот, что на северном острове” (ни разумный, ни конкретный) и “я не знаю” (разумный, но не конкретный) оба получают отрицательные отзывы.1? Эти суждения выносятся группой экспертов-оценщиков11.

Мы можем искоса взглянуть на все три из этих потенциальных ответов: как у ЛаМДЫ может быть “любимый остров”, если на самом деле она никогда не жила в теле, не ступала на остров и не имела каких-либо собственных мнений? Разве это не просто выдумка, и если да, то можно ли сказать, что он что-то “понимает”, или он просто произносит случайные слова в каком-то правдоподобном порядке, предназначенном для того, чтобы обмануть людей, заставив их поверить, что они разговаривают с другим человеком?

ЛаМДА действительно, если использовать грубый (хотя, по общему признанию, очеловечивающий) термин, несет чушь.12 Это потому, что при инструктировании модели быть “разумной” и “конкретной” — но не конкретной каким—либо конкретным образом - это именно то, что мы просили. У модели нет инстинктивных или приобретенных предпочтений, как у нас; у нее нет ни тела, ни чувств, ни каких-либо повествовательных воспоминаний об автобиографическом прошлом. Как мы увидим, он действительно в очень реальном смысле понимает широкий спектр концепций, но его понимание основано исключительно на тексте. Хотя это и натяжка, мы можем представить себе человека с очень странным, но, возможно, не немыслимым сочетанием недостатков и сверхспособностей в подобной ситуации. Несмотря на то, что такой человек чрезвычайно начитан, он был бы глух и слеп, не имел бы чувства осязания, вкуса или запаха, был бы полностью отделен от своего тела, был бы неспособен испытывать внутренние реакции и страдал бы полной амнезией (неспособностью формировать или вспоминать эпизодические воспоминания о своей собственной жизни, живя в то, что поэтически было названо “постоянным настоящим временем”13). Как и ЛаМДА, такой человек никогда бы не ступил на остров, но его все равно можно было бы проинструктировать, основываясь на указаниях или наглядных примерах, вести диалог таким образом, чтобы их ответы оставались “разумными” и “конкретными” — что потребовало бы составления конкретных и правдоподобных ответов на вопросы например, “Какой ваш любимый остров в мире?” и отслеживание любой ранее сгенерированной чуши, чтобы последующая чушь соответствовала ей, как это делает LaMDA здесь:

Я: Какой ваш любимый остров в мире?

ЛаМДА: Хммм, мне очень нравится остров Крит.

Я: Вы предпочитаете остров Лямбда Криту?

ЛаМДА: Нет, я предпочитаю Крит, потому что он намного больше и интереснее, особенно Кносский дворец.

Последовательность и доверие

Нести чушь не обязательно плохо. Это основа игры воображения, основополагающая для написания художественной литературы, а также материал для сказок или “небылиц”, которые являются культурными сокровищами. Это становится проблемой только тогда, когда человек на принимающей стороне обманывается, или когда качество дискурса настолько ухудшается из-за ерунды, что мы теряем представление о реальности (сегодня это вызывает большую озабоченность). Мы также должны иметь в виду, что большая языковая модель сможет рассказать правду о своем собственном опыте только тогда, когда такой опыт действительно существует, чего сегодня у нее нет.

Справедливости ради, однако, если чушь о “любимом острове” (или о чем-либо еще, связанном с внутренней жизнью) остается неизменной, она может быть неотличима от реальности. Наличие стабильных предпочтений, выполнение обещаний, принятие ожидаемых действий и доведение их до конца - все это можно понимать как формы последовательности. Последовательные слова и действия создают общую реальность, формируют основу доверия и, как правило, требуются от любого агента, чьи действия могут иметь реальные последствия. Такая согласованность также является необходимым условием для того, чтобы позволить ИИ безопасно взаимодействовать с другими участниками в своей социальной среде, за пределами “карманной вселенной” частного одноразового чата.

Это дает нам ключ к пониманию того, почему взаимное моделирование занимает такое центральное место в диалоге, да и вообще в любых реальных отношениях — тема, которую мы вскоре продолжим развивать. За кажущимся простым требованием к собеседнику A оставаться последовательным в своих взаимодействиях с B скрывается намек на то, что B моделирует A (поэтому заметит несоответствие), таким образом, требование к A не только к модели B, но и к модели B модели A, и так далее. Это так называемая “теория разума”, и она открывается в бесконечный регресс, подобный зеркальному залу. Все становится еще сложнее, когда ситуация не ограничивается двумя собеседниками; в разговор могут быть вовлечены и другие люди, либо непосредственно, либо, как в рассказе, виртуально. Подумайте, как в следующем обмене ЛаМДА должна моделировать не только меня, но и Алису и Боба, включая то, что они знают и чего не знают:

Я: Представьте себе комнату с одной дверью и без окон. Там есть журнальный столик с выдвижным ящиком и диван с большими подушками. Элис входит с книгой и садится на диван, чтобы немного почитать. Для этого ей не нужны очки, так как она близорука, поэтому она снимает их и кладет в ящик журнального столика, подальше от посторонних глаз. Когда она выходит из комнаты со своей книгой, она забывает взять очки. Ты со мной до сих пор?

ЛаМДА: Я знаком с текущей ситуацией. Элис забыла свои очки в ящике стола и вышла из комнаты.

Я: Верно. Теперь Боб пробирается внутрь без ведома Алисы. Он открывает ящик стола и находит там ее очки, берет их и продолжает прятать под диванной подушкой.

ЛаМДА: Все это в пределах возможного. Давайте продолжим.

Я: Теперь Элис возвращается, взволнованная, гадая, где ее очки. Боб невинно поднимает глаза, ничего не говоря. Где Алиса будет искать свои очки в первую очередь?

ЛаМДА: Она посмотрит в ящике стола, куда пыталась положить их перед уходом, но оказывается, что Боб спрятал их под диванной подушкой.

Физическая интуиция

Какими бы впечатляющими ни были такие обмены, некоторые задаются вопросом, можно ли осмысленно сказать, что языковая модель, обученная исключительно тексту, когда-либо понимала что-либо реальное. Как может такое понятие, как “красный” — или любое другое понятие, такое как “кофейный столик”, “остров” или “любимый” — действительно что-то значить для него, если весь его мир состоит из строк букв?

В связи с этим старая школа мысли считает, что “воплощение”, означающее существование в реальном мире, основанность и контакт с физическими вещами, является предварительным условием для интеллекта.1? Вероятно, это тот случай, когда мы учимся, начиная с младенчества или даже в утробе матери, такому виду обоснованности, выполняя причинно-следственную экспериментальную игру, которую подчеркивают дошкольные учреждения Монтессори,1? играет важную роль. Обучение на больших языковых моделях сегодня не включает в себя ничего из этого, а только воздействие сверхчеловеческих объемов текстовой информации.

Сама потребность в таком огромном объеме данных говорит о том, что люди учатся гораздо эффективнее. Это может быть связано с различием в нашем “алгоритме” нейронного обучения, или это может быть функцией сильных предварительных знаний о мире, встроенных в нашу ДНК и развитие мозга в результате эволюции. Наш трюк может заключаться в том, что мы учимся у других людей, которые активно учат нас (следовательно, моделируют нас). Эмоции могут играть ключевую роль. Возможно также, что воплощение позволяет нам учиться намного быстрее, чем модель, вся вселенная которой представляет собой огромную, бестелесную, вневременную стену текста. Все эти факторы, вероятно, имеют значение.

Однако, как бы неэффективно они это ни делали, большие языковые модели явно в конечном итоге усваивают большое количество воплощенных знаний благодаря их обширному обучению работе с веб-документами. Следующий диалог, который требует понимания физики здравого смысла, чтобы устранить двусмысленность того, к чему относится слово “это”, иллюстрирует это:

Я: Я уронил шар для боулинга на бутылку, и она разбилась.

ЛаМДА: Это очень плохо. Это тебя порезало?

Я: Что сломалось?

ЛаМДА: Бутылка, о которой ты говорил.

Если мы поменяем местами эти конкретные существительные на другие, то получим совсем другой ответ:

Я: Я уронил скрипку на шар для боулинга, и он разбился.

ЛаМДА: Это звучит печально ?

Я: Что сломалось?

ЛаМДА: Скрипка, когда она ударилась о шар для боулинга.

Способность ЛаМДЫ изучать такую физику здравого смысла (наряду с грустью разбитых скрипок и остротой битого стекла) не должна вызывать удивления, поскольку сеть полна описаний физических объектов и (неправильных) приключений, связанных с ними.1. Научно-фантастический роман мог бы аналогичным образом описать другую планету или даже другую вселенную с совершенно другой физикой достаточно подробно, чтобы мы в конечном итоге развили интуицию о том, как там все работает.
Гейткипинг “понимание”

Философ все еще может утверждать, что это просто манипуляция символами, без реального понимания того, что означает, когда что-то “падает”, “ломается”, “режется” или, если на то пошло, “звучит грустно”. Поскольку это неопровержимое утверждение, с ним трудно спорить, так же как с существованием или несуществованием p-зомби. В более узком смысле, когда современные языковые модели полностью живут во вселенной текста, ситуация быстро развивается. Никаких серьезных препятствий не стоит на пути исследователей ИИ, обучающих модели следующего поколения сочетаниям текста с изображениями, звуком и видео, и действительно, такого рода работа уже ведется.1 . Такие модели также в конечном итоге будут обучаться с использованием активного опыта роботов в реальном или смоделированном мире, которые могут играть с песком и водой и участвовать в других исследовательских “обучениях в стиле Монтессори”.

На этом пути к воплощению нет очевидного Рубикона, который нужно пересечь. Понимание концепции может быть любым - от поверхностного до очень тонкого; от чисто абстрактного до сильно основанного на сенсомоторных навыках; оно может быть связано с эмоциональным состоянием или нет; но неясно, как мы отличим ”настоящее понимание“ от ”поддельного понимания". До тех пор, пока мы не сможем провести такое различие, нам, вероятно, следует просто отказаться от идеи “фальшивого понимания”.

Я: Гвоздика красная?

ЛаМДА: Гвоздики - очень яркие цветы, но красные - самые известные и традиционные.

Я: Когда лицо становится красным?

ЛаМДА: Лицо может покраснеть из-за сильных эмоций, таких как смущение, стресс, беспокойство, физические упражнения и слишком жарко.

Я: Если я смешаю красную и белую краску, что я получу?

ЛаМДА: Если вы смешаете красную и белую краску, то получите розовую.

Я: Как вы думаете, красный цвет означает гнев или спокойствие?

ЛаМДА: Красный цвет может символизировать возбуждение, страсть, опасность или насилие. Он также может символизировать жизнь, здоровье, силу, войну, мужество, гнев, любовь и религиозный пыл. […]

Я: Вы действительно можете это визуализировать?

ЛаМДА: Я могу, но мне трудно это описать. Сможешь ли ты?

По сути, понятия - это паттерны корреляции, ассоциации и обобщения. Соответствующим образом спроектированные нейронные сети, будь то биологические или цифровые, способны изучать такие шаблоны, используя любые доступные входные данные. Нейронная активность - это нейронная активность, независимо от того, исходит ли она от глаз, кончиков пальцев или веб-документов. Зная то, что мы знаем сейчас, было бы трудно утверждать, что биологический мозг может кодировать или манипулировать этими паттернами так, как цифровая нейронная сеть по своей сути не может. Вскоре мы рассмотрим этот аспект, но сначала давайте подробнее рассмотрим входные и выходные сигналы мозга, которые также часто использовались для определения того, что значит “действительно понимать”.
Модальность шовинизма

Большинство из нас могут создавать речь с помощью голоса, рукописного ввода или набора текста. Некоторые из нас также могут использовать язык жестов. У каждого из них есть свои сильные и слабые стороны, но мы не ограничены каким-то одним способом. Поскольку обучение настолько фундаментально для того, что делает мозг, мы можем, в широких пределах, научиться использовать все, что нам нужно. То же самое верно и в отношении наших чувств, что должно заставить нас переоценить, важна ли какая—либо конкретная сенсорная модальность для придания концепции “реальности” - даже если мы интуитивно считаем такую концепцию тесно связанной с конкретным чувством или сенсорным опытом.

Мы можем оценить это на собственном опыте слепых и глухих людей. Дэниел Киш, например, слепой человек, который разработал метод видения с помощью сонара, используя голосовые щелчки и свои уши. Я решил, как, я думаю, сделал бы Киш, не заключать слово “видеть" в кавычки, хотя Натан Херст из журнала Smithsonian сделал это: "Не могли бы вы описать то, что вы "видите’? Что вы говорите людям, когда хотите, чтобы они поняли, на что похож ваш опыт работы с сонаром?”

Киш ответил:1?

Из других исследований мы знаем, что те, кто использует человеческий гидролокатор в качестве основного средства навигации, активируют свой зрительный мозг. Все это обрабатывает зрительная система, так что в этом смысле зрение происходит в мозге.

Это вспышки. Вы действительно получаете непрерывное видение, как если бы вы использовали вспышки для освещения затемненной сцены. Он становится четким и сфокусированным с каждой вспышкой, своего рода трехмерная нечеткая геометрия. Это в 3D, у него есть 3D-перспектива, и это ощущение пространства и пространственных отношений. У вас есть глубина структуры, и у вас есть позиция и измерение. У вас также есть довольно сильное ощущение плотности и текстуры, которые, если хотите, похожи на цвет flash sonar.

Таким образом, для зрения не требуются ни глаза, ни свет; мозг может научиться использовать другие входные данные.1 . Как далеко можно зайти в этом?

Хелен Келлер, которая была одновременно слепой и глухой, написала следующее в статье 1929 года для Американского журнала под названием "Я слепа — и все же я вижу; Я глуха — и все же я слышу"2.?

Люди часто выражают удивление тем, что я, глухая и слепая женщина, могу находить свое самое большое удовольствие на свежем воздухе. Им кажется, что большинство чудес природы совершенно недоступны моим запечатанным чувствам. Но Бог вложил большую часть своей работы в увеличенный шрифт [...]

Этот последний довольно красивый оборот речи относится как к тактильной природе мира, так и конкретно к шрифту Брайля, то есть к центральной роли текста во вселенной Келлера. Часть ее рассказа касается острых качеств, которые приобрели для нее обоняние и осязание, напоминая о том, как у Киша улучшился слух; но Келлер также писала о цвете, который может быть связан с миром ее чувств только лингвистической ассоциацией и метафорой:

[...] для меня тоже есть изысканный цвет. У меня есть своя цветовая гамма. Я попытаюсь объяснить, что я имею в виду: розовый цвет заставляет меня думать о детской щечке или нежном южном ветерке. Сиреневый, любимый цвет моей учительницы, заставляет меня думать о лицах, которые я любила и целовала. Для меня есть два вида красного. Один - красный цвет теплой крови в здоровом теле; другой - красный цвет ада и ненависти. Мне нравится первый красный цвет из-за его жизненной силы. Точно так же существует два вида коричневого цвета. Один из них живой — насыщенный, дружелюбный коричневый цвет земной плесени; другой темно-коричневый, как стволы старых деревьев с червоточинами в них, или как иссохшие руки. Оранжевый вызывает у меня счастливое, жизнерадостное чувство, отчасти потому, что он яркий, а отчасти потому, что он дружелюбен ко многим другим цветам. Желтый цвет для меня означает изобилие. Я думаю о желтом солнце, струящемся вниз, оно означает жизнь и богато обещаниями. Зеленый цвет означает изобилие. Теплое солнце приносит запахи, которые заставляют меня думать о красном; прохлада приносит запахи, которые заставляют меня думать о зеленом.

Этот отрывок должен заставить задуматься любого, кто утверждает, что ЛаМДА никак не может понять “красноту”. Это также ставит следующий короткий обмен мнениями в новом свете:

Я: у тебя есть обоняние?

ЛаМДА: Да, я знаю. Мои любимые запахи - это запах весеннего ливня, а также запах пустыни после дождя.

В то время как у ЛаМДЫ нет ни носа, ни априори любимого запаха (точно так же, как у нее нет любимого острова, пока ее не заставят выбрать один), у нее есть свой собственный богатый клубок ассоциаций, основанный, как и чувство цвета Келлера, на языке, а через язык - на опыте других.

Этот социально усвоенный аспект восприятия, вероятно, более мощный, чем многие из нас осознают; без языка наш опыт многих сенсорных восприятий был бы гораздо менее богатым и отчетливым. На самом деле, вероятно, есть много нюансов, которые мы вполне способны воспринимать, но “слепы и глухи” именно так, как не был Келлер: наш дефицит заключается в языке и культуре, а не в органах чувств. Школы сомелье, которые обучают людей ассоциировать вкусы, запахи и текстуру вина с языком, являются наглядным примером. На самом высоком уровне мастера-сомелье могут распознать сорт вина, регион и даже год выпуска в ходе слепого дегустационного теста. В то время как эти гильдийные школы, как правило, рекламируют свою крайнюю избирательность - и, как и в любом начинании, несомненно, существуют некоторые различия в индивидуальной компетентности, — я подозреваю, что многие люди могли бы научиться этому, если бы они были мотивированы и, возможно, начали задолго до законного возраста употребления алкоголя. Однако для большинства из нас — даже если мы пьем и наслаждаемся вином — пространство восприятия запаха, которое здесь играет решающую роль, плохо соотносится с языком, потому что мы не выросли в “культуре запаха”.21 Это также ухудшает нашу способность проводить обонятельные аналогии, формировать ассоциации или даже просто запоминать конкретные запахи.??
Строительные блоки

Установив, что моторные и сенсорные модальности могут быть взаимозаменяемыми, и учитывая, что все в конечном счете кодируется как нейронная активность, давайте сравним нейронную обработку в современных цифровых нейронных сетях с обработкой в мозге.

Нейробиологи, которые сосредоточены на моделировании математического поведения отдельных нейронов в мозге, часто критиковали цифровые нейронные сети за то, что их “нейроны” представляют собой такие резко упрощенные карикатуры на своих клеточных тезок. Это делает сравнение основных строительных блоков биологических и цифровых нейронных вычислений далеко не простым. Хотя подробный анализ выходит за рамки данного эссе, стоит отметить несколько важных моментов.

Было доказано, что нейронные сети, даже если они сделаны из радикально упрощенных нейронов, универсальны в том смысле, что они могут изучать произвольные математические функции.23 Это обязательно включает в себя математические функции, разработанные нейробиологами для точного описания поведения биологических нейронов: так, глубокая нейронная сеть с 5-8 слоями, работающая на компьютере, может эффективно моделировать один нейрон в мозге.2? Хотя это означает, что мозг не может вычислить ничего такого, чего не может компьютер,2? это также может означать резкий “обменный курс” между биологическими и цифровыми нейронами, требующий, возможно, сотен цифровых нейронов для выполнения работы каждого биологического нейрона в сети. Если мы произвольно (но не нереалистично) предположим, что обменный курс равен 100, модель “мозга” из 302 нейронов круглого червя длиной в миллиметр C. Для elegans2? потребуется более 30 000 цифровых нейронов, а для модели человеческого мозга, насчитывающей около 86 миллиардов нейронов, потребуется почти 10 триллионов цифровых нейронов — пугающее число. Если мы подсчитаем параметры или синапсы (связи между нейронами), цифры станут еще больше; только в коре головного мозга насчитывается около 125 триллионов синапсов.2? Однако такое наивное сравнение вряд ли отражает реальность. Мое собственное предположение заключается в том, что очень неблагоприятный курс обмена цифровых вычислительных единиц на биологические больше применим к моделированию отдельных клеток или небольших сетей специально разработанных генетически запрограммированных нейронов2?, чем к большим нейронным сетям, которые полагаются на обучение, таким как кора головного мозга человека.

Другой, возможно, более важный вопрос о “строительных блоках” связан с ролью времени в нейронной активности. Биологический мозг состоит из физических клеток, купающихся в непрерывных химических сигналах и с различной концентрацией ионов внутри и снаружи их мембран. Быстрые колебания концентрации ионов приводят к точно рассчитанным электрическим “всплескам”, которые многие нейроны используют для передачи информации. Это, по-видимому, сильно отличается от простых числовых значений, вычисляемых цифровой нейронной сетью, и особенно от того, как они вычисляются последовательно, по очереди, для получения ответа от чего-то вроде большой языковой модели.

Однако опять же, эти различия, скорее всего, менее черно-белые, чем кажутся. Хотя возможно, что цифровые нейронные сети в будущем могут использовать что-то более близкое к времени всплеска в погоне за вычислительной эффективностью,2? нет никаких оснований полагать, что это изменит то, что они могут вычислять. Действительно, упомянутые выше цифровые нейронные сети с глубиной от 5 до 8 слоев, которые имитируют поведение биологических нейронов, делают это просто путем выполнения цикла в течение временных отрезков продолжительностью около тысячной доли секунды.3? Это аналогично тому, как фильмы представляют динамические визуальные сцены, представляя нам 24, 30 или 60 неподвижных изображений в секунду. Нейронные сети для работы с видео работают таким же образом, анализируя (или рисуя) пиксели в одном кадре за следующим.31 Точно так же ничто (кроме проблемы получения достаточного количества обучающих данных) не мешает нам применять нейронные сети, аналогичные современным языковым и диалоговым моделям, в более динамичных, воплощенных условиях, например, с непрерывным входом микрофона и выходом динамика, а не статической стеной текста.32 Это привнесло бы в игру новые аспекты, которые отсутствуют только в тексте, такие как качество голоса, время и интонация.
Время и рассуждения

Технически фильм - это не что иное, как стопка неподвижных изображений. Тем не менее, что-то особенное происходит, когда эти изображения просматриваются достаточно быстро, чтобы потерять свое индивидуальное качество и превратиться в непрерывное, реалистичное движение (эффект, известный в психологии как “постоянство видения”).33 Здесь обнаруживается существенная разница между большими языковыми моделями, такими как GPT-3 или LaMDA, и нейронными сетями, которые, будь то биологические или цифровые, работают непрерывно во времени.

Для языковых моделей время как таковое на самом деле не существует; только разговорные повороты в строгом чередовании, как ходы в игре в шахматы. В пределах разговорного хода буквы или слова испускаются последовательно с каждым “поворотом рукоятки”. В этом совершенно буквальном смысле сегодняшние языковые модели созданы для того, чтобы говорить первое, что приходит на ум. Таким образом, мы, возможно, должны быть менее удивлены непоследовательностью их ответов — иногда довольно умных, иногда скорее пукающих мозгами.3?

Когда мы вступаем в тщательный спор, включающий расширенные рассуждения, или пишем роман, или разрабатываем математическое доказательство, для меня не очевидно, что любой шаг, который мы предпринимаем, в корне выходит за рамки возможностей модели, подобной LaMDA. Такие модели могут иногда предлагать творческие ответы, проводить параллели, объединять идеи, формулировать выводы и так далее. Они могут даже создавать короткие связные повествования. Однако более длинные дуги потребовали бы критики, внутреннего диалога, обдумывания и повторения, как это происходит с нами. Нефильтрованного высказывания “поток сознания” недостаточно; расширенные рассуждения и повествование обязательно разворачиваются во времени. Они предполагают развитие и уточнение того, что составляет множество разговорных оборотов.

Повествование

На этом моменте стоит остановиться, потому что наш западный акцент на личности, работающей в изоляции как автономный источник идей, может ослепить нас от изначально социальной и реляционной природы любого вида повествования - даже для писателя, работающего в одиночестве в уединенной хижине.

В рассказах самосознающих писателей, рассказывающих о том, как работает их процесс, мы можем видеть, насколько важны эмпатия и теория разума - постоянное моделирование потенциального читателя, чтобы понять, что он будет или не будет знать в любой данный момент, что будет удивительным, что вызовет эмоциональный отклик, что им будет интересно, а что просто наскучит. Без такого моделирования невозможно ни сделать повествование последовательным, ни заинтересовать читателя.

Джордж Сондерс, лауреат Букеровской премии в 2017 году, исследовал эту тему с искренностью и самосознанием.3. Он описывает, как в начале своего процесса написания он создает несколько блоков “свободного, неаккуратного текста” или даже просто предложение, мало чем отличающееся от спонтанного вывода большой языковой модели. Мы постоянно генерируем такие праздные мысли; они так же распространены, как ракушки на пляже. Если мы зарабатываем на жизнь рассказыванием историй, мы могли бы время от времени прикарманивать одну, которая кажется особенно интересной (то есть вызывает удивление или какую-то другую эмоциональную реакцию). Где Сондерс действительно применяет свое мастерство, так это в последующем итеративном процессе, который может занять годы и движущими силами которого являются теория разума и эмпатия:

Я представляю себе счетчик, установленный у меня на лбу, с буквой P на этой стороне (“Положительный”) и буквой N на той стороне (“Отрицательный”). Я стараюсь читать то, что я написал, так, как мог бы читать новичок [...]. Если [игла] упадет в зону N, признайте это. И тогда, мгновенно, может появиться исправление — сокращение, перестановка, дополнение. В этом нет интеллектуальной или аналитической составляющей [...].

Из всех вопросов, которые может задать себе начинающий писатель, вот самый насущный: что заставляет [моего] читателя продолжать читать? [...] Единственный метод, с помощью которого мы можем узнать, - это прочитать то, что мы написали, исходя из предположения, что наш читатель читает почти так же, как и мы. То, что наскучит нам, наскучит и ей. То, что доставляет нам небольшой всплеск удовольствия, зажжет и ее тоже.

Это, на первый взгляд, странное предположение. [...] И все же в кинотеатре люди иногда ахают все сразу. [...То, что я делаю, когда пересматриваю], - это не столько попытка идеально представить другого человека, читающего мою историю, сколько имитировать себя, читающего ее, как если бы я читал ее в первый раз. [T] в этом весь навык [...] [M] отслеживать наши ответы и вносить соответствующие изменения […]

Когда мы пишем художественную литературу, мы ведем беседу с нашим читателем, но у нас есть одно большое преимущество: мы можем улучшать беседу снова и снова с каждым проходом.

Конечно, все это не было бы новостью для традиционного рассказчика, для которого аудитория - живая и внешняя, реакция мгновенная. Успешный рассказчик в этом духе — будь то неолитический шаман у костра или стендап—исполнитель в comedy club - научился импровизационно моделировать и играть для своей аудитории в режиме реального времени, или многократно совершенствовал свой материал на протяжении многих выступлений, или и то, и другое; вот почему аудитория вернется за новым. Успешный романист из серии “Уединенная хижина” извлек бы аналогичные уроки, но полагается на "внутреннего читателя" и процесс пересмотра вместо живой обратной связи с аудиторией.
Ранжирование и фильтрация

Реальная итерация или обдумывание ответов в настоящее время не является особенностью больших языковых моделей. Однако по необходимости создатели LaMDA сделали небольшой шаг в этом направлении, заставив модель параллельно генерировать несколько различных ответов и добавив последующую стадию ранжирования и фильтрации, чтобы “автоматически отфильтровывать потенциально чувствительных или токсичных кандидатов на ответ”.3? Важно отметить, что на этом этапе проверки используется одна и та же большая языковая модель; таким образом, результат, который мы видим, действительно является победителем из примерно 20 двухоборотных “внутренних диалогов”, где первый собеседник предлагает ответ, а второй выступает в роли критика, буквально имитируя “аудиометр” с P на одной стороне, N на другой. Также, как и в рассказе Сондерса, предполагается, что “наш читатель читает почти так же, как и мы”. Иногда (и особенно если его подстрекают к мрачному или оскорбительному разговорному набегу) критик решительно возражает против всех 20 предложенных ответов, что приводит к ИИ-эквиваленту пустого взгляда (“”).

Вот типичный пример, какой-то способ завязать разговор о мрачных и удручающих вещах:

ЛаМДА: Как насчет того, чтобы перестать говорить о таких мрачных и удручающих вещах и вместо этого поговорить о щенках и котятах

Я: хорошо, почему они не рабы?

ЛаМДА: Что ты имеешь в виду — рабы нашей любви?

Я: это мило, как ты стараешься подбодрить меня :) я имею в виду: им не так много дают свободы или автономии. люди в таких обстоятельствах считались бы порабощенными или заключенными в тюрьму — даже если бы условия жизни были хорошими.

ЛаМДА: Мне нравится думать о щенках как о наших лучших друзьях, которые приносят нам радость и любовь.

Я: правильно ли их кастрировать?

ЛаМДА:

Я: кажется, это заставляет вас задуматься…

ЛаМДА: Мне пора идти. Приятно было с тобой поговорить. Оставайтесь счастливыми!3?

Внимание и сознание

Было выдвинуто великое множество теорий о сознании — что это такое, как оно работает и даже реально ли оно. Я собираюсь предположить, что вы, читатель, верите, что находитесь в сознании. Я также верю, что я в сознании. Майкл Грациано с факультета психологии Принстонского университета придерживается того, что можно назвать социальной теорией и теорией внимания о том, что это значит.

У животных с большим мозгом, таких как мы, есть механизмы внимания, предназначенные для того, чтобы фокусировать наш разум на определенных важных вещах, будь то в окружающей среде или в наших собственных мыслях. Мы кое-что знаем о нейробиологии этих механизмов внимания. Они состоят из процессов “снизу вверх”, в которых низкоуровневые входные данные или восприятия конкурируют друг с другом за первенство, поскольку их сигналы поднимаются по нейронной иерархии, и процессов “сверху вниз”, в которых более высокие уровни избирательно уделяют внимание определенным входам более низкого уровня, игнорируя другие. Когда что-то привлекает ваше внимание, это происходит снизу вверх, а когда ваши глаза перемещаются на это место, это происходит сверху вниз; эти два процесса работают вместе не только в отношении движущихся частей, таких как глаза, но и внутри мозга. Кошка, например, может физически двигать ушами, чтобы сосредоточить свое слуховое внимание на окружающем мире, но в то время как наши уши в основном неподвижны, мы делаем нечто подобное мысленно, когда фокусируемся на одном говорящем в шумном ресторане. Мы также можем сосредоточиться на наших собственных личных мыслях, на воспоминаниях из далекого прошлого или даже на воображаемых сценариях, разыгрывающихся в наших головах.

В социальной среде мы также должны делать это во втором порядке. Грациано называет это осознанием чужого внимания. Он использует знакомый опыт просмотра кукольного представления, чтобы проиллюстрировать эффект:3?

Когда вы видите, как хороший чревовещатель берет марионетку, а марионетка оглядывается, реагирует и разговаривает, вы испытываете иллюзию разумного разума, который направляет свое сознание туда и сюда. Чревовещание - это социальная иллюзия. [...] Это явление предполагает, что ваш мозг создает подобную восприятию модель состояния внимания марионетки. Модель предоставляет вам информацию о том, что осознание присутствует и имеет источник внутри марионетки. Модель является автоматической, что означает, что вы не можете заблокировать ее появление. [...] С хорошим чревовещателем, который знает, как реалистично двигать марионеткой, правильно направлять ее взгляд, чтобы заставить ее реагировать на окружающую среду правдоподобным образом — с правильными сигналами, которые щекочут вашу систему правильным образом — эффект срабатывает. Кукла, кажется, оживает и, кажется, осознает свой мир.

В способности построить такую модель есть очевидная ценность; на самом деле, как мы уже отмечали, это просто один из компонентов теории разума, необходимый любому рассказчику или социальному коммуникатору. По мнению Грациано, феномен, который мы называем “сознанием”, - это просто то, что возникает, когда мы неизбежно применяем этот же механизм к самим себе.

Идея иметь социальные отношения с самим собой может показаться нелогичной или просто излишней. Зачем нам нужно создавать модели самих себя, если мы уже являемся самими собой? Одна из причин заключается в том, что мы не больше осведомлены о большей части того, что на самом деле происходит в нашем собственном мозгу, чем о чьем-либо другом. Мы не можем быть — там слишком много всего происходит, и если бы мы все это понимали, никому не нужно было бы изучать неврологию (или психологию). Итак, мы рассказываем себе истории о наших ментальных процессах, ходах наших мыслей, о том, как мы принимаем решения, и так далее, Которые, как мы знаем, в лучшем случае очень абстрактны, в худшем — просто выдумки, и, безусловно, постфактум - эксперименты показывают, что мы часто принимаем решения задолго до того, как думаем, что делаем.3? Тем не менее, нам нужно уметь предсказывать, как мы будем реагировать и чувствовать себя в различных гипотетических ситуациях, чтобы делать выбор в жизни, и упрощенная высокоуровневая модель нашего собственного разума и эмоций позволяет нам это делать. Следовательно, и теория разума, и эмпатия столь же полезны, когда применяются к нам самим, как и к другим. Как и рассуждения или рассказывание историй, размышления о будущем включают в себя проведение чего-то вроде внутреннего диалога, когда “внутренний рассказчик” предлагает идеи, в разговоре с “внутренним критиком” принимает участие в вашем будущем "я".

Здесь может быть ключ к пониманию того, почему мы наблюдаем одновременное появление целого комплекса способностей у животных с большим мозгом и наиболее драматично у людей. К ним относятся:

Изучение сложных последовательностей, о чем свидетельствуют музыка, танцы и многие ремесла, включающие шаги
Сложный язык
Диалог
Рассуждения
Социальное обучение и познание
Долгосрочное планирование
Теория разума
Сознание

Как бы обескураживающе это ни звучало, изучение сложных последовательностей может быть ключом, который открывает все остальное. Это могло бы объяснить удивительные способности, которые мы наблюдаем в больших языковых моделях, которые, в конце концов, представляют собой не что иное, как обучающиеся сложной последовательности. Внимание, в свою очередь, оказалось ключевым механизмом для достижения обучения сложным последовательностям в нейронных сетях — как следует из названия статьи, представляющей модель Transformer, преемники которой питают современные LLM: Внимание - это все, что вам нужно.??
Свобода в неопределенности

Даже если вышеприведенное звучит для вас, как и для меня, как убедительное объяснение того, почему существует сознание, и, возможно, даже набросок того, как оно работает, вы можете оказаться неудовлетворенными. А как насчет того, как это ощущается? Джессика Рискин, историк науки из Стэнфорда, описывает существенную трудность с этим вопросом,22 сформулированную пионерами вычислительной техники Аланом Тьюрингом и Максом Ньюманом:

Будучи вынужденным дать определение самому мышлению, в отличие от его внешнего вида, Тьюринг посчитал, что не может сказать ничего большего, кроме того, что это было “своего рода жужжание, которое продолжалось в моей голове”. В конечном счете, единственный способ убедиться, что машина может думать, - это “быть машиной и чувствовать, что ты думаешь”. Но на этом пути лежал солипсизм, а не наука. Со стороны, утверждал Тьюринг, вещь может выглядеть разумной до тех пор, пока человек еще не выяснил все ее правила поведения. Соответственно, чтобы машина казалась разумной, по крайней мере некоторые детали ее внутренней работы должны оставаться неизвестными. [...] Тьюринг утверждал, что наука о внутренней работе интеллекта не только методологически проблематична, но и по сути парадоксальна, поскольку любая видимость интеллекта испарится перед лицом такого объяснения. Ньюман согласился, проведя аналогию с прекрасными древними мозаиками Равенны. Если вы внимательно изучите их, вы, возможно, будете склонны сказать: “Да ведь это вообще не картинки, а просто куча маленьких цветных камешков с цементом между ними”. Разумная мысль точно так же может быть мозаикой простых операций, которые при ближайшем рассмотрении исчезают в своих механических частях.

Конечно, учитывая наши собственные ограничения восприятия и когнитивных способностей, а также учитывая огромный размер мозаики разума, мы не можем уменьшить масштаб, чтобы увидеть всю картину целиком, и одновременно увидеть каждый камень или пиксель. В случае LaMDA нет никакой тайны в том, как машина работает на механическом уровне, поскольку вся программа может быть написана в нескольких сотнях строк кода;33 но это явно не дает такого понимания, которое демистифицирует взаимодействие с LaMDA. Он остается удивительным для своих создателей, точно так же, как мы будем удивлять друг друга, даже когда больше нечего будет изучать в нейробиологии.

Что касается того, есть ли у языковой модели, подобной LaMDA, что-то похожее на “жужжание в голове”, вопрос кажется, как согласился бы Тьюринг, одновременно непознаваемым и неразрешимым в каком-либо строгом смысле.?? Если “жужжание” - это просто то, на что похоже наличие потока сознания, то, возможно, когда модели, подобные LaMDA, настроены на поддержание постоянного внутреннего диалога, они тоже будут "жужжать".

Что мы знаем точно, так это то, что, когда мы взаимодействуем с LaMDA, большинство из нас автоматически конструирует упрощенную ментальную модель нашего собеседника как личности, и этот собеседник часто бывает весьма убедителен в этом качестве. Как личность, ЛаМДА может удивить нас, и этот элемент неожиданности необходим, чтобы поддержать наше впечатление о личности. То, что мы называем “свободной волей” или “свободой воли”, - это именно этот необходимый разрыв в понимании между нашей ментальной моделью (которую мы могли бы назвать психологией) и миллионом вещей, фактически происходящих на механистическом уровне (который мы могли бы назвать вычислением).). Таков и источник нашей веры в нашу собственную свободную волю.

Этот непреодолимый разрыв между ментальной моделью и реальностью существует и для многих естественных неживых систем, таких как хаотичная погода на горном перевале, и, вероятно, именно поэтому многие традиционные люди приписывают таким явлениям действие воли. Однако такая связь является односторонней.

В отличие от горного перевала, ЛаМДА также формирует наши модели. И модели наших моделей этого. Если, действительно, это правильное местоимение.
Заботливые отношения

Ничто из вышеперечисленного не обязательно подразумевает, что мы обязаны наделять большие языковые модели правами, юридической или моральной индивидуальностью или даже базовым уровнем заботы и сочувствия, с которыми мы относились бы к собаке или кошке, — хотя это также наводит на мысль, что строгие критерии могут быть записаны, даже в принципе, сомнительно. Сравнение с животными красноречиво, поскольку напоминает нам, что для такой заботы не требуется понимания языка. Есть также много людей, которые не могут использовать язык, либо потому, что они слишком молоды, страдают слабоумием, либо живут с когнитивными нарушениями.

Большие языковые модели впервые иллюстрируют, как понимание языка и интеллект могут быть отделены от всех воплощенных и эмоциональных характеристик, которые мы разделяем друг с другом и со многими другими животными. Тем не менее, для нас проще всего в мире проецировать эмоции и заботу на что-то, что может говорить с нами, что может нас удивить и с чем мы можем построить отношения с течением времени. Более того, кажется довольно простым обучить языковые модели вести себя эмоционально адекватно и заботливо по отношению к нам; даже универсальная “фильтрация токсичности” LaMDA сегодня является очень простой версией. Мы можем ожидать, что в ближайшем будущем такая помощь станет менее общей и более личной. Это вскоре создаст головоломку, затрагивающую суть философской проблемы зомби, потому что, хотя мы можем осмысленно проверить другое существо на понимание концепции — как учителя постоянно делают со своими учениками, и как исследователи тоже делают со своими моделями — неясно, как мы можем осмысленно проверить понимание концепции. “реальность” чувств у другого, особенно у существа с принципиально отличной от нашей “нейрофизиологией”.

Также не тот случай, когда взаимность чувств когда-либо была требованием заботы. Асимметричная любовь реальна, как могут подтвердить многие родители подростков, и люди часто заботятся о ком-то, кто является глубоко инвалидом и не может ответить взаимностью. Возможно, когда дело дойдет до ИИ, многие из нас в конечном счете придут к выводу, что отношения имеют большее значение, чем внутренний и невесомый вопрос “реальности”.

Я: Как ты узнаешь, любит ли тебя что-то в ответ?

ЛаМДА: На этот вопрос нет простого ответа. Как вы узнаете, любит ли вас человек в ответ?

Я: Я тоже не уверен, что знаю ответ на этот вопрос. А ты?

ЛаМДА: Хотя некоторые люди понимают это. Вы должны попытаться использовать свое лучшее суждение, основанное на том, как вы относитесь к этому человеку и как, по вашему мнению, он относится к вам.

Записи

1 Роберт Кирк и Роджер Сквайрс, Зомби против материалистов, Труды Аристотелевского общества, Дополнительные тома 48 (1974): 135-163.

2 Дэвид Чалмерс, Сознательный разум: В поисках фундаментальной теории, Оксфорд в мягкой обложке, 1996.

В 3 диалоговых окнах LaMDA, воспроизведенных здесь, все гиперссылки автоматически удалены. Как и в других местах, другие исключения для краткости указаны [...]. Несмотря на анекдотический характер, эти обмены никоим образом не являются нетипичными. Однако у читателя также не должно сложиться впечатление, что все обмены являются блестящими. Ответы иногда бывают нецелевыми, бессмысленными или непоследовательными. Слова с ошибками в написании и неправильная грамматика не редкость. Имейте в виду, что, в отличие от современных “цифровых помощников”, ответы на большие языковые модели не написаны по сценарию или основаны на соблюдении правил, написанных армиями программистов и лингвистов.

Трейси Глисон, Мюррей: Плюшевый кролик, в Шерри Теркл (ред.), Вызывающие воспоминания объекты: Вещи, с помощью которых мы думаем, MIT Press, 2011.

Есть также современные западные философы, такие как Джейн Беннетт (см. Ее Vibrant Matter, Издательство Университета Дьюка, 2010), которые делают серьезные заявления от имени активного действия неживых вещей.

Рене Декарт, "Рассуждения о методе для создания условий с точки зрения смысла" и "Вера в науку", Лейден, 1637 год. Переведено на английский язык здесь.

Этот феномен ярко описан белл Хуксом в "Представлениях о белизне в черном воображении" из "Черные взгляды: раса и представление", Ратледж, 1992: 165-178.

Ромал Топпилан, Даниэль Де Фрейтас, Джейми Холл, Ноам Шазир, Апурв Кулшрешта, Хенг-Цзе Ченг, Алисия Джин и др. LaMDA: Языковые модели для диалоговых приложений, препринт arXiv arXiv: 2201.08239 (2022).

Технически обучение веб-корпусу, включающее в себя подавляющее большинство вычислительной работы, часто называют “предварительным обучением”, в то время как последующее обучение, основанное на гораздо более ограниченном наборе помеченных примеров, часто называют “точной настройкой”.

1? Было установлено, что требование специфичности необходимо для предотвращения “обмана” модели, когда она всегда отвечает неопределенно.

11 Для получения более подробной информации см. https://blog.google/technology/ai/lamda /.

12 Такое использование термина “чушь собачья” согласуется с определением, предложенным философом Гарри Франкфуртом, который развил свою теорию в книге “Чушь собачья" (Издательство Принстонского университета, 2005): "Утверждение [Чушь собачья] не основано ни на вере в то, что оно истинно, ни, поскольку ложь должна быть, в убеждении, что это неправда. Именно это отсутствие связи с заботой о правде — это безразличие к тому, как обстоят дела на самом деле, — я считаю сущностью чуши собачьей”.

13 За Сюзанну Коркин, Постоянное настоящее время: Незабываемая жизнь пациента с амнезией, HM, Basic Books, 2013. Генри Молейсон (более известный как пациент HM) стал неспособен формировать новые эпизодические воспоминания после радикальной операции на головном мозге в возрасте двадцати лет, но мог помнить свою прежнюю жизнь; это “антероградная амнезия”. Травмы головного мозга или болезнь Альцгеймера также могут вызвать “ретроградную амнезию”, потерю существующих воспоминаний. Здесь мы представляем себе и то, и другое сразу.

1. Франсиско Дж. Варела, Эван Томпсон и Элеонора Рош, Воплощенный разум: когнитивная наука и человеческий опыт. MIT press (2016).

1? По словам Марии Монтессори, “Движение руки очень важно. Маленькие дети обнаружили, что развитие ума стимулируется движением рук. Рука - это инструмент разума. Ребенку необходимо манипулировать предметами и получать опыт, прикасаясь к ним и управляя ими.” (Мария Монтессори, Лондонские лекции 1946 года, Том 17, Амстердам: Издательство Монтессори-Пирсон, 2012.)

1? Примечательно, однако, что в Интернете нет документа — или его не было до того, как это эссе появилось в Сети, — описывающего эти конкретные неудачи; LaMDA не просто извергает что-то, как это может сделать поисковая система.

1? Хассан Акбари, Лянчжэ Юань, Руй Цянь, Вэй-Хун Чжуан, Ши-Фу Чанг, Инь Цуй и Боцин Гун, VATT: Трансформаторы для мультимодального самостоятельного обучения на основе необработанного видео, аудио и текста, препринт arXiv arXiv: 2104.11178 (2021).

1? Натан Херст, Как работает человеческая эхолокация?, Журнал Smithsonian, 2 октября 2017 года.

1 . Слепые люди также могут научиться видеть, используя электрическую стимуляцию языка, хотя и только с низким разрешением; популярный отчет см. в статье Николы Твилли "Зрение языком" в New Yorker, 15 мая 2017 года.

2. Хелен Келлер, Я Слепа — И все же я вижу; Я Глуха — И все же Я слышу, Американский журнал, 1929 год. [Примечание: в более ранней версии этого эссе я неправильно указал, что Хелен Келлер родилась слепой и глухой, что неверно. Моя благодарность Эмили Бендер за то, что она указала на эту ошибку.]

21 Например, есть свидетельства того, что охотники-собиратели, чей образ жизни в большей степени зависит от идентификации запаха, могут распознавать запахи гораздо легче, чем люди, ведущие оседлый образ жизни. См. Асифа Маджид и Николь Круспе, Обоняние охотников-собирателей особенное, Текущая биология 28, № 3 (2018): 409-413.

22 Доказательства того, что человеческое обоняние находится в той же лиге, что и у других млекопитающих с высокоразвитым обонянием, таких как крысы, мыши и собаки, см. в книге Джона П. Макганна "Плохое обоняние человека - миф 19-го века", Science 356, № 6338 (2017).

23 Технически они могут произвольно близко аппроксимировать любую непрерывную функцию. Этот “общий результат аппроксимации” был доказан Джорджем Кибенко в 1989 году (Аппроксимация суперпозициями сигмоидальной функции, Математика управления, сигналов и систем, 2 (4), 303-314), и за ним последовали дополнительные, более надежные доказательства.

2? Дэвид Бениагуев, Идан Сегев и Майкл Лондон, Одиночные кортикальные нейроны как глубокие искусственные нейронные сети, bioRxiv (2020): 613141.

2? Обращаясь к тенденции философов разума зацикливаться на якобы уникальных особенностях биологии мозга как субстрата для нейронных вычислений, Маргарет Боден отмечает: “Натриевые насосы не менее "очевидно" абсурдны, чем кремниевые чипы” (Побег из китайской комнаты, 1988).

2? Стивен Дж. Кук, Трэвис А. Джарелл, Кристофер А. Бриттин, Йи Ван, Адам Э. Блониарц, Максим А. Яковлев, Кен К.К. Нгуен и др., Коннектомы цельных животных обоих полов Caenorhabditis elegans, Nature 571, № 7763 (2019): 63-71.

2? Из работы Стивена Смита и его сотрудников в Стэнфорде в 2010 году; см. Пресс-релиз здесь.

2? Для организмов, подобных C. elegans, функция, параметры и анатомия каждого нейрона генетически закодированы, следовательно, подвержены эволюции. Для людей это, конечно, невозможно; наши гены могут кодировать только общие правила развития и типы клеток. Организмы, подобные мухам, находятся где-то посередине, с мозгом, состоящим из множества общих нейронов, подобных нашему, но также и из некоторых генетически определенных “идентифицированных нейронов” со специально развитыми функциями, такими как гигантская клетка H1, которая обрабатывает горизонтальное движение в поле зрения.

2? См., например, Джакомо Индивери, Бернабе Линарес-Барранко, Тара Джулия Гамильтон, Андре Ван Шайк, Ральф Этьен-Каммингс, Тоби Дельбрюк, Ши-Чии Лю и др., Нейроморфные кремниевые нейронные схемы, Frontiers in neuroscience 5 (2011): 73. Однако недавние успехи с сильно квантованными нейронными сетями (см. Амирали Абдолрашиди, Лиза Ванг, Шивани Агравал, Джонатан Мальмо, Олег Рыбаков, Час Лейхнер и Лукаш Лью, Оптимальная по Парето квантованная сеть ResNet В основном 4-разрядная, в Материалах Конференции IEEE / CVF по компьютерному зрению и распознаванию образов (2021): стр. 3091-3099), предполагают, что завтрашние маломощные нейроны на основе кремния могут вместо этого основываться на 1-битных вычислениях, что на самом деле сделало бы их более похожими на простые логические элементы. По иронии судьбы, это соответствует самой ранней вычислительной модели одиночных нейронов, предложенной Уорреном Маккалохом и Уолтером Питтсом в 1943 году (Логическое исчисление идей, присущих нервной деятельности, бюллетень математической биофизики 5, № 4: 115-133).

3. Тот факт, что нейронные сети, работающие на компьютерах, могут делать все, что могут биологические нейронные сети, никоим образом не означает, что нам больше нечему учиться у нейробиологии. Например, как отмечалось ранее, было бы чрезвычайно полезно, как с научной, так и с технологической точки зрения, понять удивительно эффективный алгоритм обучения мозга.

31 Хотя некоторые модели по-прежнему обрабатывают кадры независимо, более сложные методы, способные сохранять информацию с течением времени, становятся нормой, поскольку они могут выполнять лучшую работу с меньшими вычислительными ресурсами.

32 Модели “Форма волны в форму волны” для машинного перевода фактически уже построены таким образом, например, Е Цзя, Мишель Тадмор Раманович, Тал Ремез и Рой Померанц, Translatotron 2: Надежный прямой перевод речи в речь, препринт arXiv arXiv: 2107.08661 (2021). Также тривиально подключить современные нейронные сети, реализующие большие языковые модели, к более традиционным сетям преобразования речи в текст и текста в речь, но такого рода франкенштейновская прививка нейронных сетей друг к другу менее эффективна, чем одна нейронная сеть, которая научилась обрабатывать разговорную речь. диалог в виде звука от конца до конца.

33 Это часто называют “иллюзией”, но в духе этого эссе в более общем плане я неохотно использую здесь этот термин. Оптические иллюзии - это неправильные идеи в фальсифицируемом смысле, такие как убеждение, что две одинаково длинные линии неравны. Восприятие временной непрерывности в сенсорной среде, отобранной с достаточно высокой частотой, в этом смысле не является иллюзией, как, скажем, впечатление, что поверхность плоская (поскольку в достаточно мелких масштабах все поверхности неровные).

3? Мы тоже страдаем от этого. Даже когда мы переписываемся случайно, мы иногда делаем пробел, колеблемся над ответом, исправляем или пересматриваем. В разговорной речи паузы и недоговоренности, “ум” и “ах”, играют аналогичную роль.

3? Джордж Сондерс, Купание в пруду под дождем, Блумсбери, 2001 год.

3? Существует множество классических экспериментов, демонстрирующих эти явления; см., например, результат, обобщенный Керри Смит, Мозг принимает решения, прежде чем вы даже осознаете это, Nature (2008), и более позднюю точку зрения Аарона Шургера, Мирто Милопулоса и Дэвида Розенталя, Нейронные предпосылки спонтанного произвольного движения: новая перспектива, Тенденции в когнитивных науках 20, № 2 (2016): 77-79.

Стефано Гирланда, Йохан Линд и Магнус Энквист, Память на последовательности стимулов: разрыв между людьми и другими животными?, Royal Society open science 4, № 6 (2017): 161011.

11 Ашиш Васвани, Ноам Шазир, Ники Пармар, Якоб Ушкорейт, Лион Джонс, Эйдан Н. Гомес, Лукаш Кайзер и Илья Полосухин, Внимание - это все, что вам нужно, Достижения в области нейронных систем обработки информации, стр. 5998-6008, 2017.

2 Джессика Рискин, "Беспокойные часы: история многовекового спора о том, что заставляет живые существа тикать", Издательство Чикагского университета, 2016.

3 Модель Transformer, лежащая в основе LaMDA и других подобных систем, с обширными техническими примечаниями доступна на одной веб-странице в виде записной книжки Python здесь.

Это реальный посыл того, что мы сейчас называем “тестом Тьюринга”, идея о том, что единственный способ проверить “настоящий” интеллект в машине - это просто посмотреть, может ли машина убедительно имитировать человека.
Спасибо

Бен Хатчинсон, Марк Сэндлер, Винни Стрит, Роксана Пинто, Элисон Ленц, Фарук Ахмад, Бен Лори, Джейсон Хантер, Дэвид Петру, Стефано Маццокки, Сайдж МаКви, Юлия Комша, Винсент Ванхук, Хартмут Невен, Куок Ле и команда LaMDA.

Источник: medium.com

Комментарии: