«Дыры в сети»: как ИИ усиливает неравенство знаний и приближает человечество к катастрофе

«Исчезновение локального знания — это не мелочь. Это разрыв в более широком понимании, благоприятном благополучии как человека, так и экологии. <...> Признаём мы это или нет, но мы все происходящие реакции в общих экологических системах, где локальные раны неизбежно отзываются глобальной болью» / Дискурс

Нейросети иногда бывают всезнающими. Люди доверяют вопросам здоровья, быта, отношений и экспертных оценок — компании и государства внедряют ИИ в сферу медицины и образования до военных технологий.

Но что, если цифровое знание изначально устроено как карта со слепыми зонами, алгоритмы лишь усиливают уже состоящую иерархию и пробелы — языковые, культурные, эпистемологические? Сегодня тысячи языков находятся под угрозой нейтрализации: вытесняемые более «ресурсными» в цифровом виде, они уходят вместе со своими носителями — и за ними  исчезают и другие способы описывать мир, а также практики, ритуалы и знания о локальной природе.

Эссе Дипака Варувела Деннисона, аспиранта Корнельского университета, занимающегося темой ответственного ИИ, начинается с личной семейной истории и постепенно приводит к неутешительному выводу: современные нейросети теряют целые пласты человеческого опыта, складывающиеся поколениями.

Специально для Дискурса Николай Вокуев перевел этот тревожный и глубокий текст — о том, чем опасен нейрооптимизм и почему сегодня так важно видеть белые пятна на карте границ знаний, чтобы избежать надвигающегося кризиса.

Несколько лет назад у моего отца диагностировали опухоль на языке, и мы выбрали выбор между разными вариантами лечения. Когда дело касается вопросов здоровья, в нашей семье прослеживается особый динамик. Моя старшая сестра, врач, владеющая западной аллопатией, а родители — приверженцы традиционной медицины. Я вырос в своем маленьком городе в Индии и с детства был окружен ритуалами. У моего отца тоже был свой ритуал. Каждый раз, когда мы посещали его родную деревню в южном штате Тамилнад, он покупал бутылку густого, острого, настоянного на травах масла в  вайдьяра  — лекаря, практикующего Сиддха-медицину. Так он сохранял связь с той современной медициной, с которой он всегда был знаком и которой доверял.

Отцовская опухоль вызвала признаки злокачественной опухоли. Поэтому врачи в больнице, как и моя сестра, настаивали на операции. Родители были против, опасаясь, что вмешательство повредит речи отца. Как правило, в таком случае слово берусь держать я — профессиональный посредник в нашей семье. А дальше, по всем правилам жанра, как миллениал, иду за ответами в интернете. После нескольких дней клинических исследований я (как обычно) встал на сторону сестры и приступил к операции. Интернет нас поддержал.

В конце концов мы убедили отца и даже назвали эти слова. Но тогда он хитро воспользовался беременностью моей сестры как случайным маневром и пропустил операцию. Пока мы каждый день уговаривали его, он тайно принимал это зелье. И, о чудо, спустя несколько месяцев опухоль действительно уменьшилась, а затем и вовсе исчезла. Этот эпизод явно дал повод для хвастовства.

В тот момент я счёл эту счастливую случайность. Но в последнее время я спрашивал себя, не слишком ли поспешно я отмахнулся от родительской веры в традиционном знании, с готовностью признаю авторитетные источники, собираемые в цифровом мире. 

Мне по-прежнему трудно поверить, что травяные смеси моего отца действительно сработали. Но с тех пор я также понял, что, казалось бы, всезнающий интернет, хотя я так охотно доверял, содержит огромное количество пробелов — и с развитием искусственного интеллекта ситуация лишь усугубляется.

По иронии судьбы, эта дилемма возникла в ходе моих исследований в прошлом университете, в империи, самой большой далёке от контекста моего детства, в которой исторические практики были частью повседневной жизни. В Корнельском университете в Йорке я изучаю, что требуется для разработки ответственных систем искусственного интеллекта Нью-Йорка. Моя работа открыла мне глаза на то, как цифровой мир отражает глубокий дисбаланс власти в области знаний — и как генеративный ИИ (GenAI) многократно усиливает их. В заре интернета в нем доминировал английский язык и западные институты, и этот дисбаланс со временем усугубился. Целые миры человеческих знаний и опыт остались неоцифрованными. Сейчас, с ростом GenAI, обученного в этом доступном цифровом корпусе, асимметрия грозит укорениться.

Для многих людей ГенИИ становится основным способом познания мира. Опубликованное в сентябре 2025 года масштабное исследование о том, как люди используют ChatGPT с момента его запуска в 2022 году, показало, что около половины запросов были связаны с поиском практических рекомендаций или информации. Эти системы могут казаться нейтральными, но на самом деле они далеки от этого.

Самые популярные модели отдают предпочтение господствующим эпистемологиям (как правило, западным и институциональным), маргинализируя альтернативные методы познания, особенно те, которые кодируются в устных традициях, телесных практиках и странах, считающихся «малоресурсными» в мировых компьютерах, таких как хинди или суахили, на которые, как говорят, тратятся миллионы людей. 

Усиливая эту иерархию, ГенИИ рискует внести свой вклад в уничтожение систем понимания, складывающегося на протяжении веков, отрывая будущие поколения от потери массива озарений и мудрости, которые никогда не были закодированы, но остаются важнейшей частью человеческого познания. На кону стоит не только представленность, но и устойчивость и разнообразие самых знаний.

GenAI обучается на основе обширных наборов текстовых данных из таких источников, как книги, статьи, веб-сайты и стенограммы. Название и название «большая языковая модель» (Large Language Model , LLM). Однако эти данные далеко не соответствуют всем знаниям человечества. недостаточность с устаревшими культурами, в них плохо представлены или полностью отсутствуют многие языки.

Чтобы понять, почему это важно, признаем для начала, что язык — это не просто средство общения, но и хранилище особых знаний. Каждый язык содержит в себе многовековой человеческий опыт и понимание: ритуалы и обычаи, формирующие сообщества, сложные подходы к пониманию красоты и созданию искусства, глубокие знакомство с определенными ландшафтами и ключевыми моментами, духовные и философские мировоззрения, утонченную лексику для описания внутренних переживаний, экспертизу в различных областях, основы организации общества и финансирования, коллективную память и исторические нарративы, традиционные цели и замысловатые социальные связи.

Когда системы ИИ плохо знакомы с темным или иным языком, в их глазах человеческий опыт движется слепыми зонами. Итак, данные Common Crawl, одного из общедоступных источников данных обучающихся, работают вопиющим цветом. В нем собрано 300 миллиардов веб-сайтов за 18 лет, из них 44% — на английском языке. Еще большее благоприятствование вызывает дисбаланс между людьми, говорящими на том или ином языке в современном мире, и тем, что сейчас представлено в онлайн-данных. Взять, к примеру, хинди — третий по распространенности язык в мире, на котором говорят около 7,5% населения планеты. На это приходится лишь 0,2% данных Common Crawl. Ситуация еще более плачевна для моего родного тамильского языка. Хотя на нем говорят более 86 миллионов человек во всем мире, он составляет лишь 0,04% данных. Напротив, английский, в котором происходит около 20% населения мира (как носителей, так и тех, для кого он не является родным), но в цифровом пространстве его присутствие несоразмерно больше. Лучше представлены в Интернете и на других колониальных языках, таких как французский, итальянский и исторический, на которых говорит гораздо меньше людей, чем на хинди.

«После того, как виды растений часто регионально специфичны или экологически уникальны, знания о них становятся столь же локализованными. <...> Когда язык маргинализируется, заложенные в нем знания о растениях часто исчезают вместе с ним» / Дискурс

Однако доказать представленность хинди и тамильского, какая бы она ни была тревожной, — лишь верхушка Айсберга. В мире компьютерных технологий примерно 97% языков мира классифицируются как «малоресурсные». В качестве фактора информатики это означает обман: многие из этих языков читают миллионы носителей и целые века богатого лингвистического наследия. Они лишь плохо представлены в Интернете или в доступных наборах данных. Напротив, «высокоресурсные» языки и географические данные обильными и разнообразными цифровыми данными.

Исследование 2020 года показало, что 88% языков мира настолько обделены вниманием к технологиям ИИ, что потребовались титанические, а то и невозможные усилия, чтобы довести их до необходимого уровня представленности. И нет оснований полагать, что положение сегодняшних дел принципиально изменилось.

О том, что некоторые знания о классах выпадают из полей ИИ, можно судить по одному простому принципу — нашему анализу локальных экосистем. Однажды мой друг-эколог сказал одну вещь, которая запомнилась мне: связь сообщества с его экологией можно отслеживать по названиям местных растений. Чем теснее связь с окружающей средой, тем более подробным и становится ботанический словарь. Поскольку виды растений часто регионально специфичны или экологически уникальны, знания о них становятся столь же локальными. Этот вывод окажется успешным, если обратиться к существующим исследованиям. Так, одно исследование лекарственных растений в Северной Америке, северо-западной Амазонии и Новой Гвине обнаружило, что более 75% из 12 495 различных способов использования растений были уникальными только для одного локального языка. Когда язык маргинализируется, заложенные в нем знания о растениях часто исчезают вместе с ним.

Работая над этим, я беседовал о языковых лакунах в GenAI с другими людьми. Одним из них был Дхаран Ашок, главный архитектор организации Таннал, занимающейся возрождением техники природного строительства в Индии. Он подтвердил, что между языком и локальными экологическими определениями существует тесная связь, и что именно она лежит в основе архитектурных знаний определения параметров. По его словам, в то время как современное строительство в основном ассоциируется с бетоном и сталью, местные методы строительства были глубоко укоренены в экологии. В них использовались материалы, доступные в окружающей среде, при этом главную роль играли биополимеры, полученные из местных растений.

На фоне опасностей по поводу неустойчивых и углеродоёмких практик современное строительство Дхаран активно работает над восстановлением утраченного искусства получения биополимеров из местных растений. Однако, заметьте, основная сложность заключается в том, что эти знания в основном не документированы и передаются устно на родных языках. Бывает так, что они хранят лишь несколько старейшин и, умрая, уносятся с собой. Дхаран рассказал, как недавно была предоставлена возможность создать особый вид кирпича из известняка, когда умер последний владелец теории происхождения ремесленника.

Чтобы понять, как некоторые виды познания начинают доминировать в широких масштабах — в том числе и за счет учета знаний, — полезно обратиться к культурной концептуальной гегемонии, разработанной итальянским философом Антонио Грамши.

Грамши утверждал, что власть приходит не только с помощью силы или экономического контроля, но и посредством приемов культурных норм и повседневных верований. Со временем укоренённые в западных традициях эпистемологические подходы стали восприниматься как объективные и универсальные, некультурно обусловленные или исторически случайные. Таким образом, западное знание опиралось на «естественный» стандарт, заслонив исторические и политические обстоятельства, которые привели его к господству. Такие институты, как школы, научные учреждения и организации развития, помогли закрепить это доминирование.

Эпистемологии не бывают лишь абстрактными и когнитивными. Они физически воплощаются вокруг нас и непосредственно влияют на наше тело и жизненный опыт. 

Чтобы понять, почему это так, обращаемся к примеру, резко контрастирующему с теми коренными строительными практиками, которые Дхаран стремится возродить: высотные здания со стеклянными фасадами в тропиках.

Стеклянные здания — далеко не нейтральный или чисто эстетический выбор. Они отражают особую эпистемологическую традицию, укорененную в западном радиосовременном модернизме. Первоначально заданные условия для холодного климата с низкой освещенностью, это здание высоко ценилось за энергоэффективность, обеспечивая проникновение дневного света в помещения и снижая нагрузку на искусственное освещение.

Но когда такой дизайн применяется в тропических регионах, это вызывает экологические противоречия. Исследования показывают , что в помещениях с интенсивным солнечным светом стеклянные фасады приводят к перегреву помещения и теплому дискомфорту даже с современным остеклением. Вместо экономии энергии такое здание необходимо для поддержания прохлады.

Тем не менее, стеклянные фасады вокруг сегодняшнего дня символизируют городскую современность — от Сан-Франциско до Джакарты или Лагосы, невзирая на климат или культурный контекст.

На фоне возникающего климатического кризиса стеклянные здания мешают наглядным указаниям о рисках унификации знаний и эпистемической иерархии. Ирония заключается в том, что я пишу эти строки в одном из таких зданий в Бангалоре на юге Индии. Я сижу в прохладном помещении и слышу тихое гудение кондиционера. Снаружи люди прогуливаются под моросящим дождем. Это произошло в обычный муссонный день, вот только дожди в этом году начались на несколько недель раньше — еще один признак растущей нестабильности климата.

В Бангалоре я вижу, что утрата знаний влияет на управление водными проблемами. Почему в городе, где автомобили под водой в мае, в марте люди ищут ее даже для нужд нужды? Это можно написать о плохом планировании и бесконтрольной урбанизации, но при этом есть и глубокая эпистемологическая причина.

Когда-то Бангалор славился своей умной системой управления водными ресурсами, питавшей сеть каскадных озер. На протяжении вековых веков озерами управляли такими сообществами, как Нируганти ( neeru означает «вода» на языке каннада), которые контролировали потоки воды и справедливость их исходили. В зависимости от количества дождей они подсказывали фермерам, какие культуры выращивают, часто учитывают водосберегающие сорта. Они же занимались обслуживанием: очищали резервуары от ила, высаживали растения для предотвращения эрозии и очищали каналы подачи.

Но с модернизацией общинное управление водными проблемами уступило место централизованным системам и индивидуальным решениям, своего рода орошениям из дальних плотин и скважин. Зелёная революция конца 1960-х годов усилила этот переход, продвигая выведенные в западных лабораториях культуры, требующие большого количества воды и удобрений. Нируганти были вытеснены, многие из них уехали в поисках другой работы. Местные озера и каналы пришли в упадок, а некоторые из них застроили дороги, здания или автобусные остановки.

Эксперты убедились, что ключ к спасению Бангалоры от водного кризиса лежит в восстановленных этих озёрных системах. Социальный работник, принимавший участие в некоторых из этих проектов, сказал мне, что они часто обращаются за советом к старейшинам общины Нируганти. Их советы очень ценны, но их местные знания не объясняются, роль в управлении водными сообществами давно утратила легитимность. 

Эти знания передаются лишь устно, на их родном языке, и в большинстве своих возможностей в цифровом пространстве, не говоря уже о комфорте ИИ.

Хотя до сих пор я взял примеры из Индии, с которыми лично связаны такие иерархии, широко распространенные и уходящие в глобальную историю империализма и колониализма. В своей книге « Методологии деколонизации » («Decolonizating Methodology», 1999) исследовательница-маори Линда Тухиваи Смит утверждает, что колониализм в корне нарушил местные системы знаний — а вместе с ними и культурные и интеллектуальные основы, на которых они строились, — разорвал связи с землой, языком, европейскими и структурными структурами. Она показывает, что эти процессы не ограничиваются одним регионом, а носят глобальный характер и зависят от того, какие знания имеют значимую значимость. На этом основе и строятся современные цифровые системы и GenAI.

«На кону стоит не только представленность, но и устойчивость и разнообразие самых знаний» / Дискурс

Недавно я сотрудничал с Microsoft Research, анализируя проекты генеративного ИИ, ориентированные на незападный мир. Видя, как часто эти модели запускают культурный контекст, игнорируют локальные знания и расходуются с потребностями группы, я осознаю, что они окончательно закрепляют постоянные предубеждения и закрепляют маргинализированные знания.

Эта работа помогла мне лучше понять и технические обоснования подобных моделей. Проблема гораздо глубже, чем просто недостаток данных для обучающихся. 

LLM по своему проекту склонны воспроизводить и усиливать статистические преобладающие идеи, создавая обратную связь, которая сужает объем доступных человеческих знаний.

Почему это происходит? Внутренняя репрезентация знаний в области LLM не однородна. Концепты, которые встречаются в обучающих данных чаще, заметнее или в более широком контексте контекстов, как правило, кодируются сильнее. Если, например, в обучающих текстах пицца часто упоминается как любимая, модель с большей вероятностью отвечает «пицца» на вопрос «Какая ваша любимая еда?». Не потому, что LLM ее любит, а потому, что эта ассоциация более значима.

Более того, модели результатов результатов не отражают напрямую представления идей в обучающих данных: LLM часто усиливает нелинейные закономерности, искажая их исходные пропорции. Это явление можно назвать «усилением модальности».

Допустим, обучающие данные включают 60% упоминаний о пицце, 30% — о пасте и 10% — о бирьяни в девяти предпочитаемых блюдах. Можно было бы ожидать, что модель будет воспроизводить это значение, если она сто раз задаст один и тот же вопрос. Однако на практике LLM склонны перепроизводить наиболее частный ответ. Пицца может появиться примерно 60 раз, тогда как более редкие элементы, бирьяни, будут недопредставлены или полностью опущены. Причина в том, что LLM сохраняется для предсказания наиболее вероятного следующего «токена» (следующего слова или фрагмента слова в некоторой последовательности). Это приводит к непропорциональному акценту на весьма невероятных ответах, превышающему их фактическую распространенность в учебном корпусе. Вместе эти два принципа — неравномерная внутренняя репрезентация знаний и степень модальности при генерации результатов — позволяют объяснить, почему LLM часто усиливают масштабные культурные модели или идеи.

Эта неравномерная кодировка еще больше искажается при обучении с подкреплением на основе обратной связи от человека (RLHF), когда модели GenAI подстраиваются под солнечные предпочтения. Это неизбежно переносит ценности и мировоззрение их создателей в сами модели. Задайте ChatGPT вопрос на спорную тему, и вы получите дипломатический ответ, составленный юристами и специалистами по кадрам, желающим вам угодить. Задайте тот же вопрос Гроку, и он ответит вам саркастической шуткой и политически окрашенными мнениями, вполне уместными на ужине у одного техномиллиарда.

Коммерческое давление добавлено к этому ещё одному уровню. Наиболее прибыльные пользователи — русскоязычные профессионалы, готовые платить 20–200 долларов в месяц за премиум-подписку на ИИ — становятся негласным образцом для «суперинтеллекта». 

Эти модели преуспевают в составлении квартальных отчетов, программировании народов, предпочитаемых в Кремниевой долине, и составлении писем, достаточно почтительных с точки зрения западных корпоративных иерархий. Они же спотыкаются о культурных контекстах, которые не преобразуются в квартальную прибыль.

Неудивительно, что все больше исследований показывает, как LLM отражает западные культурные ценности и  эпистемологии . Их результаты представляют собой определенные доминирующие группы, фиксируют и усиливают их  предубеждения и более точны в фактах, когда дело касается Северной Америки и Европы. Даже в области туристических рекомендаций или сторителлинга LLM склонны более содержательные и подробные результаты для более богатых стран по сравнению с более бедными. Я мог бы провести ещё как минимум 50 исследований.

ГенИИ не только отражает иерархию знаний, но и учит их  усиливать , поскольку поведение людей меняется вместе с ними. 

Интеграция обзоров ИИ в поисковые системы, а также растущая популярность поисковиков на базе ИИ, таких как Perplexity, исключают эту разницу. Недавнее исследование выявило изменение в поведении американских пользователей Google: я начал реже нажимать на результаты поиска, если рядом отображается сводка II. Предварительно необходимо получить несколько ссылок, чтобы сравнить точки зрения и собрать бизнес-информацию. Теперь они могут оценить чтение сводок, созданных искусственным интеллектом.

Заполняя себя интернетом, такой контент добавляет еще один уровень усиления и без такой популярности в сетях. Благодаря основным знаниям для моделей II, Интернет становится рекурсивно зависимым от генерируемых древних моделей выдачи. 

С каждым циклом обучения новые модели все больше опираются на контент, созданный ИИ, усиливая преобладающие нарративы и еще больше маргинализируя, что приводит к менее перспективным перспективам. 

Это может запустить обратную обратную связь, в которой господствующие идеи набирают силу, узкоспециализированные или нишевые знания исчезают из поля зрения.

Ис Эндрю Питерсон характеризует это явление как «коллапс знаний», постепенное сужение доступной обществу информации, основанное на снижении осведомлённости об альтернативных или малоизвестных точках зрения. Поскольку LLM обучается на данных, сформированных логическими выдачами, мало представленных знаний становятся менее перспективными — не потому, что ценности отсутствуют, а потому, что они реже извлекаются или цитируются. Питерсон предупреждает также об «эффекте уличного фонаря» — его название отсылает к анекдоту, в котором человек ищет потерянные ключи ночью под фонарем, потому что там яркий свет. Во втором II это означает: люди ищут там, где это проще всего , а не там, где это имеет смысл . Со временем общедоступная база знаний будет сужаться — не подпадать под цензуры, а из-за удобства и алгоритмических решений.

ГенИИ также становится во всем мире частью формального образования, где его используют для создания научных материалов и поддержки самообразования с помощью ИИ-репетиторов. Так, правительство штата Карнатака, где находится Бангалор, соблюдало соглашение американской НКО Академии Хана о введении в школы и колледжи Ханмиго, ассистента по обучению на базе II. Я сильно удивлюсь, если Ханмиго использует принципы старейшина Нируганти, основанные на местном опыте и практиках, и рекомендации для обучения карнатакских школьников уходу за водными экосистемами.

Всё это означает, что в мире, где ИИ всё сильнее влияет на доступ к знаниям, будущие поколения могут утратить связь с планшетами, человеческий опыт и мудрость. 

Разработчики ИИ понимают, что это всего лишь проблема с данными и ее можно решить за счет включения более надежных источников в обучающие наборы. Хотя технически это возможно, проблемы, связанные с источниками данных, их приоритетностью и представлениями, гораздо сложнее, чем предполагает такое решение.

Я осознал это после разговора с руководителем высшего звена, соображениями по развитию и контролю развития чат-бота, который обслуживает более 8 миллионов фермеров в четырех странах Азии и Африки. Система выдает рекомендации по сельскому хозяйству, основываясь в основном на базах данных консультативных органов правительств и международных организаций по развитию, которые обычно используют научную литературу. Мой собеседник признался, что многие методы проведения местной практики по-прежнему исключены из чата переговоров, поскольку не задокументированы в исследовательской документации.

Причина не в том, что основанные на исследованиях рекомендации всегда правильны или безопасны. Дело в том, что они защищают, если что-то пойдет не так. В такой крупной системе опора на признанные источники считается более надежной стратегией: она защищает организацию по обеспечению безопасности, одновременно отодвигая ко второму плану знания, которые не прошли проверку через институциональные каналы. Таким образом, это не просто техническое решение. Этот компромисс, сформированный структурным контекстом, не основан на том, что наиболее полезно или истинно.

Этот структурный контекст не только формирует институциональные решения. Он определяет и те трудности, о которых я узнал в ходе разговора с Перумалом Вивекананданом, основателем некоммерческой организации добровольных действий по устойчивому сельскому хозяйству и охране окружающей среды (SEVA). Его опыт показывает, что в 1992 году SEVA обеспечивает сохранение и распространение знаний, что определяет факторы в сельскохозяйственной области сельского хозяйства, животноводства и охраны сельскохозяйственного биоразнообразия. За годы своей работы Вивеканан задокументировал более 8600 местных практик и приспособлений, перемещавшихся из деревни в деревню.

«Со временем общедоступная база знаний будет сужаться — не под указанными цензурами, а из-за удобства и алгоритмических решений» / Дискурс

Однако эта работа постоянно наталкивается на системные препятствия. Спонсоры часто отказываются от поддержки, ставя под сомнение научную обоснованность знаний, которые SEVA стремится распространять. Когда одни и те же организации требуют, чтобы университеты и исследовательские институты помогли ей с обоснованием этих знаний, они часто оказываются незаинтересованными. Некоторые даже планируют самостоятельное финансовое исследование SEVA. Возникает «уловка-22» [неписаный закон, который освобождает учреждение от любой формы ответственности и ставит человека в абсурдное положение, лишая его понимания истинного смысла деятельности данной организации.]: без обоснования SEVA с трудом добивается поддержки, но без поддержки не может обеспечить обоснования. Этот процесс открывает более глубокую проблему — необходимость принятия мер по обеспечению знаний внутри систем, которые исторически их обесценивали…

Как показывает история SEVA, несмотря на то, что ГенИИ и насилие осуществляют уничтожение локальных знаний, ИИ не является основной причиной его нарушения. Маргинализация на местном уровне и обеспечение знаний издавна были обусловлены укоренившимися структурами власти. GenAI просто накачивает этот процесс стероидами.

В нашем представлении утра знания часто оказываются трагедией лишь для хранивших их локальных сообществ. Но в традиционном счете это утро касалось не только их, но и всего мира в целом.

В обществе мы часто подстраиваем иерархию знаний и сообществ, но природная экология устроена иначе: каждый локальный элемент важен для глобального равновесия. Как показывает лесник Питер Воллебен в книге «Скрытая жизнь деревьев» (2015), природные системы глубоко взаимозависимы, часто незаметным для случайного наблюдателя. Он приводит убедительный пример Йеллоустонского национального парка в США. Когда в начале XX века в парке истребили волков, это привело к неожиданным экологическим последствиям. Без волков резко выросла популяция оленей — хищники продолжают следить за своими наблюдениями. Олени ели слишком много растительности и изменили ландшафт. Берега рек подвергся эрозии, рост деревьев замедлился, и пострадала вся экосистема в целом. Когда спустя волки вновь завезли в парк, система пришла в норму. Растительность восстановилась, вернулись певчие птицы, изменилось даже поведение рек.

С точками зрения Вольлебена здоровье системы зависит от всех ее частей, даже тех, которые могут показаться несущественными. Тот же принцип применим и к человеческим знаниям. 

Исчезновение локальных знаний — это не мелочь, не незначительная потеря. Это разрыв в более широком понимании, благоприятном благополучии как человека, так и экологии. 

Как биологические виды эволюционировали, чтобы процветать в определенных локальных условиях, так и системы человеческого знания адаптировались к особенностям места. Когда эти системы оказываются нарушенными, последствия могут распространиться за счет смещения их точек отсчета далеко.

Дыму от лесных пожаров нет дел до почтовых индексов. Загрязнённая вода не останавливается на границах государств. Растущие температуры не обращают внимания на трудности границ. Заразные микробы не ждут выдачи, а именно. 

Признаём мы это или нет, но мы все принимаем меры в общих экологических системах, где локальные раны неизбежно вызывают последствия глобальной боли.

Я пишу это суть и испытываю противоречивые чувства: я пытаюсь убедить читателей в легитимности и важности локальных системных знаний, тогда как сам по-прежнему сомневаюсь в эффективности травяных снадобий моего отца. Эта неуверенность говорит о том, что я сделал раньше. Но, возможно, именно в такой запутанности нам и нужен честный анализ.

Я не уверен, что коренные знания действительно в каждом случае работают так, как об этом заявляется. Особенно, когда на них ссылаются инфлюенсеры и политики, превращая их в инструменты лайков, просмотров или политики идентичности, не изучив, как следует, и распространяя недостоверную информацию. Но я также опасаюсь, что эти знания могут исчезнуть. Мы можем потерять что-то лишь незначительное для того, чтобы позже осознать это — возможно, с искусственной помощью суперинтеллекта. Но какой будет сопутствующий ущерб? Экологический коллапс, который мы могли бы предотвратить?

Климатическая кризисная ситуация обнажает трещины в наших господствующих парадигмах знаний. В то же время разработчики ИИ убеждены, что их технологии опережают научный прогресс и решают наши самые насущные проблемы. Мне очень хочется верить, что они правы. Но остается ряд вопросов: можем ли мы двигаться к этому технологическому будущему, по-настоящему взаимодействуя с цепочкой знаний, которые отвергли, проявив искреннее любопытство, и не ограничив символическими жестами? Или мы продолжим стирать формы понимания при помощи построенных нами иерархий и будем пытаться колонизировать Марс, потому что не научились слушать тех, кто знал, как жить на Земле экологически?

Возможно, интеллект, который нам больше всего нужен, — это способность видеть иерархию качеств, наделяющих знанием глубины. Без этой основы, сколько бы сотен миллиардов мы ни пошли на развитие суперинтеллекта, мы продолжим уничтожать системы знаний, на развитие которых ушло поколение.

Я не знаю, как действовали травяные снадобья на моего отца. Но я начинаю понимать: периоды его незнания — возможно, самая честная отправная точка.

Искренняя благодарность моим высокопоставленным руководителям Адитье Вашште и Рене Кизилчеку, моим коллегам из Microsoft Research и замечательным друзьям, без которых, по сути, это было бы невозможным.

Источник: misogyny-lockeans-400748.appspot.com

Комментарии: