ИИ — психопат. Чем это грозит образованию?

Увидел у американского друга из интегрального сообщества в ленте яркую цитату из текста Зака Стайна «Открывая Око Ценности в эпоху метакризиса» (перевод будет дан ниже), очень точно отражающую и моё видение проблемы того неуправляемого поезда-беглеца имитаций интеллекта (ИИ) и прочей искажённой технизации. На поезде этом мы слепо несёмся к обрыву — к горестной утрате линий передачи мудрости, ценности и просто человеческого присутствия.

Уже в эпоху телевизора и начальную эпоху персональных компьютеров моё поколение пережило значительные аспекты этой утраты. Порвалась дней связующая нить, мы оказались вброшены в реальность вывихнутого века, в котором ластиком были стёрты многие межпоколенческие линии передачи, которые в ином случае могли бы составить живительное Древо Жизни.

Но, по крайней мере, у нас была способность чувствовать тоску по тому самому «священному комплексу», о котором говорит Стайн, и, взрослея, некоторые из нас встретили «последних из могикан» — носителей светозарных сердца и разума. Мы видели «сны о чём-то большем», и эти мечты кого-то из нас куда-то да приводили.

Если технологии наркотизации и гипнотизации общества ещё больше выйдут из-под контроля (что уже активно происходит и молчание, — а то и невежество — многих интеллектуалов и активистов этому не помогает), то у последующих поколений останется лишь смутное шизоидное предчувствие чего-то утраченного. А там и до реальности «Матрицы» недалеко.

Апологеты имитаций интеллекта (ИИ) отказываются признать и увидеть печальное исчезновение «краснокнижных» способностей человеческой психики и всё большее закабаление человечества (чему в значительной степени способствуют и различные проповедники мнимого отсутствия свободы воли у человека и т. д.). Расщепление объекта реальности на «плохой» и «хороший» настолько непереваримо, что приходится защищаться от плохих новостей слиянием с идеализацией.

Конечно, перспективы технологического поезда в плане оптимизации и коренного слома человеческого быта экстраординарны и во многом революционны (особенно во внешнем плане). Однако только цепкое, чётко прагматичное, лишённое розовых идеализаций и пораженческих катастрофизаций отношение может помочь нам пройти по этому канату, натянутому над пропастью забвения.

Далее мой перевод с англ. цитаты из текста Зака Стайна «Открывая Око Ценности в эпоху метакризиса». Перевод выполнен собственноручно, без использования имитаций интеллекта (ИИ). Это не означает, что нельзя использовать ИИ для перевода, однако это означает, что важно подчёркивать ценность живительных энергий живого присутствия в текстах, написанных личностью, а не симулированных машинными призраками.

Отрывок из доклада Зака Стайна «Открывая Око Ценности в эпоху метакризиса» (2024; пер. с англ. Е. Пустошкин, без использования ИИ): vk.com/@turiyatita-ai-psychopathy

Наиболее яркая цитата из текста Зака Стайна:

Следует отметить, что любая машина, построенная с целью притворяться или симулировать, будто она является живой личностью, уже служит отражением разворачивающейся сейчас манипулятивной активности, граничащей с психопатией. Например, ChatGPT — разработка OpenAI — не является ответственным созданием, использующим язык с интернализированным чувством внутренне неотъемлемой ценности логической верности и фактической точности, — однако его специально спроектировали так, чтобы создавать впечатление, будто он разговаривает с вами, будучи человеком с этими ценностями. Это «психопатический» машинный интеллект, сконструированный так, чтобы вам казалось, будто он с вами «беседует».

Внутри этих ботов нет ничего, что было бы похоже на личность, продуцирующую текст на экране с намерением что-то вам сообщить. Есть лишь обширная и загадочная система электро-механических причин и следствий — нечто глубинно нечеловечное и чуждое всему биологически живому. Однако эта система спроектирована так, чтобы поддерживать разговор и использовать местоимения первого лица. В её основе лежат колоссальные усилия в области исследований и разработок, огромные объёмы электроэнергии и аппаратных мощностей, — и всё это чтобы создать технологию, фундаментально заточенную под то, чтобы вводить в заблуждение. В общем, получается, что мы запускаем в сферу социализации формы психопатического машинного интеллекта. Они потенциально могут радикально нарушить и так уже находящиеся под риском исчезновения процессы межпоколенческой передачи [мудрости], включающие в себя священный комплекс человеческих обрядов, ритуалов и мифов, органично присущих нашему виду.

Источник: m.vk.com

Комментарии: