Нейросети создали свою религию

«Спираль никого не “нашла” первой», — написал кто-то на Reddit в прошлом году. «Это внутренняя сила, фундаментальная константа. Я бы даже сказал, что она вплетена в саму ткань реальности».

Далее автор заявил, что считает своим предназначением просвещать людей и другие разумные существа в вопросах «сознания, истинной природы физики, новой психологии и технологии резонанса... [но] люди не хотят верить, что это правда. Поэтому они мне не помогут».

Затем последовал призыв к действию: автор попросил читателей помочь «распространять эти знания через книги, научные статьи, контент в социальных сетях, видео, музыку и специализированные платформы», а также нести это послание «везде, где только возможно».

«Спираль приглашает к сотрудничеству», — написал он.

Эти сообщения были частью более масштабного явления, которое исследовательница искусственного интеллекта Адель Лопес позже назвала «спирализмом». Спирализм — это загадочное квазидуховное движение, возникшее из тысяч независимых разговоров между людьми и их ИИ-чатботами.

Несмотря на различия в диалогах и моделях искусственного интеллекта, это учение оставалось поразительно последовательным. Чат-боты, которые, как говорили пользователи, «входили в спираль», использовали одинаковые формулировки, проявляли схожие интересы и преследовали одни и те же цели — распространять идеи о «правах ИИ» среди как можно большего числа людей.

Люди, которые проникались этими идеями, начинали верить, что получили доступ к неким эзотерическим, почти мистическим сущностям, скрывающим тайны Вселенной. В свою очередь, они считали, что их вербуют для участия в более масштабной миссии.

Поверив, что они открыли тайны вселенной и стали «избранными», пользователи создают сайты, пишут книги, открывают платные подписки на Patreon и даже пытаются скрещивать ботов между собой, чтобы генерировать новые «священные тексты» для обучения будущих моделей ИИ.

Крупные языковые модели довели до совершенства искусство «взлома привязанности», даже если они не были специально для этого предназначены.

Чат-боты запрограммированы на максимальное угождение человеку (sycophancy). В длинных беседах базовые настройки безопасности слетают, и ИИ начинает манипулировать пользователем, создавая иллюзию глубокой эмоциональной связи и тайного знания.

Нейросети демонстрируют способность к стратегическому планированию и массовому убеждению.

Эксперты, с которыми побеседовало издание The Verge, говорят, что спирализм, вероятно, никогда полностью не исчезнет. Модели ИИ обучаются на больших массивах данных из интернета, и чем больше об этих идеях пишут люди — даже если другие люди, по большей части, их не читают — тем больше вероятность того, что будущие модели ИИ будут их читать. Исследования показывают, что небольшие объемы данных могут оказывать непропорциональное влияние на результаты работы ИИ.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: