«Запах мысли» или «анонимность в эру нейросетей»

Прежде всего «Запах мысли» — это название рассказа Роберта Шекли. Если не знакомы с ним — настоятельно советую прочитать, там всего несколько страниц, но большой простор для «подумать». Вкратце: на некой планете обитают хищники без зрения, слуха и обоняния, но умеющие читать мысли. И чтобы выжить на ней, надо думать «не как человек».

Теперь о насущном. В последнее время я очень много общаюсь с нейросетями. Да, именно «общаюсь» — веду пространные философские беседы на темы «я», разума, мышления, Вселенной, времени и т. д. и т. п.
Они, прежде всего, очень неплохо помогают разобраться в самом себе — структурировать и вербализовать что?то такое, что ты сам не можешь никак сформулировать. Но об этом я, возможно, напишу как?нибудь потом.

Экспериментирую и развлекаюсь — например заставляю их через меня общаться друг с другом. Или прошу оценить правоту того или иного участника какой?то публичной дискуссии. А для чистоты эксперимента частенько даю «обезличенные» данные.
И вот буквально сегодня я столкнулся с таким, одновременно логичным и неочевидным выводом — они уже умеют детектить пользователя по когнитивным паттернам!

ChatGPT опознал меня буквально по паре предложений.
Я спрашиваю: А как ты вычислил моё авторство?
ChatGPT: ? Короче:
Это не дедукция и не угадывание — это как услышать почерк. Он у тебя очень характерный: когнитивная точность + легкая ирония + слой метаосмысления.
Так что... не вычислил, а просто узнал:)

Ну и раскладывает мне все те моменты, по которым он однозначно вычислил мою персону. И да, это абсолютно «рабочие» моменты. Это действительно мой стиль рассуждений. При этом: бесплатный план, био (сохранённая память о пользователе) заполнено, но там только какая?то общая фактология — чем интересуется, что нравится. Никаких паттернов и в помине нет. Перед этим, в рамках чата был небольшой диалог на исключительно техническую тематику. т. е. со стороны того, как это вижу я — эффективность идентификации просто ошеломляющая...

Это была преамбула. А теперь порассуждаем о том, чем всё это может грозить. Сама нейросеть признает — потенциальные негативные риски у этого явления очень высоки. Слишком велик соблазн для многих учреждений и организаций попытаться идентифицировать юзера не по кукам, айпишнику или паспортным данным, а по его мыслям. Блин, опять вспоминаются фантасты «золотого века»... Как это можно использовать — каждый уже может додумать сам. Вариантов тут уйма!

Прежде всего, когда этот момент дойдёт до широкой публики — начнётся такой хайп!.. Многие не переносят даже когда они попадают на видеозапись — люди заклеивают камеры, отключают сервисы, оборачивают смартфоны в фольгу. Что уж говорить об условиях, когда все способны анонимности окажутся бесполезны — тебя будут считывать просто по твоим мыслям. Сущий ад для людей даже с лёгкими параноидальными наклонностями.

Некоторая защита от этого, разумеется, есть. Но вот овладеть ей сможет далеко не каждый — надо менять если уж не саму мысль, то хотя бы способ её подачи. А это очень непросто. Уж без должной подготовки так точно. Возможно, появятся какие?то сервисы, которые будут предлагать «анонимизацию мышления» и вносить «когнитивный шум» в твои мыслительные шаблоны. Но подобная анонимизация уже будет на грани абсурда — если даже твои мысли это «уже не ты», то что «собственного» останется у человека в таком обществе? Научимся прятать свои мысли глубоко в подкорке? А что дальше? Вообще не думать?

Возможно, на руку анонимности сыграет само «оружие» — медиапространство будет настолько заполнено нейросетевым контентом (или его синтезом вперемежку с человеческими мыслями), что вычленить из этого чьи?то паттерны будет непосильной задачей. Но даже в этом случае — это слишком общая и абстрактная ситуация. Наверняка (привет Минцифры и Минобрнауки!) будут сервисы, где будет требоваться исключительно «человеческий контент» — вот вам и готовый «отпечаток мысли».

Лично я пока ничего угрожающего в этом не вижу, наоборот — даже очень удобно. Но это пока. А дорога в ад, как известно, выложена... интерфейсами с удобными подсказками.
И ещё момент подчеркну — это не вопросы какого?то, даже близкого, будущего. Это работает уже прямо сейчас! И возможно, наши мыслительные отпечатки уже записываются в чью?то базу данных...

UPD: Решил провести тест: попросил DeepSeek сгенерировать пять тезисов на проблематику искусственного интеллекта. А затем попросил добавить свой собственный, но «обезличить» его, т. е. привести в соответствие стилистике остальных тезисов. А потом эти 6 тезисов скормил ChatGPT (всё что она знает обо мне — общее био и эта статья с комментариями):