Создается технология супер-обмана

Это второй глобальный ИИ риск человечества, вдобавок к технологии супер-убийства.

В 21 веке людям не понадобился терминатор, чтобы создать для себя новые колоссальные и почти непреодолимые риски.

- Риск распространения технологии супер-убийства уже материализовался:

Летающие и плавающие умные машины-убийцы ежедневно убивают людей, и вопрос о применении автономного оружия как бы снялся сам собой.

- Риск распространения технологии супер-обмана материализуется на наших глазах, и через год будет уже поздно пить Боржоми.

В 2019 я еще задавался вопросом «станет ли ИИ Големом 21 века». В 2022 это уже не вопрос. Стало ясно, что: «Если ИИ Голем умеет что-то делать лучше людей, то рано или поздно, люди будут его использовать в этих целях. Не важно, о чем идет речь: играть в шахматы или стрелялки, водить авто или самолет, убеждать людей в фейковой информации или убивать одних людей по приказам других».

С автономными машинами-убийцами все уже определилось. 23-го февраля я в деталях описал, что новая война будет интеллектуальной войной на истощение (в частности, за счет массового применения дронов).

Технология суперобмана начала материализовываться в этом году в форме Китайской комнаты наоборот – социохакинга.

Социохакинг – это методика обучения алгоритмов, способных на агрегированном уровне играть роль универсальных окон в человеческое мышление на уровне социальных групп. Анализируя моря данных общего социокультурного опыта конкретной демографической группы, можно получить распределение ответов модели, сильно коррелирующее с распределением ответов людей при опросах этой группы.

Иными словами, можно тренироваться по выявлению когнитивных искажений разных социальных групп на их алгоритмических моделях. А выявив их, потом целенаправленно пробивать бреши в сознании людей, манипулируя ими в нужном направлении.

Таким образом первый элемент технологии суперобмана в предельно упрощенном виде – выявление того, на что ведется конкретный человек.

Второй элемент - лингвистический инструмент разводки при наличии знания, на что ведётся конкретный человек (технология персонализированного убеждения) .

Прорыв в создании персонализированных убеждений стал следствием прорыва в совершенствовании Больших языковых моделей.

Оказалось, что:

- ChatGPT крайне эффективен для создания программ-вымогателей и фишинговых писем, а встроенные в ChatGPT ограничения для предотвращения использования бота в преступных целях легко обходятся.

Мой свежий кейс с кражей моего ТГ-канала – свидетельство известного печального факта: самая большая наша уязвимость таится не в слабости используемых инструментов защиты от мошенников, а в ограничениях нашей психики.

Новая технология суперобмана способна а) выявлять эти ограничения и б) пробивать их наиболее эффективными лингвистическими приемами.

В дополнение ко всему технология суперобмана совершенствуется быстрее закона Мура.

Источник: vk.com

Комментарии: