Продолжаем рассуждать на тему влияния нейросетей на человека

Продолжаем рассуждать на тему влияния нейросетей на человека. И в этот раз предлагаем рассмотреть сферу, для которой ИИ собственно и предназначен. Анализ данных и выдвижение взвешенных решений. И действительно подспорье в этой сфере для решения интеллектуальных задач неимоверное. Но, опять же не все так гладко.

Давайте рассмотрим, а какие, собственно говоря, риски и последствия от делегирования ИИ функций рефлексии и принятия решения, существуют.

1. Рефлексия - это анализ события, своего отношения к нему и своих решений, которые реализовывались в конкретном поведении. Так сказать, мышление о мышлении. Так вот использование ИИ для анализа и разбора каких либо ситуаций, или, например, рабочих совещаний, с одной стороны позволяет это делать быстро. А с другой стороны может привести к атрофии этих навыков у пользователя. Особенно если пользователь - только обучается этому, например, являясь школьником, студентом, обучается на тренинге или программе повышения квалификации. Конкретно:

·         Рефлексия, самоанализ, планирование — это не просто ответы на вопросы. Это внутренний процесс, нейронные связи которого формируются в момент усилия, неудачи, переформулирования, проживания неопределённости.

·         Что происходит с ИИ: человек делегирует этот процесс алгоритму. ИИ выдаёт связный, структурированный, часто (но не всегда) психологически грамотный текст. Но это чужое мышление, упакованное в красивую форму. Навык не формируется.

·         Итог: Человек остаётся с пустотой за красивым фасадом. Во взрослой жизни, в кризисной ситуации, требующей самоанализа и принятия сложных решений, он окажется беспомощен, так как у него нет «мышцы» самостоятельной рефлексии.

2. Разрыв между знанием о себе и реальным опытом.

·         ИИ может дать идеальный, по учебнику, план карьеры или анализ эмоций. Но если этот план не рождён из внутренних проб, ошибок, инсайтов, он останется пустой абстракцией.

·         Это ведёт к «самопознанию без себя» — человек знает о себе правильные слова (полученные от ИИ), но не чувствует под ними личной, выстраданной основы. Это усиливает чувство неаутентичности и экзистенциальной пустоты, схожие с состоянием диссоциации - когда реальность кажется нереальной (как будто во сне, или как будто не со мной)

3. Утрата способности к имплицитному научению и интуитивному озарению.

·         Многие прорывы в самопонимании происходят не в момент формулировки ответа, а в процессе его поиска: в паузе, в каракулях на полях, в внезапной ассоциации. ИИ, давая мгновенный ответ, обкрадывает человека, лишая его этого инкубационного периода, где и рождается подлинное понимание.

4. Формирование зависимости от внешней когнитивной обработки.

·         Мозг привыкает к тому, что любое сложное внутреннее задание можно «аутсорсить». Включается принцип наименьшего усилия. Это создаёт паттерн избегания внутренней работы, который может распространиться на все сферы жизни: от решения бытовых проблем до выстраивания отношений.

Несколько лет назад автору посчастливилось общаться с начальником конструкторского бюро одного из машиностроительных предприятий. Мужчина, глубокого пенсионного возраста, приверженец советской инженерной школы. Так он говорил о том, что проектирует изделия по дороге на работу - мысленно, а на рабочем месте переносит их на бумагу, а уже в программе их детализируют его подчинённые. Мы не призываем к возвращению за кульман, но представьте себе уровень работы мышления этого специалиста. А если многие решения несравнимо более низкого уровня будут уходить к ИИ, то каков уровень формирования способности решения когнитивных задач ожидает человека?

5. Отдельный вопрос, когда нейросети делегируется рефлексия опыта, связанного с психотерапией или обучением.

·         Цель таких задач: Развитие внутреннего голоса, критического мышления, способности к самонаблюдению.

·         Что происходит: человек начинает стремиться не к развитию, а к генерации правильного, одобряемого ответа. Задача «сделать домашку для психолога» вытесняет задачу «понять себя». Это имитация прогресса, которую специалист, возможно, заметит (по гладкости и безжизненности формулировок), но которая катастрофически обманывает самого клиента или учащегося.

6. Риск для построения альянса и искренности между педагогом (психологом) и человеком:

·         Терапия строится на искренности. Если человек приносит на сессию «прошивку» от ИИ, работа уходит в плоскость игры и манипуляции. Психолог теряет доступ к реальному, сырому, неструктурированному материалу психики клиента, а значит, теряет возможность по-настоящему помочь.

7. Снижение продуктивной активности человека в жизни. Психика реализует свою функцию связи организма с реальностью, через тонкие механизмы, которые формировались в процессе эволюции (причем не только человека). А использование нейросетей эти механизмы игнорирует. Давайте посмотрим какова разница между естественной работой психики при решении жизненных задач и использованием нейросетей.

·         Самостоятельный путь: Затруднение -> Усилие -> Решение -> Дофаминергическое подкрепление -> Доминанта (устойчивый паттерн активации) -> Готовность к действию. Решение здесь — эго-синтонно, оно «выстрадано» и биохимически подкреплено.

·         Путь с делегированием ИИ: Запрос -> Мгновенный ответ (без усилия) -> Мнимый этап «решения». Ключевое звено — усилие и связанное с ним нейрохимическое подкрепление — выпадает. Решение остается эго-дистонным, чужим.

Соответсвено, у человека не формируется достаточное количество психической энергии для реализации предложенного ИИ решения, так как доминанта оказывается не сформированной. Чем больше таких решений в жизни человека, тем меньше конструктивной активности. Решение есть - реализации нет.

Что с этим делать? Возможные стратегии для психолога, педагога, наставника или для родителей:

1.       Переформатирование заданий: Давать задачи, которые технически невозможно выполнить ИИ, потому что они требуют уникального личного контекста.

o    Примеры: «Опиши не сам конфликт, а физическое ощущение в теле в тот момент»; «Нарисуй схему своих мыслей в тот день».

2.       Работа «в моменте»: Перенос рефлексивной работы в кабинет, на сессию, в режим реального времени: «Давай прямо сейчас попробуем это проанализировать вместе. Не пиши дома, сделай здесь».

3.       Образовательная беседа о ценности процесса: Честно объяснять, почему важно делать это самому. Проводить аналогии с фитнесом: нельзя накачать мышцы, заказав эссе о спорте; нельзя развить рефлексию, заказав эссе о себе.

4.       Интеграция ИИ как объекта анализа, а не инструмента: «А теперь попроси нейросеть проанализировать эту же ситуацию. Что она сказала? В чём её анализ отличается от твоего? С чем ты согласен, а с чем нет? Почему?». Это развивает критическое мышление по отношению к технологиям.

5.       Смещение фокуса с «ответа» на «процесс»: Просить приносить не только итоговый текст, но и черновики, пометки, записи о том, как шла мысль. Ценить и обсуждать именно процессуальную часть.

6.    Фокус на ценностях и «цене»: «Что ты готов отдать (время, комфорт, силы) за эту цель?».

7.    Работа с сопротивлением: «Если бы этот план был твоим, что бы в нём тебе не нравилось? Что вызывает отторжение?» (Этот вопрос ИИ не задаст).

8.    Микро-действия: Разбивать любой, даже полученный с помощью ИИ план, на мельчайшие шаги и заключать персональный контракт на выполнение первого из них, чтобы запустить цикл «усилие -> действие -> подкрепление». На наш взгляд, это наиболее важный пункт.

В завершении к этому посту хочется привести наблюдение экс-тренера сборной России по футболу Леонида Слуцкого, который в далёкие годы защищал кандидатскую диссертацию по педагогике в сфере применения цифровых технологий и статистических методов для развития спортсменов. Он рассказал, как буквально в прошлом-позапрошлом году ему предложили провести анализ футбольного матча его команды (в китайской лиге) с использованием нейросети. Результат был очень развернутый, структурированный, с выделением причинно-следственных связей и рекомендаций для конкретных спортсменов. Но "за скобками" оказались индивидуальные особенности, живое взаимодействие игроков, ситуативные факторы в матче и многое, что ещё, что составляет истинную многофакторную сеть, влияющую на ход игры. Поэтому было всё написано классно, но все мимо. Мы думаем, что, наверное, не все, конечно, не попало в цель, но этот пример, как и многие другие, с которыми возможно читатель сам сталкивался в работе, подчеркивает ограничения нейросетей для безоговорочного делегирования им процессов рефлексии, анализа и принятия решения. А значит, эти навыки по-прежнему необходимо развивать, как молодому поколению, так и зрелым людям и профессионалам.

А в следующем посте мы поговорим о "подводных камнях" использования нейросетей для психотерапии, в том числе собственной, самостоятельной, без участия специалиста.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: