Мы формируем инструменты, а потом инструменты формируют нас

«"Мы формируем инструменты, а потом инструменты формируют нас". Эти слова Маршалла Маклюэна, сказанные задолго до появления нейросетей, сегодня звучат как пророчество», — говорит Ксения Тарасова: https://www.hse.ru/org/persons/211157809, директор Центра психометрики и измерений: https://ioe.hse.ru/monitoring/ в ВШЭ.

Искусственный интеллект не просто помогает решать задачи — он становится новой формой взаимодействия с информацией, которая меняет то, как мы рассуждаем и принимаем решения. Вместо диалога «с собой» возникает диалог с машиной, и важно понимать, как это влияет на мышление.

Мы провели исследование, чтобы понять, как студенты российских вузов работают с генеративным ИИ. Практически каждый уже пользовался генеративными чат-ботами вроде ChatGPT, но реальный уровень навыков остается ограниченным. В среднем студенты набирали всего три из восьми возможных баллов за выполнение перформанс-задания по созданию промпта — осмысленного запроса с четко заданной задачей, контекстом и ожидаемым результатом. Большинство формулировали поверхностные или слишком общие запросы, не уточняли критерии и не анализировали ответы.

Проблема в том, что нейросеть сама не «понимает» смысла — она просто выбирает слова на основе вероятностей. Именно поэтому ученые называют ее «стохастическим попугаем» — не в шутливом, а в аналитическом смысле. ИИ не осознает содержание, он лишь воспроизводит вероятностные паттерны. Когда пользователь не формулирует точные вопросы и не проверяет ответы, то сам превращается в такого «попугая» — погружается в путаницу смыслов, а привычка думать и проверять себя постепенно пропадает.

О чем-то похожем говорил Платон, который предупреждал, что письменность ослабит память и породит видимость знания — когда люди станут повторять слова без понимания их сути. Кажется, что появление нейросетей делает такую угрозу более реальной. Студенты, которые активно использовали ИИ для подготовки учебных работ, оказались слабее в навыках промптинга.

Машина выдает ответ на любой запрос, даже небрежный и неточный. Поэтому не возникает необходимости учиться четко формулировать задачу, описывать контекст, объяснять, какой результат нужен. Когда навыки не тренируются, они атрофируются. А вот те, кто знаком с программированием, справились лучше. Код не терпит неясности, и умение с ним работать учит быть точным сначала в языке, а потом в мысли.

Для части студентов ИИ становится не просто инструментом, а собеседником для обсуждения личных тем. Возникает феномен «социального одушевления», когда алгоритм начинают воспринимать как партнера, способного понимать и сопереживать. Это естественная реакция на диалоговую форму, но она требует осознанности. Студенту важно различать, где заканчивается инструмент и начинается иллюзия присутствия, где помощь в мышлении, а где его подмена.

Витгенштейн считал, что границы языка означают границы мира. Сегодня эти границы во многом зависят от того, насколько осознанно мы умеем взаимодействовать с алгоритмами. Университетам стоит попробовать стать архитекторами этих отношений. Выстроить обучение так, чтобы студенты осваивали ИИ как инструмент, который помогает обретать ясность мысли, а не освобождает от нее.

Источник: ioe.hse.ru

Комментарии: