ИИ принято рассматривать как инструмент, который увеличивает эффективность не только отдельных людей, но и институтов, организаций и, в будущем — государств

Это понятно: даёшь программисту нейронку и код пишется в десять раз быстрее. Кажется, разумно, что нужно дать эту нейронку всему отделу, а затем и менеджерам и, наконец, директору. Вот это будет рост!

Однако, авторы новой работы "Как ИИ уничтожает институты" (1) приводят убедительные аргументы, почему, поднявшись на уровень институтов, мы не увидим тех же улучшений, что имеют отдельные люди на личном уровне. Более того, есть все причины думать, что языковые модели буквально эти институты разрушат.

Аргументация авторов простая:

Представьте, что вы готовите еду: в диалоговом окне chatGPT рассказывает вам по шагам, что нужно делать. Отлично. Вы приготовили идеальную паэлью.

Но теперь представим, что это кухня, где помимо вас есть ещё 25 человек. Эдакий мини-институт. Один из вас — старший, а все остальные где-то на своём уровне: кто-то готовит 20 лет, другой 2 месяца, третий вообще ещё не готовил. Кому-то понятны овощи, четвёртый разбирается в мясе...

Задача такой кухни — это не только приготовить вкусное блюдо. Но и...

- передать опыт между поколениями поваров

- и эффективно обмениваться информацией

- и формировать иерархию ответственности

- и удерживать пространство совместных знаний и общих целей

- и накапливать предсказуемость

- и регулировать поведение отдельных членов команды...

Вот для чего нужны институты. Их главная цель не в создании продукта, а в передаче культуры.

И всё это, по мнению авторов, систематически разрушается при внедрении AI.

Представьте, что вместо общения на кухне, все по отдельности говорят с искусственным интеллектом, который выдаёт задачи, регулирует распределение данных, говорит, когда и что готовить... Институт кухни, считайте, разрушается. И именно это происходит на наших глазах в более реалистичных сферах: в университетах, на производстве, в журналистике.

Недавно друг рассказывал историю спора с предпринимателем, где каждая линия разговора заканчивалась тем, что тот открывал chatGPT и просил: объясни, почему нужно сделать Х. И получал очень удобный ответ. Уморительно, но страшно.

Иными словами, мы уже сейчас в среде вполне здравых людей видим мощные сдвиги в том, как работает власть, взаимодействие людей, передача опыта и споры.

Если ИИ эффективен, то он разрушает структуру человеческого взаимодействия, особенно в больших группах. Если он не эффективен, то люди потратят больше времени, чтобы исправить его ошибки.

И проблемы эти строго структурные. Их невозможно поменять. Либо все институты будут заменены искусственным интеллектом, либо искусственный интеллект будет запрещён в ряде сценариев.

Источник: papers.ssrn.com

Комментарии: