Иллюзия прогресса: почему "техно-оптимизм" стал инструментом обогащения элит и как за это платит общество

В профессиональном ИТ-сообществе продолжаются острые дискуссии о реальной стоимости и социальных последствиях массового внедрения ИИ в повседневную жизнь. В информационном потоке заметно выделяется недавняя резонансная колонка Джоша Коллинзуорта — ведущего инженера в американской компании Deno, предоставляющей облачную инфраструктуру для веб-разработчиков.

В своей заметке он приводит набор аргументов, почему безусловная вера в светлое технологическое будущее, которое нам всем совсем скоро якобы принесут LLM, является опасной иллюзией:

1. Рост продуктивности от внедрения ИИ ведет не к увеличению зарплат или снижению рабочих часов, а к удвоению нагрузки за счет сокращения рабочих мест.

2. Реальные преимущества от внедрения ИИ получают те, кто находятся наверху социальной и профессиональной иерархии (у кого есть иммунитет от сокращений, авторские права, патенты и т.д.).

3. Контроль над инфраструктурой ИИ сосредотачивается в руках узкой группы мегакорпораций, которые используют технологию как механизм изъятия ресурсов у наименее защищенных слоев общества.

4. Ради монетизации и максимизации пользовательской вовлеченности алгоритмы социальных сетей продвигают сгенерированный нейросетями "опасный" контент.

5. ИИ воспроизводит и усиливает существующие социальные проблемы, в т.ч. кратно усиливает возможности для осуществления мошенничества, политической пропаганды, буллинга и т.д.

6. Огромное потребление воды и электроэнергии дата-центрами несоразмерно получаемым бытовым выгодам вроде незначительного ускорения написания программного кода или писем.

7. Ожидания скорого появления универсального искусственного интеллекта (artificial general intelligence, AGI) не имеют ничего общего с реальностью — разработка ИИ уперлась в технологический потолок из-за дефицита качественных данных, а склонность LLM к "галлюцинациям" является фундаментальным, неисправимым багом.

В позиции Коллинзуорта есть очевидные перегибы. Во-первых, тезис о воровстве ИИ рабочих мест у пролетариата XXI века (по версии автора — начинающих программистов, дизайнеров и копирайтеров) явно преувеличен. Хотя в ряде отраслей ИИ действительно оказал влияние на рынок труда и повысил порог входа для начинающих специалистов, в действительности энтузиазм работодателей к сокращению "живых" сотрудников давно поутих из-за несоразмерных трат на проверку и исправление результатов работы ИИ-ассистентов.

Во-вторых, хотя автор действительно прав о том, что в области ИИ ресурсы концентрируются в руках узкой группы мегакорпораций, в реальности основными бенефициарами являются не разработчики ИИ, а поставщики облачных сервисов (Amazon Web Services, Microsoft Azure, Google Cloud) и вычислительных чипов (NVIDIA). Что же касается (низкой) экономической эффективности внедрения ИИ и (не)реалистичности технофантазий на тему AGI и ASI — отсылаю к предыдущим материалам (1, 2).

А вот в чем Коллинзуорт абсолютно прав, так это в оценке социальных рисков: от потенциальной эрозии скрепляющего ткань социума доверия и разрушения института репутации из-за дипфейков до массовых помешательств (и связанных с ними случаев деструктивного поведения и суицида) и создания миллионов социально децимированных индивидов, пребывающих в пузыре парасоциального общения.

Пора признать очевидное: ИИ оказался не цифровым божеством, которое вернет человечеству золотой век, а просто еще одним (пусть и весьма продвинутым) инструментом для автоматизации рутины. И относиться к нему нужно соответственно: жестко регулировать последствия, трезво оценивать рентабельность и, главное, перестать возлагать на него экзистенциальные надежды.

Источник: vk.com

Комментарии: