MIT доказал провал 95% проектов, OpenAI признали галлюцинации, или почему ИИ никогда не заменит людей

Нобелевский лауреат Джеффри Хинтон, которого часто называют «крёстным отцом ИИ» за его гигантский вклад в технологию искусственных нейронных сетей, питающую современный ИИ, в последнее время обрушился с гневной тирадой на Big Tech. От обвинений в корпоративной жадности до подчёркивания опасностей ИИ, он, подобно Пандоре, отчаянно пытается запихнуть судьбы обратно в ящик. Но в недавнем интервью дляBloomberg он выкрутил громкость на одиннадцать, поставив под сомнение саму экономическую жизнеспособность ИИ.

На вопрос Bloomberg, окупятся ли когда-нибудь головокружительные инвестиции в ИИ, Хинтон ответил: «Я считаю, что не смогут», и уточнил: «Я считаю, что для того, чтобы заработать деньги, вам придётся заменить человеческий труд».

Конечно, Хинтон, который также верит, что изобрёл компьютерного бога, сосредоточен на колоссальном негативном влиянии массовой замены человеческого труда искусственным интеллектом. Это, по сути, превращает многотриллионную ставку на ИИ в проигрышную ситуацию. В конце концов, если инвестиции окупятся, экономика будет разрушена, что сделает любые вложения бессмысленными.

Но Хинтон упустил из виду один вопрос: «А может ли ИИ заменить труд?»

Хинтон, похоже, не желает осквернять пропаганду, подпирающую его цифрового монстра Франкенштейна, но, к счастью, у меня таких сомнений нет. И вот почему ИИ не сможет вас заменить, и почему это означает, что он обречён на провал.

Если верить хайпу, ИИ определённо скоро заменит рабочую силу. Например, исследование от AI Resume Builder показало, что 30% компаний планируют заменить HR-специалистов на ИИ в 2026 году, а босс британской компании Buy It Direct заявил, что ИИ заменит две трети его сотрудников. Звучит довольно страшно, не так ли? Но у AI Resume Builder есть огромный интерес в том, чтобы ИИ окупился, и это исследование совершенно ненадёжно. Точно так же, этот мерзавец-начальник открыто использует ИИ как угрозу против нового британского закона о прожиточном минимуме - предположительно, потому что он знает, что платить людям достаточно денег для жизни урежет его бюджет на суперъяхту, - и поэтому решил уволить своих сотрудников ради ИИ, если не сможет загнать их в нищету. Какой милый парень…

В реальном мире критического мышления данные рисуют совершенно иную картину.

Возьмите теперь уже печально известныйотчёт MIT, на который мои читатели, вероятно, устали от моих ссылок. Он показал, что 95% пилотных проектов с ИИ вообще не увеличили прибыль или производительность компаний. Фактически, многие компании увидели отрицательный эффект. Имейте в виду, эти проекты не предназначены для автоматизации работников; они предназначены для их дополнения. Если ИИ не может даже помочь нам лучше выполнять нашу работу, как мы можем ожидать, что он будет выполнять эту работу сам?

А как насчёт другого отчёта, от которого также устали мои читатели? Отчёт METRпоказал, что ИИ-инструменты для кодирования на самом деле значительно замедляют разработчиков. Оказывается, ИИ не так уж и точен и постоянно ошибается. Эти сбои были блестяще преподнесены пиарщиками как галлюцинации, чтобы очеловечить холодную машину для плагиата. Но когда точность важна, например, когда ИИ выполняет любую относительно важную задачу, но особенно когда его просят создать код, это огромная проблема. Это означает, что ИИ постоянно пишет бессмысленные баги, и поскольку программист не писал код сам, ему требуется целая вечность, чтобы найти и исправить ошибки. Таким образом, любой разработчик даже с небольшим опытом потратит больше времени на отладку кода ИИ, чем изначально сэкономил, заставив ИИ написать код. А ведь кодирование должно было стать одной из основных отраслей, где ИИ полностью заменит труд. Но опять же, он не может даже дополнить работников, не говоря уже об их автоматизации.

Однако эта проблема не ограничивается только кодированием. Недавний опросHarvard Business Review показал, что 40% работников за последний месяц сталкивались с «рабочим шлаком» (workslop), который они определяют как «сгенерированный ИИ рабочий контент, который маскируется под хорошую работу, но не имеет содержания для значимого продвижения данной задачи». Они обнаружили, что эта проблема «рабочего шлака», порождаемая галлюцинациями и врождённой неспособностью ИИ интегрироваться в рабочую среду - из-за того, что он преувеличивает невежество человека, нарушает коммуникацию между экспертами и лицами, принимающими решения, неточен при выполнении задач и создаёт раздувание задач из-за необходимости управлять ИИ, - на самом деле серьёзно влияет на общую производительность во многих отраслях.

Итак, снова: если ИИ снижает производительность из-за своей неточности и врождённой структуры при использовании для дополнения, как, чёрт возьми, его можно использовать для автоматизации рабочих мест?

Хорошо, но эти генерирующие «рабочий шлак» ИИ и инструменты для кодирования - это всего лишь LLM. Настоящая угроза для труда - это агентный ИИ, который может выполнять задачи самостоятельно. Что ж, по правде говоря, никакого агентного ИИ не существует, так как его на самом деле нельзя создать по множеству причин. Его нужно обучать не только на словах, изображениях и картинках. Его нужно обучать на человеческих действиях, которые гораздо более разнообразны и сложны, и ИИ-модели значительно с этим не справляются. Это приводит к фатальным проблемам, таким как экспоненциально большие и дорогие модели, нехватка пригодных для использования обучающих данных, раздувание объёма задач и постоянные проблемы с крайними случаями.

Вместо этого, агентные ИИ, разрабатываемые и впариваемые сегодня, - это просто LLM, переупакованные в плохую обёртку, и, неудивительно, они отстой. Университет Карнеги-Меллона провёл исследование для количественной оценки производительности лучших агентных ИИ и обнаружил, что они полностью проваливали поставленную им задачу в 70% случаев!

Эти задачи были широкими и довольно простыми, включая рутинные офисные функции, такие как анализ наборов данных, написание отчётов о производительности и базовое решение проблем. Другими словами, ИИ настолько неэффективен, что может автоматизировать только базовые низкоквалифицированные задачи с плачевным показателем успеха в 30%. Так что нет, агентный ИИ не может автоматизировать даже простые рабочие места.

Затем возникают психологические проблемы, связанные с попыткой заменить работников ИИ - не для травмированных работников, хотя это было бы серьёзной проблемой, а для тех, кто остался управлять ИИ-работниками. Позвольте мне объяснить.

Исследование от Microsoft и Университета Карнеги-Меллона обнаружило астрономически сильную отрицательную корреляцию между использованием инструментов ИИ и критическим мышлением. В общем, чем больше вы взаимодействуете с этими инструментами ИИ, тем больше вы занимаетесь когнитивной разгрузкой и тем меньше задействуете критическое мышление. Но критическое мышление - это как мышца. Её нужно тренировать, иначе она атрофируется. Так что чем дольше и чаще вы используете инструменты ИИ, тем больше навыков критического мышления вы теряете.

Затем есть исследование MIT Sloan, которое показало, что, хотя менее опытные работники могут извлечь выгоду из генеративного ИИ, у опытных работников, использующих эти инструменты, наблюдалось притупление их экспертизы. В контексте исследования Microsoft и Карнеги-Меллона, выгода менее опытных работников от ИИ - это тревожный вывод, поскольку для того, чтобы стать опытным профессионалом, необходимо развивать навыки критического мышления, что говорит о том, что генеративный ИИ мешает работникам приобретать опыт, необходимый для карьерного роста. Но и последний вывод о потере экспертизы опытными работниками тоже не удивителен. Как и критическое мышление, экспертиза требует постоянного использования, чтобы оставаться свежей, актуальной и полезной. Эти инструменты ИИ заставляют работников когнитивно разгружаться, учитывая, что в этом и заключается суть дополнения ИИ: снижение когнитивной нагрузки и прекращение использования работниками своей экспертизы, что означает, что они со временем её потеряют.

Учитывая эти два исследования, представьте себе менеджера, наблюдающего за небольшой армией ИИ-ботов, которые автоматизировали весь его отдел. В корпоративном мире уже существует огромный разрыв, когда руководство не осведомлено о работе, требованиях и реальности работников под ними, что означает, что они не могут их подталкивать, привлекать к ответственности или проверять качество их работы, что в конечном итоге приводит к значительному напряжению для всех. Но с рабочей силой из ИИ эта проблема усугубится, поскольку руководство станет ещё более невежественным из-за взаимодействия исключительно с ИИ, одновременно теряя собственную экспертизу и навыки критического мышления. С этим постепенным снижением способностей, как эти менеджеры могут проверять результаты работы ИИ-работников? Как им контролировать эту цифровую толпу, если сам акт взаимодействия с ними лишает их когнитивных навыков и знаний, необходимых для понимания их работы?

Всё просто, они не могут. Так что, даже если бы ИИ был достаточно эффективен, чтобы хотя бы попытаться автоматизировать рабочие места, чего он абсолютно не может, нет смысла заменять им огромные части рабочей силы. Мы психологически не приспособлены управлять такой рабочей силой, мы потеряем над ней контроль, поскольку потеряем навыки, необходимые для её сдерживания, и это может привести только к катастрофе.

Говоря об огромном разрыве, который в настоящее время мучает менеджеров и их работников, если ИИ так очевидно плох, почему так много людей думают, что он заменит работников? Конечно, столько людей не могут ошибаться. Что ж, могут, благодаря нашему старому доброму другу, эффекту Даннинга-Крюгера.

Возьмите недавний опрос Upwork, который показал, что 96% топ-менеджеров утверждают, что они ожидают, что использование инструментов ИИ увеличит общую производительность их компании, в то время как 77% сотрудников в опросе говорят, что инструменты ИИ на самом деле снизили их производительность и добавили им работы по причинам, идентичным исследованию Гарварда о «рабочем шлаке». Единственная причина существования этого разрыва заключается в том, что руководители и высшее руководство настолько далеки от реальной работы, выполняемой под ними, что они прочно зацементировались в эффекте Даннинга-Крюгера и считают себя, на самом деле, экспертами в работе, а не тем, кем они на самом деле являются, то есть экспертами в управлении. Таким образом, они не могут заметить галлюцинации и ошибки ИИ и поэтому воспринимают неверный словесный салат, который делает ИИ, как сопоставимый или лучший, чем реальные экспертные советы их работников. Логично, что, для них, ИИ более чем способны заменить человеческих работников.

Эта проблема является одновременно симптомом сломанной иерархии в современных корпорациях, где менеджеры считаются более авторитетными, чем эксперты-работники, вместо того чтобы они работали совместно как равные, и отчаянной пропаганды, продвигаемой Big Tech. Вот почему данные, исследования и реальность так далеки от риторики и инвестиций.

Тем не менее, есть исследования, которые действительно показывают, что ИИ может повысить производительность, например, это отГарварда. Однако все они либо слишком ограничены и не отражают реального использования ИИ, либо слишком малы по масштабу, либо имеют серьёзные недостатки, такие как самоотчёт о достижениях, либо просто не проверяют, действительно ли ИИ выполнил работу достаточно хорошо, чтобы это можно было считать повышением производительности. Более того, общий консенсус в настоящее время сильно смещён в сторону того, что ИИ не повышает производительность, поэтому эти исследования находятся в меньшинстве. Всё это вместе означает, что они имеют гораздо меньший вес.

Тем не менее, таково состояние ИИ прямо сейчас. Триллионы долларов, вливаемые в ИИ, пока мы говорим, сделают его намного лучше в ближайшем будущем, сделав все эти выводы устаревшими. Верно?

Что ж, нет.

Во-первых, существует граница эффективных вычислений, о которой я писал ранее. Этот принцип описывает, как обучение ИИ испытывает убывающую отдачу, требуя экспоненциально больше вычислительной мощности, и, в свою очередь, экспоненциально больше инвестиций, чтобы продолжать улучшаться линейными темпами. Хотя инвестиции в ИИ в этом году огромны по сравнению с прошлым годом, их далеко не достаточно, чтобы добиться какого-либо линейного улучшения. Фактически, мы так глубоко увязли в этой убывающей отдаче, что последние модели, которые на порядки больше своих предшественников, улучшены настолько незначительно, что большинство людей не могут заметить разницы. В результате, даже с этими огромными затратами, ИИ, вероятно, уже достиг своего пика.

Затем есть гипотеза Флориди, которая использует математический анализ систем, лежащих в основе ИИ, чтобы постулировать, что ИИ может иметь либо узкий охват и надёжные результаты, либо широкий охват и ненадёжные результаты, независимо от размера модели. Другими словами, LLM и весь генеративный ИИ имеют слишком широкий охват, чтобы когда-либо быть надёжными, независимо от того, сколько инвестиций, данных и вычислительной мощности вы в них вложите.

Фактически, последняя исследовательская работа OpenAIподтверждает это. Они обнаружили, что увеличение вычислительной мощности за этими моделями или запихивание в них большего количества данных не может снизить галлюцинации ИИ с их текущего уровня. Фактически, они обнаружили, что нет жизнеспособного способа уменьшить галлюцинации ИИ, что означает, что эти модели обречены оставаться такими же ненадёжными, как и сейчас.

Так что Джеффри не о чем беспокоиться. Технология ИИ достигла своих врождённых пределов и не станет даже немного лучше, не говоря уже о гигантском скачке вперёд. Конечно, злодейские корпорации будут пытаться заменить работников ИИ, но это не приведёт к массовому вытеснению труда.

Однако Джеффри был прав в том, что для того, чтобы ИИ хотя бы вышел в ноль по своим текущим инвестициям, ему необходимо быстро заменить труд. Как я писал в предыдущей статье, недавний отчёт показал, что индустрии ИИ потребуется генерировать 2 триллиона долларов годового дохода только для того, чтобы оплатить дата-центры, которые они планируют построить к 2030 году. Этот отчёт использовал очень оптимистичные прогнозы доходов, основанные на том, что внедрение ИИ и доходы от ИИ будут расти из года в год, несмотря на то, что оба показателя упали в 2025 году по сравнению с 2024 годом, чтобы оценить, что к 2030 году индустрии ИИ будет не хватать 800 миллиардов долларов для выхода в ноль!

Как я писал в другой статье, индустрия ИИ не может заполнить этот пробел в доходах с помощью ИИ-браузеров, ИИ-приложений и ИИ-по*но, которые были её основными попытками до сих пор. Эти рынки просто слишком малы. Джеффри был прав, когда сказал, что для того, чтобы заполнить эту гигантскую дыру в их бухгалтерских книгах, компании ИИ должны заменить труд в больших масштабах и скоро. Но, как мы сегодня рассмотрели, они просто не могут.

Так заменит ли ИИ человеческий труд и ввергнет ли весь мир в экономическую яму?

Чёрта с два!

Эта линия мышления - большая фантазия, чем D&D, в которую я собираюсь играть сегодня вечером. Но это повредит нашей экономике по-другому. Инвесторы и банки влили столько капитала и долгов в пузырь ИИ, что он подпирает всю западную экономику и связывает здоровье каждого финансового учреждения с тем, что эта гигантская ставка в конечном итоге окупится (подробнее читайте здесь). Другими словами, они поставили всю западную экономику на заведомую ложь, которая гарантированно обернётся провалом. Так что, хотя моя фантазия вызовет слёзы радости и смеха, когда наша идиотская партия снова упадёт лицом в грязь, эта фантазия поставит мир на колени не из-за замены труда или создания ИИ-повелителей, а из-за чистого невежественного безрассудства.

А теперь ваша очередь

Сталкивались ли вы с этим на своей работе? Как думаете, ваш ИИ-помощник - это действительно прорыв или просто генератор «рабочего шлака»?

И в чём, по-вашему, главная угроза ИИ: массовая безработица, о которой говорит Хинтон, или гигантский экономический пузырь, готовый лопнуть и утянуть за собой всех нас?

Поделитесь своим мнением в комментариях ниже! Спасибо за прочтение!