Ян Лекун: индустрия движется в тупик, игнорируя реальный путь к AGI

Янн ЛеКун помог создать технологию, стоящую за сегодняшними чат-ботами. Теперь он говорит, что многие технологические компании находятся на неправильном пути к созданию интеллектуальных машин.

На протяжении своей 40-летней карьеры в качестве компьютерного ученого Янн ЛеКун заслужил репутацию одного из ведущих мировых экспертов по искусственному интеллекту и человека со склонностью к бросанию словесных гранат.

Он был одним из трех исследователей-первопроходцев, получивших премию Тьюринга, которую часто называют «нобелевской премией в области вычислительной техники» за работу над технологией, которая в настоящее время является основой современного ИИ. Более десяти лет он также занимал должность главного ученого ИИ в Meta, материнской компании Facebook и Instagram.

Но после ухода из Meta в ноябре, доктор. Лекун стал все более громким в своей критике целеустремленного подхода Кремниевой долины к созданию интеллектуальных машин. Он утверждает, что технологическая индустрия в конечном итоге зайдет в тупик в своем развитии ИИ - после многих лет работы и сотен миллиардов долларов, потраченных.

Причина, по его словам, восходит к тому, что он спорил в течение многих лет: большие языковые модели, или L.L.M.s, технология искусственного интеллекта, лежащая в основе популярных продуктов, таких как ChatGPT, может стать только такой мощной. И компании бросают все, что у них есть, на проекты, которые не приведут их к своей цели, чтобы сделать компьютеры такими же умными или даже умнее людей. Более креативные китайские компании, добавил он, могли бы попасть туда первыми.

«Существует этот стадный эффект, когда все в Силиконовой долине должны работать над одним и тем же», — сказал он во время недавнего интервью из своего дома в Париже. «Это не оставляет много места для других подходов, которые могут быть гораздо более перспективными в долгосрочной перспективе».

Эта критика является последним выстрелом в дебатах, которые взбудоражили технологическую индустрию с тех пор, как OpenAI вызвал бум ИИ в 2022 году с выпуском ChatGPT: можно ли создать так называемый искусственный общий интеллект или еще более мощный суперинтеллект? И могут ли компании добраться туда, используя свои современные технологии и концепции?

Немногие ученые имеют такую же историю с этой темой, как доктор. ЛеКун, 65. Многое из того, что технологическая индустрия пытается сделать сейчас, уходит своими корнями в идею, которую он взращивал с 1970-х годов. Будучи молодым студентом-инженером в Париже, он принял концепцию, называемую нейронными сетями, хотя большинство исследователей считали эту идею безнадежной.

Нейронные сети — это математические системы, которые учатся навыкам, анализируя данные. В то время они не имели практической пользы. Но десять лет спустя, когда он был исследователем в Bell Labs, доктор. Лекун и его коллеги показали, что эти системы могут научиться читать почерк, нацарапанный на конвертах или личных проверках.

К началу 2010-х годов исследователи начали показывать, что нейронные сети могут питать широкий спектр технологий, включая системы распознавания лиц, цифровых помощников и самоуправляемые автомобили. Поскольку Google, Microsoft и другие технологические гиганты сделали большие ставки на эту идею, Facebook нанял Dr. ЛеКун построит исследовательскую лабораторию ИИ.

Вскоре после того, как ChatGPT был выпущен, два исследователя, которые получили премию Тьюринга 2018 года с доктором. ЛеКун предупредил, что ИИ становится слишком мощным. Эти ученые даже предупреждали, что технология может угрожать будущему человечества. Доктор. ЛеКун утверждал, что это абсурд.

«Вокруг идеи было много шума о том, что системы ИИ по своей сути опасны и что отдавать их в руки всех было ошибкой», — сказал он. Но я никогда в это не верил».

Доктор. ЛеКун также помог подтолкнуть Meta и ее конкурентов к свободному обмену своими исследованиями с помощью статей в академическом стиле и так называемых технологий с открытым исходным кодом.

Поскольку все больше людей говорили, что ИИ может быть какой-то угрозой для людей, ряд компаний сократили свои усилия с открытым исходным кодом. Но Мета продолжала идти. Доктор. ЛеКун неоднократно утверждал, что открытый исходный код - самый безопасный путь. Это означало, что ни одна компания не будет контролировать технологию и что любой может использовать эти системы для выявления и борьбы с потенциальными рисками.

Теперь, когда ряд компаний, включая Meta, похоже, отходят от этого метода, потому что они хотят получить преимущество над своими конкурентами и продолжают беспокоиться об опасном использовании, доктор. LeCun предупреждает, что американские компании могут уступить свое лидерство китайским конкурентам, которые все еще используют открытый исходный код.

«Это катастрофа», — сказал он. «Если все открыты, поле в целом прогрессирует быстрее».

Работа Meta в области ИИ в прошлом году столкнулась с проблемой. После того, как внешние исследователи раскритиковали новейшие технологии компании, Llama 4, и обвинили Meta в искажении силы системы, Марк Цукерберг, исполнительный директор Meta, потратил миллиарды на новую исследовательскую лабораторию, посвященную погоне за «суперинтеллектом» — гипотетической системой ИИ, которая превышает возможности человеческого мозга.

Через полгода после создания новой лаборатории, доктор. ЛеКун покинул Meta, чтобы построить свой собственный стартап Advanced Machine Intelligence Labs или AMI Labs.

Несмотря на то, что его исследования заложили основу для L.L.M.s., Dr. ЛеКун утверждал, что они не были окончательным ответом на развитие ИИ. Проблема с существующими системами, по его словам, заключается в том, что они не планируют заранее. Обученные исключительно на цифровых данных, они не имеют способа понять трудности в реальном мире.

«L.L.M. — это не путь к сверхинтеллекту или даже интеллекту человеческого уровня. Я говорил об этом с самого начала", - сказал он. «Вся отрасль была L.L.M.-Pilled».

В последние несколько лет в Meta, доктор. ЛеКун работал над технологией, которая пыталась предсказать исход своих действий. Это, по его словам, позволит ИИ выйти за рамки статус-кво. Его новый стартап продолжит эту работу.

«Такая система может планировать, что она собирается делать», — сказал он. «Современные системы — L.L.M. — абсолютно не могут этого сделать».

Часть доктора. Аргумент ЛеКуна заключается в том, что сегодняшние системы ИИ совершают слишком много ошибок. По мере того, как они решают более сложные задачи, утверждал он, ошибки накапливаются, как автомобили после столкновения на шоссе.

Но за последние несколько лет эти системы постоянно совершенствуются. И в последние месяцы последние модели, которые предназначены для «расчленения» через вопросы, продолжали совершенствоваться в таких областях, как математика, наука и компьютерное программирование.

«Эти модели совершают ошибки. Но мы показали, что система может попробовать множество различных вариантов — так сказать, в своей голове — прежде чем остановиться на окончательном ответе», — сказал Райан Кришнан, исполнительный директор Vals AI, компании, которая отслеживает эффективность новейших технологий ИИ.

«Прогресс не замедляется. Стало ясно, что языковые модели могут брать на себя новые задачи и продолжать совершенствоваться в том, чтобы делать все, что мы хотим, чтобы они делали", - сказал он.

Суббарао Камбхампати, профессор Университета штата Аризона, который был исследователем ИИ почти так же долго, как доктор. ЛеКун согласился, что сегодняшние технологии не дают пути к истинному интеллекту. Но он также отметил, что они становятся все более полезными в очень прибыльных областях, таких как компьютерное кодирование. Доктор. Новые методы ЛеКуна, добавил он, недоказаны.

Для Доктора. ЛеКун, именно поэтому его новая компания важна. Последние несколько десятилетий, по его словам, наполнены проектами ИИ, которые казались шагом вперед, но исчерпали себя. И Силиконовая долина не гарантированно станет победителем в этой глобальной гонке.

«Хорошие идеи исходят из Китая», — сказал он. «Но в Силиконовой долине также есть комплекс превосходства, поэтому он не может представить, что хорошие идеи могут прийти из других мест».

Источник: www.nytimes.com

Комментарии: