Дваркеш Патель считает, что ИИ скоро сожрёт своих же создателей — ИИ-инженеров

МЕНЮ


Главная страница

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



Дваркеш Патель считает, что ИИ скоро сожрёт своих же создателей — ИИ-инженеров. Как аргумент он приводит, как ИИ уже расправился с математиками, а разработка LLM на деле родственна математике в той части, что там задачи также имеют высокую степень формальной верификации на обучении. Лёгкость построения «Оракула правды» фактически не оставляет шансов кожаным. По его мнению, вытеснение ИИ-инженеров из разработки LLM начнётся в 2028 году и фактически завершится к 2030 году. Давайте разберёмся с тем, кто это и насколько верны его оценки.

Дваркеш Патель (Dwarkesh Patel) — топовый журналист-аналитик в ИИ, он входит в сотню ключевых ИИ экспертов в мире по версии TIME100 AI. The Economist назвал его «главным ИИ-подкастером Кремниевой долины».

Он прежде всего известен как ведущий Dwarkesh Podcast. Это длинные, очень тщательно подготовленные интервью с ведущими фигурами в сфере искусственного интеллекта, технологий, науки, истории и экономики. Среди экспертов, которые с ним проводили длинные сессии вопросов и ответов — Илья Суцкевер, Андрей Карпатый, Демис Хассабис, Марк Цукерберг, Илон Маск, Сатья Наделла и многие другие.

По своим подкастам он потом пишет аналитические эссе, где обобщает ответы знаменитых экспертов в ИИ на своём интервью. Последнее его эссе — о рекурсивном самоулучшении ИИ и прогнозах по суперинтеллекту.

На мой взгляд, тезис «формального Оракула» более чем достоверный. Для обучения ИИ на самом деле важна не сложность задачи, а то, кто может давать ИИ на обучении корректные оценки — правильные или нет. Поэтому действительно можно легко обучить ИИ быть математиком уровня Филдсовской премии или разработчиком LLM. Это уже происходит. Публикации OpenAI в математике перевернули её с ног на голову. В части разработки LLM с ИИ прогресс уже огромный. Тот же Anthropic мигрировал поддержку Claude с чипов Nvidia на AMD фактически полностью в автономном режиме, хотя вроде «переписать CUDA» кажется сверхзадачей. Это сверхзадача для людей, а не для ИИ.

В то же время, где ИИ нельзя сделать «формального Оракула правды», он остаётся слабее. Системную архитектуру можно формальными Оракулами верифицировать, но вот уже бизнес-требования и архитектуру под них — нет. Поэтому чем ближе вы в ИТ к заказчику, тем сложнее ИИ вас заменять, и наоборот.

Какая тут мораль:

Если вы думаете, что в эпоху ИИ вы сможете получить работу, занимаясь обучением ИИ и архитектурами ИИ, то в чём-то это заблуждение, т.к. именно туда ИИ и движется сам с формальными Оракулами, также туда его ведут вендоры LLM, т.к. им нужна ИИ-сингулярность мощнее.

Захват ИИ системы собственного самоулучшения позволяет проявляться эффектам сингулярности ещё сильнее, поэтому верно ставить на то, что ИИ не только не выйдет на плато развития, а будет всё быстрее и быстрее умнеть, что и так мы видим уже.

Любые зоны инженерной деятельности, где возможны «формальные Оракулы правды», будут захвачены ИИ-ботами, а инженеры в них станут безработными, поэтому надо в планировании карьеры оценивать, возможна ли в данной области формальная верификация результата. Если возможно, то лучше туда лыжи не направлять, т.к. конкуренция с ИИ-ботами чаще бесперспективна.

https://www.dwarkesh.com/p/rsi


Телеграм: t.me/ainewsline

Источник: t.me

Комментарии: