Дваркеш Патель считает, что ИИ скоро сожрёт своих же создателей — ИИ-инженеров |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-17 12:02 Дваркеш Патель считает, что ИИ скоро сожрёт своих же создателей — ИИ-инженеров. Как аргумент он приводит, как ИИ уже расправился с математиками, а разработка LLM на деле родственна математике в той части, что там задачи также имеют высокую степень формальной верификации на обучении. Лёгкость построения «Оракула правды» фактически не оставляет шансов кожаным. По его мнению, вытеснение ИИ-инженеров из разработки LLM начнётся в 2028 году и фактически завершится к 2030 году. Давайте разберёмся с тем, кто это и насколько верны его оценки. Дваркеш Патель (Dwarkesh Patel) — топовый журналист-аналитик в ИИ, он входит в сотню ключевых ИИ экспертов в мире по версии TIME100 AI. The Economist назвал его «главным ИИ-подкастером Кремниевой долины». Он прежде всего известен как ведущий Dwarkesh Podcast. Это длинные, очень тщательно подготовленные интервью с ведущими фигурами в сфере искусственного интеллекта, технологий, науки, истории и экономики. Среди экспертов, которые с ним проводили длинные сессии вопросов и ответов — Илья Суцкевер, Андрей Карпатый, Демис Хассабис, Марк Цукерберг, Илон Маск, Сатья Наделла и многие другие. По своим подкастам он потом пишет аналитические эссе, где обобщает ответы знаменитых экспертов в ИИ на своём интервью. Последнее его эссе — о рекурсивном самоулучшении ИИ и прогнозах по суперинтеллекту. На мой взгляд, тезис «формального Оракула» более чем достоверный. Для обучения ИИ на самом деле важна не сложность задачи, а то, кто может давать ИИ на обучении корректные оценки — правильные или нет. Поэтому действительно можно легко обучить ИИ быть математиком уровня Филдсовской премии или разработчиком LLM. Это уже происходит. Публикации OpenAI в математике перевернули её с ног на голову. В части разработки LLM с ИИ прогресс уже огромный. Тот же Anthropic мигрировал поддержку Claude с чипов Nvidia на AMD фактически полностью в автономном режиме, хотя вроде «переписать CUDA» кажется сверхзадачей. Это сверхзадача для людей, а не для ИИ. В то же время, где ИИ нельзя сделать «формального Оракула правды», он остаётся слабее. Системную архитектуру можно формальными Оракулами верифицировать, но вот уже бизнес-требования и архитектуру под них — нет. Поэтому чем ближе вы в ИТ к заказчику, тем сложнее ИИ вас заменять, и наоборот. Какая тут мораль: Если вы думаете, что в эпоху ИИ вы сможете получить работу, занимаясь обучением ИИ и архитектурами ИИ, то в чём-то это заблуждение, т.к. именно туда ИИ и движется сам с формальными Оракулами, также туда его ведут вендоры LLM, т.к. им нужна ИИ-сингулярность мощнее. Захват ИИ системы собственного самоулучшения позволяет проявляться эффектам сингулярности ещё сильнее, поэтому верно ставить на то, что ИИ не только не выйдет на плато развития, а будет всё быстрее и быстрее умнеть, что и так мы видим уже. Любые зоны инженерной деятельности, где возможны «формальные Оракулы правды», будут захвачены ИИ-ботами, а инженеры в них станут безработными, поэтому надо в планировании карьеры оценивать, возможна ли в данной области формальная верификация результата. Если возможно, то лучше туда лыжи не направлять, т.к. конкуренция с ИИ-ботами чаще бесперспективна. https://www.dwarkesh.com/p/rsi Телеграм: t.me/ainewsline Источник: t.me Комментарии: |
|