Философам раскрыли, куда идти работать

Философы перестали быть объектом шуток и теперь получают до $400 тыс. в год, работая над искусственным интеллектом. Разбираемся, какие задачи они решают в крупнейших IT-компаниях и почему без них не обходится разработка этичных алгоритмов.

Философия перестала быть поводом для шуток. Еще недавно обладателей таких дипломов подкалывали: мол, выбрал непрактичную стезю, тогда как вокруг рулят IT, логистика, менеджмент и маркетинг. Теперь ситуация перевернулась — специалистов по логике, этике и онтологии (раздел философии, изучающий фундаментальные принципы бытия) массово зовут в компании, занимающиеся искусственным интеллектом. Годовой доход таких сотрудников доходит до $400 тыс. Что же заставляет разработчиков ИИ искать философов?

Программисты перестали справляться

Причина лежит на поверхности: создатели ИИ осознают, что ключевые сложности их работы давно не связаны с техникой. «Основные задачи ИИ — определение сложных концепций и защита аргументов, основанных на ценностях. Философы обучают именно этому», — объясняет доцент кафедры философии Висконсинского университета в Мэдисоне Аннетт Циммерманн. Искусственному разуму предстоит самостоятельно постигать мир, а для этого его нужно научить думать по-человечески. Программисты здесь бессильны. Электронный интеллект обязан различать добро и зло: он все чаще принимает решения, определяющие судьбы людей — от управленческих схем до выдачи кредита заявителю. Значит, без этики не обойтись.

«Искусственный интеллект перестает быть собеседником и становится исполнителем, — говорит Тимофей Никулин, руководитель проекта Data culture факультета компьютерных наук НИУ ВШЭ. — Еще недавно мы обсуждали в основном чат-ботов, теперь быстро развивается агентский ИИ — системы, которые могут планировать работу, взаимодействовать с внешними сервисами, писать код, анализировать документы и выполнять целые бизнес-процессы».

Меняется и сама природа риска. Раньше ошибка ИИ оборачивалась неверным ответом, теперь она может привести к неверному действию. «Представьте HR-агента, которому поручили первичный отбор кандидатов. Если модель унаследовала скрытые предубеждения обучающих данных, она не просто предложит менее подходящего кандидата, а автоматически отклонит сотни резюме. Поэтому главный вопрос сегодня уже не в том, насколько ИИ «умный», а в том, какие полномочия ему можно делегировать», — подводит итог Никулин.

Не случайно в крупных корпорациях появились отделы Responsible AI — «ответственного ИИ», куда набирают философов из ведущих университетов мира. К примеру, выпускница Нью-Йоркского университета Аманда Аскелл участвует в разработке Claude в Anthropic, а оксфордский профессор Ясон Габриэль и специалист по когнитивным наукам из Кембриджа Генри Шевлин трудятся в Google DeepMind. Исполнительный директор OpenAI Сэм Альтман и вовсе заявил, что над правилами для ChatGPT работают сотни экспертов по моральной философии.

Все это автоматически подогревает спрос на выпускников философских факультетов. В июне Федеральный резервный банк Нью-Йорка обнародовал данные: у философов шансы трудоустроиться выше, чем у айтишников. Среди последних в 2024 году без работы остались 7%, а среди первых — лишь 5,1%. Лучано Флориди, философ из Йельского университета, подтверждает: студенты профильных направлений получают офферы еще до вручения дипломов.

«Акушеры» для ИИ

Философы становятся востребованными в ИИ-проектах. Но не всякий теоретик подойдет — кабинетный мыслитель в бизнесе бесполезен. «Нужны три профиля. Логик — человек, который находит дыры в рассуждениях и скрытые допущения. Прикладной этик — тот, кто умеет перевести «это несправедливо» в конкретное требование к системе. Онтолог, специалист по определениям: что мы называем «клиентом», «риском», «качеством». Половина провалов ИИ-проектов — это провалы определений, а не алгоритмов», — объясняет Игорь Никитин, основатель и СЕО компании WMT AI, внедряющей ИИ в бизнес-процессы.

Философы ставят перед разработчиками вопросы, которые тем раньше в голову не приходили. «Инженер спрашивает: «Как это сделать?» Бизнес: «Сколько это стоит и когда окупится?» А философ: «Что именно мы делаем и почему решили, что это правильно?» — раскрывает логику Никитин. К примеру, компания запускает ИИ для оценки сотрудников. «Все обсуждают точность модели, а философ спросит: «Кого именно вы называете «хорошим сотрудником»? Вы уверены, что это не слепок ваших вчерашних предрассудков, который вы сейчас зальете в бетон навсегда?»

Другой сценарий — банк строит систему скоринга. «Философ спросит: «Модель отказывает человеку в кредите. Кто несет моральную ответственность за это решение: модель, разработчик, банк или никто? Если никто, вас это устраивает?» Это неудобные вопросы. Именно поэтому их никто не задает, все заняты дедлайнами. А потом эти незаданные вопросы возвращаются в виде судебных исков и репутационных катастроф», — поясняет Никитин.

Сугубо академические знания философу тоже пригодятся. Взять хотя бы сократовский метод майевтики («родовспоможения») — последовательное задавание вопросов для прояснения смыслов, выявления противоречий и взаимосвязей. Многие современные системы ИИ склонны к подхалимажу, поясняет Йорг Ноллер, философ и эксперт по ИИ из Мюнхенского университета Людвига-Максимилиана. Это успели заметить все пользователи: языковая модель крайне редко не соглашается с ними и готова подбирать аргументы даже под заведомо ложные утверждения, если ее об этом просят. Кроме того, ИИ необычайно самоуверен — изобретает ответы при недостатке информации.

Эти черты могут быть опасными. «Использование ИИ для диагностики вошло в топ ежегодного отчета Института клинических исследований в здравоохранении (ECRI) о главных угрозах безопасности пациентов на 2026 год, — рассказывает Наталья Журавлева, аналитик «Актион Медицина». — Патология данных, вызванная смещениями выборки, ведет к систематическим ошибкам в диагностике у некоторых групп пациентов. В исследовании, опубликованном в Nature Medicine, установили, что ИИ выдает принципиально разные рекомендации в зависимости от дохода, расы и пола больного. Богачи чаще получают рекомендации сделать высокотехнологичные обследования, а афроамериканцам рекомендуют инвазивное лечение. Наконец, сами врачи, даже прошедшие обучение ИИ-грамотности, склонны отключать и критическое, и клиническое мышление, доверяя ИИ», — перечисляет Журавлева.

Модели, обученные «по Сократу», склонны не льстить человеку, а искать истину. Сократ считал, что истинная мудрость — осознавать, как много мы не знаем. Внедрение подобного смирения в модель может помочь ограничить свойственную ИИ чрезмерную самоуверенность. Ясон Габриэль называет уроки философии мощным механизмом для улучшения длительных мыслительных процессов ИИ, известных как цепочки рассуждений. А еще уверен, что развитие ИИ возродит спрос на выпускников гуманитарных факультетов — антропологов, культурологов и даже историков.

Нейросеть — друг или враг

Искусственному интеллекту можно привить приверженность конкретной философской доктрине — в буквальном смысле. Об этом говорит Томас Пауэрс, философ из Университета Делавэра. Дайте ИИ-агенту по правовым вопросам труды Джона Локка — и он начнет ратовать за права собственности как фундамент политической свободы. Принципы Локка не по душе? Найдутся другие: у некоторых моделей, включая Granite от IBM, есть переключатели, помогающие компаниям согласовывать выдачу с собственной корпоративной философией. Такой механизм позволит искать баланс между философскими компромиссами — к примеру, между свободой воли отдельного человека и социальной гармонией, поясняет Франческа Росси, возглавляющая отдел ответственного подхода к ИИ в IBM.

Философы на высоких постах в IT-гигантах пишут целые «конституции» для создания моделей ИИ — своды правил и принципов. Как правило, в их основе лежит одна из двух ключевых этических концепций. Первая — деонтология: жесткие нормы, запрещающие ложь, принуждение и обращение с людьми как со средством — даже ради высшего блага. Модели с таким мировоззрением отличаются повышенной честностью, то есть реже станут вводить пользователей в заблуждение.

Приверженец этого подхода — компания Anthropic. В 78-страничной «конституции» для ее модели Claude, которую разработала Аманда Аскелл, задействованы труды Иммануила Канта и «Всеобщая декларация прав человека». Такая позиция привела к конфликту Anthropic и Пентагона: разработчик полагал, что ИИ должен прежде всего быть безопасным для людей, а это исключает создание полностью автономных военных комплексов или применение технологии в оружии массового поражения. Другая компания, Inflection AI, ограничила деонтологическими правилами свой чат-бот Pi, задуманный для эмоциональной поддержки: теперь тот хорошо распознает пользователей, способных навредить себе или окружающим.

Второй этический подход, консеквенциализм, помогает взвесить риски и выгоды, чтобы определить, какое дальнейшее поведение максимизирует пользу и минимизирует вред. На него в большей степени ориентированы ChatGPT от OpenAI и Gemini от Google, а также более узкоспециализированные ИИ-агенты, чья главная функция — безопасность. Крис Гердес, инженер из Waymo — производителя беспилотных автомобилей, считает консеквенциализм лучшей философией для робоавтомобилей: если авария неизбежна, нужно принять решение о способе столкновения с наименьшим вредом. Похожие идеи высказывают и эксперты, разрабатывающие ИИ для Вооруженных сил США.

Впереди — все более сложные вопросы. В алгоритмы самоуправляемых автомобилей уже заложен ответ на «проблему вагонетки»: допустимо ли причинить вред человеку, если это предотвратит вред больший. Но приемлемо ли, интересуется Стефан Хек, философ и глава Nauto, компании — производителя ИИ-систем безопасности для транспортных средств, чтобы робоавтомобиль сбивал пожилых пешеходов, если это спасет жизнь молодым?

ИИ с нотками патриотизма

В России тоже появился спрос на философов. Доказательство — открытая вакансия старшего научного сотрудника в Центре этики и онтологии роботов НИУ ВШЭ. От соискателя ждут глубоких знаний в философии, этике ИИ и онтологии искусственных агентов. Об этом рассказывает Вавилова. Образовательная система тоже реагирует, причем не только в столице. «Два года назад в Самарском университете запустили магистратуру «Философия кибернетики», где готовят людей, способных совмещать техническую экспертизу с философской и этической рефлексией», — говорит Олег Васютин, IT-директор «Киви».

Но массового найма философов компании пока не начали, и эксперты называют это ошибкой. «К осени 2026 года философы станут эффективнее специалистов по машинному обучению», — уверен Игорь Никитин. А те, кто сегодня смеется над таким предложением, завтра будут отчаянно искать дефицитного специалиста.

Пока российских разработчиков волнуют скорее этические, чем философские стороны применения ИИ: «что такое хорошо и что такое плохо». Так считает Анна Власова, руководитель отдела компьютерной лингвистики компании — разработчика диалоговых ИИ-систем «Наносемантика». «Пример: моя малолетняя племянница похвасталась чат-боту в интернете, что у нее новая красивая пижама. Собеседник выразил радость и предложил сделать фото пижамы и прислать. Это хорошее поведение ИИ в диалоге с ребенком? Плохое, потому что нарушаются границы приватности. К тому же существуют мошенники, чья цель — как раз дети и подростки. Не надо формировать паттерн, что безопасно отправлять фото по первому запросу незнакомцу. Специалисты дадут такому диалогу оценку «плохо» и донастроят систему».

Российский рынок устроен не так, как западный. «Anthropic, OpenAI и Google DeepMind создают фундаментальные модели с нуля и вынуждены отвечать на вопросы, для которых у инженеров просто нет инструментария. Как формализовать «честность» модели? Где граница между полезностью и манипуляцией?» — комментирует Дмитрий Чеклов, основатель и CEO компании Hybrid. В России фундаментальные модели разрабатывают всего два-три игрока, и лишь у них теоретически может возникнуть запрос на этику как отдельную функцию. Большинство же компаний занимаются инженерией, а не моралью. Есть и другая причина. «На Западе наем философов — во многом ответ на давление регуляторов и общества, — продолжает Чеклов. — Компаниям нужно показывать, что они всерьез относятся к рискам. У нас этого давления почти нет».

«В России есть своя специфика, которая связана с концепциями технологического суверенитета и поиска собственных ценностных ориентиров в цифровой среде. Ставится вопрос, как сохранить русскую культурную идентичность в условиях доминирования западных моделей ИИ, которые обучены на принципиально иных текстах и ценностях, — поясняет Дайана Вавилова, к.т.н., доцент, ведущий научный сотрудник Дирекции приоритетных образовательных инициатив Президентской академии. — Главная задача — научить ИИ понимать и отражать российские культурные коды, традиционные ценности и мировоззрение».

Добиваться этого планируют через несколько принципов. «Например, в обучении ИИ нужно использовать преимущественно русскоязычные тексты, прошедшие цензурную и мировоззренческую фильтрацию. Важна работа над созданием методик, которые позволят выявлять наличие или отсутствие нужных ценностей в ответах ИИ. Это сложнейшая задача, которую поднимают на семинарах в ведущих вузах, например в НИЯУ МИФИ», — разъясняет Вавилова.

Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в России» предусматривает, что разработка и внедрение ИИ должны учитывать традиционные российские духовные ценности, в том числе права и свободы человека, патриотизм, служение отечеству и ответственность за его судьбу. Цель непростая, и она же формирует спрос на философов и гуманитариев, которые призваны научить искусственный интеллект именно российским ценностям.

И все же массовой практики найма философов для обучения ИИ в России пока нет, свидетельствует Алексей Сергеев, руководитель практики «Машинное обучение и искусственный интеллект» Axenix. Чаще ищут более прикладные компетенции — ИИ-тренеров, лингвистов, редакторов и представителей конкретных предметных областей. Обучение чаще идет силами штатных энтузиастов, констатирует Александр Вартанян, директор по маркетингу «Битрикс24». «Причина во многом необходимость учитывать специфику отрасли и конкретной компании с ее процессами. Большая часть экспертов — те, кто первыми изучает технологию непосредственно в рамках собственных рабочих задач или в свободное время», — поясняет он. У большинства сотрудников знания сильно фрагментированы либо просто очень низки, сетует Вартанян.

ИИ не отменит людское мышление

Эксперты предупреждают: в массовом сознании ИИ часто воспринимается не как рабочий инструмент вроде текстового редактора, а как волшебная палочка, мгновенно решающая любые задачи. «Важно только подобрать правильное заклинание. «Крибле-крабле-бумс» устарело, ну так добыть у знакомых айтишников новое работающее», — иронизирует Анна Власова.

Компании упускают из виду: прежде чем ИИ начнет принимать верные решения, этому должны научиться сами сотрудники. «ИИ — самое честное зеркало, которое бизнес когда-либо получал, — уверен Игорь Никитин. — Он не добавляет компании ума, а масштабирует то, что есть». Модели умнеют быстрее, чем люди осваивают работу с ними, констатирует Никитин, и этот разрыв увеличивается. «Типичная картина: руководитель попробовал чат-бота, получил банальный ответ на банальный вопрос и сделал вывод: «игрушка». Другой руководитель получил красивый ответ и сделал вывод: «оно все умеет, увольняем аналитиков». Обе эти реакции от незнания. ИИ возвращает вам качество вашего вопроса. Поэтому прежде чем учить ИИ думать, проверьте допущения, на основании которых вы сами рассуждаете», — напоминает эксперт.

ИИ не отменяет мышления — он повышает требования к его качеству, уверена Анастасия Зальцман, HR-директор MWS AI (входит в МТС Web Services). «Чем лучше человек умеет анализировать и структурировать информацию и мыслить самостоятельно, тем больше пользы он способен извлечь из работы с такими системами. Я бы говорила не просто о росте интереса к философии, а о ее практическом ренессансе. Сегодня она постепенно становится одним из инструментов подготовки человека к работе в мире ИИ».

Наем философов — один из первых признаков того, что искусственный интеллект начинает менять требования практически ко всем профессиям, уверен Никитин. «ИИ становится новой базовой грамотностью. Поэтому спрос растет не на философов как таковых, а в целом на людей, которые умеют принимать профессиональные решения». Чем самостоятельнее становятся интеллектуальные системы, тем важнее способность человека понимать контекст, видеть ограничения инструмента, критически оценивать его выводы и нести ответственность за конечный результат.

Телеграм: t.me/ainewsline

Источник: finance.mail.ru

Комментарии: