Задохнемся или перегреемся: реальные опасности искусственного интеллекта

Когда речь заходит об искусственном интеллекте, в голове мгновенно всплывает знакомым рефреном фраза про роботов, которые нас всех скоро заменят. Этот первобытный страх не очень обоснован, но в силу растиражированности в поп-культуре умело скрывает за собой реальные проблемы, которые может создать бурное развитие ИИ уже завтра. Дело в том, что до захвата нас роботами мы можем просто не дожить — задохнемся или перегреемся, если развитие искусственного интеллекта будет происходить в направлении, которым идет сейчас.

В первую очередь, не стоит пугаться. Бурное развитие ИИ и сопутствующие проблемы — это решаемый вопрос, и ученые всего мира уже начали его решать (мы расскажем, что и как). Но для начала необходимо обрисовать текущую ситуацию.

Искусственный интеллект сейчас стал модным выражением, на которое сбегаются инвесторы и просто любопытные. Как и большинство популярных научных историй, которые внедряет бизнес, тема перегрета и переиспользуется. Что это означает на практике? Так как основная задача бизнеса — это получение прибыли, то любые разработки и любые достижения науки, которые решали прикладные задачи, при вовлечении бизнеса стараются масштабировать; при этом бизнес не особо думал о вреде наносимым окружающей среде и социуму при масштабировании. Например, это последствия второй промышленной революции: когда автомобилей на дорогах было мало, то наносимый ими вред окружающей среде тоже был невелик. Сейчас, когда владельцем авто стал каждый пятый человек в мире, то и количество выбросов СО2 в окружающую среду несопоставимо способности природы самоочищаться.

Почему встал вопрос об экологичности ИИ? Представим себе нейросети, которые ученые используют для решения важных научных задач. В этом случае, хотя обучение нейросетей и тратит определенное количество ресурсов, человечество по итогам получает возможность решения финансовых задач (игра на бирже), улучшение безопасности (видеоаналитика и распознавание документов), распознавание редких видов рака и прочее. Эти безусловно полезные и надежно внедренные в повседневность разработки не вызывали вопросов, так как разрабатывались в условиях сознательных ограничений и не выходили в массы. Однако когда нейросети стали использовать большинство компаний, в том числе для создания развлекательного контента (к примеру рисование), это привело к негативному воздействию на окружающую среду; Strubell et al. (2019) показали, что современное обучение моделей искусственного интеллекта потребляет такое же количество CO2, как и средний автомобиль за 5 лет. Это перепотребление и привело к тому, что самым насущным вопросом стал вопрос экологичности ИИ. Таким образом, ИИ ученые разделили на два лагеря — Зеленый и Красный.

Красным становится тот искусственный интеллект, обучение и исполнение которого ничем не ограничено. Когда мы пользуемся мобильным телефоном или ноутбуком, то всегда видим заряд батарейки. Поэтому, когда запускаем на них игры или смотрим кино, то прекрасно знаем, что заряда хватит не навсегда. Мы можем оценить ущерб, предусмотреть его и заплатить за него. В случае с Красным ИИ, каждый раз, когда нейросети используются для написания посредственных текстов или рисования посредственных рисунков, где-то жужжат дата-центры, тратятся киловатты, но никто и никогда не скажет, сколько именно. Мы просто не видим наносимый вред, и, следовательно, только приумножаем его.

Когда в Smart Engines задумались об экологичности нашего ИИ, то в первую очередь руководствовались как раз сокращением ресурсов, требуемых для обучения искусственного интеллекта: мы посчитали, что нужно не увеличивать размеры нейросетей, а улучшать их качество, то есть добиваться высокоточных результатов меньшим количеством вычислительных операций. Как сделать эффективность основным критерием оценки? Тут современные ученые столкнулись с несколькими проблемами, так как существует множество потенциальных мер эффективности, каждая из которых ограничена по-разному:

— количество углерода, выбрасываемого при разработке ИИ, является важным показателем, но его трудно точно измерить, и он во многом зависит от местной инфраструктуры электроснабжения.

— количество электроэнергии, потребляемой системой искусственного интеллекта, легче измерить, но оно также во многом зависит от локальной машины, на которой проводятся эксперименты, и, следовательно, не сопоставимо между разными исследователями в разных местах.

— измерение суммы затрат на эксперимент может помочь вдохновить на разработку более дешевых моделей искусственного интеллекта, но и здесь измерение является проблемой, поскольку неясно, как оценивать эксперименты на местном оборудовании.

Так вышло, что самым зеленым ИИ, независимо от того, какой из способов выше использовать для определения его эффективности, стал местный ИИ. Российская алгоритмическая школа всегда бережно относилась к вычислительным ресурсам. Советская школа изначально жила в ограничениях (мы отставали в микроэлектронике), поэтому, когда это стало проблемой мирового масштаба, у нас оказался научный задел. Здесь всегда так делали, а это вдруг стало модным. Smart Engines – естественное продолжение советской школы и создатели зеленого ИИ.

Можем ли мы, как ученые, формировать эко-повестку в вопросах ИИ? Нет, но как ученые, мы не можем не предсказывать — это нормальная функция любого представителя науки. Уже сейчас, во время международной климатической конференции Cop26, инвесторы ищут исключительно «зеленые» проекты, в которые можно вкладывать, а фонды отказываются от спонсирования компаний, не задумывающихся об окружающей среде.

В области искусственного интеллекта мы в первую очередь должны задаваться вопросом: «а как это качественно улучшит жизнь человека?». Ведь цена за ответ на этот вопрос может быть очень высокой. Как бы текущий ИИ не оказался пластиковым пакетом на свалке истории.

Источник: vk.com

Комментарии: