Границы рукотворного разума. Выиграют ли роботы Четвертую мировую войну у человечества?

Границы рукотворного разума

Выиграют ли роботы Четвертую мировую войну у человечества? Почему не выехали на дороги российские беспилотные автомобили? Какую когнитивную систему можно считать человекоподобной? На вопросы о возможностях и рамках создания искусственного интеллекта отвечают сотрудники Института вычислительных технологий СО РАН кандидаты технических наук Сергей Александрович Рылов и Антон Андреевич Ракитский.

— Сегодня много говорят об искусственном интеллекте (ИИ) и часто используют этот термин произвольно. Что же на самом деле отличает искусственный интеллект от сложных программных диалоговых решений?

Сергей Рылов: «Под термином ИИ скрывается набор функций, которые считаются интеллектуальными, то есть те, которые способен выполнять человек, но не имеющие четкого алгоритма решения. Например, распознавание объектов на изображении, творчество и даже координация движений для ходьбы или игры в футбол. Все эти задачи так или иначе требуют насыщения информацией и правилами реагирования на нее, после которого система должна максимально адекватно работать в новых незнакомых условиях. Поэтому сейчас бесспорной основой ИИ является машинное обучение, хотя, в общем, и этот термин достаточно размыт».

Антон Ракитский: «Если говорить простым языком, то искусственный интеллект предполагает неоднозначность в своих решениях, тогда как сложная диалоговая программа на один и тот же запрос будет реагировать одинаково. ИИ должен уметь реагировать и подстраиваться под реакцию на свой ответ, то есть обучаться. Допустим, мы спрашиваем у программы: что изображено на картинке? и получаем в ответ — крокодил, а там изображена ящерица. Мы указываем программе на ошибку и называем правильный ответ. Сложная диалоговая программа может запомнить это уточнение и в следующий раз именно эту картинку назвать правильно, а вот ИИ перестроит всю свою логику в целом и будет правильно определять не только это, но и другие похожие изображения. Более того, ИИ вероятнее всего подкорректирует свои ответы и для рисунков с совсем другим содержимым. Таким образом, мы получаем логику действий, схожую с работой человеческого мозга».

— Ряд зарубежных и отечественных авторов рисуют пессимистическую перспективу применения ИИ: якобы он может выйти из-под контроля человека и победить его в конкуренции за владение планетой. Есть ли почва под этими прогнозами?

Сергей Рылов: «Надо понимать, что под термином ИИ обычно подразумевается не искусственный интеллект в смысле полностью человекоподобного сознания, а лишь решение определенных задач. И несмотря на серьезные успехи в этой сфере, за последние десять лет до сих пор нет никакого прогресса и понимания в том, как создать искусственный разум с сознанием, который мог бы сам ставить себе цели».

Антон Ракитский: «Несмотря на неоднозначность поведения ИИ в реакциях на запросы пользователей, предпосылок для захвата планеты некоей суперпрограммой сегодня нет. Все существующие решения, включая нейронные сети и другие сложные модели, как правило, подчинены решению одной конкретной задачи. В настоящее время не существует такой модели, которая могла бы в полной мере эмулировать человеческий мозг, а соответственно, и принимать какие-то сложные и самостоятельные решения, отклоняющиеся от изначально ожидаемых. Единственный вариант, когда такая ситуация могла бы стать реальной, — если бы некий ученый создал ИИ именно для решения конкретной задачи захвата планеты и порабощения человечества».

— В каких направлениях создания ИИ российские разработчики сильны, а в каких отстают на мировом уровне? Есть ли в этой области какая-то специфика у Сибири, новосибирского Академгородка, других научных центров?

Антон Ракитский: «В целом российские разработчики находятся на ведущих ролях в сфере машинного обучения. Яркими примерами разработки и применения таких методов можно назвать все те компании, которые в последние годы мелькают в новостях. Алгоритмы распознавания лиц на изображениях, методы интеллектуального анализа текстовых данных и эффективной обработки big data — всё это значительные информационные поводы, периодически появляющиеся на первых полосах СМИ. Например, компанией Cognitive Technologies был разработан универсальный модуль, позволяющий встроить беспилотное управление в любой обычный комбайн и подобную сельскохозяйственную технику, и уже в прошлом году масс-медиа пестрили заголовками наподобие “Российский беспилотный комбайн установил рекорд по уборке урожая”. В качестве другого примера можно указать “Яндекс”, который уже несколько лет успешно проводит полевые испытания своей системы автопилота, и ее внедрение тормозится только отсутствием необходимой законодательной базы, что тем не менее не мешает СМИ выпускать периодически громкие статьи с описанием успехов компании. Или приложение Findface, разработанное российской компанией Ntechlab и раскрученное многими медийными изданиями. Используемый в приложении алгоритм распознавания лиц уже применяется спецслужбами нескольких стран мира. Таких примеров множество, и перечислить их все, уложившись в несколько строк, не получится.

Однако есть определенная специфика как разрабатываемых, так и успешно применяемых методов машинного обучения именно в России. В настоящее время ситуация сложилась таким образом, что развитые страны за счет быстрого прогресса вычислительной техники и наличия большого числа компаний, занимающихся ее производством, имеют на порядок более высокие возможности в использовании суперкомпьютерных вычислений. В России же больший упор делается на сложные математические решения, которые в меньшей степени требуют длительных вычислений: у нас высокая предрасположенность к разработке более эффективных методов, успешно работающих с ограниченными ресурсами.

Если говорить про Сибирь и Новосибирск, конечно, своя специфика существует — как в любом выделенном коллективе ученых. Всем исследователям свойственно опираться на ранее полученные результаты, развиваться в тех областях, в которых они и до того были сильны. Ученик всегда в первую очередь изучает работы своего учителя. В Сибири исторически сформировались сильные школы математики, физики и связанных с этим расчетов и моделей — например, научная школа академика Юрия Ивановича Шокина. Разработка вычислительных методов, методов моделирования и другие подобные задачи успешно решаются в Академгородке уже много лет. Соответственно, и в машинном обучении хорошо развиваются те направления, которые ближе всего находятся к данным тематикам».

Сергей Рылов: «Всё же я не стал бы выделять эту специфику как региональную. Заметный прогресс мы видим в тех местах, где в сферу ИИ вкладываются деньги, строятся вычислительные мощности и готовятся квалифицированные кадры. В этом плане Академгородок имеет хорошие перспективы — во многом благодаря проекту создания здесь Сибирского национального центра высокопроизводительных вычислений, обработки и хранения данных (СНЦ ВВОД). Будем помнить, что президент России Владимир Владимирович Путин назвал развитие ИИ одной из важнейших гарантий прогресса страны и обеспечения национальной безопасности, поэтому будем надеяться на государственную поддержку именно этой отрасли».

— В научных исследованиях ИИ применяется для обработки и анализа данных. Может ли он играть роль постановщика или корректировщика исследовательских задач, являющуюся сегодня прерогативой человека?

Сергей Рылов: «Цель развития ИИ состоит в том, чтобы заменять и упрощать труд человека. Начиная с таких профессий, как грузчик, официант, водитель, затем на очереди врачи, инженеры и так далее. Вполне возможно, что для человека останется только чисто интеллектуальная деятельность — наука и искусство. При этом с высокой уверенностью можно сказать, что будут создаваться системы для поддержки такой деятельности, и даже в перспективе такие, которые сами будут писать тексты научных статей».

Антон Ракитский: «Сама суть обработки и анализа данных обычно заключается в том, чтобы на основе полученных результатов сформулировать более четкую и однозначную задачу. Поэтому я бы сказал, что ИИ уже, пусть и косвенно, применяется для исполнения роли постановщика и корректировщика исследовательских задач. Ответ тут однозначно положительный, и я предполагаю, что роль ИИ в этом направлении будет только усиливаться».

— Министерство обороны США недавно обнародовало Этический кодекс применения ИИ в боевых действиях. Есть ли предпосылки для подобной регламентации в научной сфере?

Сергей Рылов: О разработке этических норм для ИИ говорят и в России. Это связано с распространением ИИ, которое происходит не только в военной сфере. На самом деле речь идет в первую очередь о контроле: чтобы, как и любые другие важные инструменты, системы ИИ не использовались против своих государств. Есть сведения, что в США искусственный интеллект активно используется для сбора и анализа данных по протестным настроениям в странах “противника” в целях точечного разжигания гражданских конфликтов, и вряд ли такие инструменты подпадут под запрет разработанных в США этических норм.

При этом в ближайшей перспективе, безусловно, будут разрабатываться нормы взаимодействия ИИ с людьми, включающие требования соблюдения законов и общепринятых норм сосуществования, начиная даже с употребления нецензурной лексики и так далее. Какие бы регламентации не появились, в научной сфере должна сохраняться свобода теоретического исследования ИИ, и лишь его практическое использование и распространение будет подпадать под рамки соответствующих грядущих законов».

Антон Ракитский: «Обычно если речь заходит об этике в науке, то выделяют два аспекта: плагиат и манипуляции с живыми существами. Первый явно не касается ИИ и не требует каких-то отдельных дискуссий, а вот ко второму, помимо биологических исследований, я бы отнес и все исследования, связанные с разработкой оружия массового поражения. Использование искусственного интеллекта, например для моделирования результатов применения того или иного оружия, может однозначно ускорить его разработку и повысить эффективность. Тем не менее важно понимать, что здесь ИИ — не более чем вспомогательный инструмент, который не способен к самостоятельным исследованиям и созданию чего-либо опасного, за это будет всегда нести ответственность конкретный ученый. Поэтому лично я не вижу предпосылок для отдельной регламентации использования в науке искусственного интеллекта. Это было бы актуально, если бы таковой сам по сути стал ученым (о чем мы говорили до этого) и решал, как и что ему исследовать, но на сегодняшнем этапе развития такая ситуация не представляется возможной».

— Как соотносятся понятия ИИ и цифрового двойника?

Антон Ракитский: «Любой искусственный интеллект является цифровым двойником, но не любой цифровой двойник обладает искусственным интеллектом. Цифровой двойник — это обширное понятие, включающее в себя множество различных воплощений. И не всегда для создания работающей цифровой копии нужно использовать методы машинного обучения и решать какие-то задачи интеллектуального анализа. Иногда достаточно просто моделировать работу некоторого устройства и обеспечивать взаимодействие модели с самим устройством. С другой стороны, любое приложение, относящееся к области искусственного интеллекта, по своей сути является попыткой моделировать работу человеческого мозга, то есть создать его цифрового двойника. Да, не всё, что относится к ИИ, можно в полной мере причислить к таковым, но абсолютно любой алгоритм машинного обучения может стать частью какого-либо цифрового дублера физического объекта».

— По каким направлениям в области ИИ работают специалисты ИВТ СО РАН? Какие идеи, тематики и разработки могут быть названы в числе приоритетных?

Антон Ракитский: «В целом научные исследования, ведущиеся в ИВТ СО РАН, охватывают практически все направления в области ИИ. Это и нейронные сети, и методы прогнозирования, и классификация/кластеризация данных и регрессионный анализ (который, по сути, неотделим от задачи моделирования). Я бы выделил в качестве наиболее популярных задачи моделирования и восстановления сигналов, а также классификации/кластеризации текстовых данных. Из интересных примеров исследований, которые я провожу совместно со своими учениками и коллегами, могу назвать следующие: создание нейронной сети для восстановления аудиосигнала (например, мы восстанавливаем барабанную партию в музыкальном файле, где она была удалена); разработку методов машинного обучения для автоматического анализа электрокардиограммы; исследование применимости методов машинного обучения для компенсации нелинейных искажений в волоконно-оптических линиях связи (чтобы снизить число ошибок, возникающих при передаче данных по таким линиям); разработку методов прогнозирования значений реальных временных рядов (под каковыми подразумеваются данные о событиях, в которых сложно установить какую-то однозначную и четкую закономерность, например сведения о возникновении солнечных пятен или о сейсмической активности в регионе)».

Сергей Рылов: «В дополнение к сказанному Антоном отмечу еще два направления, выделяющие наш институт среди себе подобных. Первое — это автоматическое выделение и анализ различных объектов по данным дистанционного зондирования Земли: оценка качества всходов посевов по снимкам беспилотных аппаратов, классификация почв по составу и мониторинг водных объектов на основе данных спутниковой съемки. В частности, разработанные в нашей лаборатории методы используются в Сибирском центре — филиале Научно-исследовательского центра космической гидрометеорологии “Планета” при создании оперативных карт паводковой ситуации.

Второе — не только классификация и кластеризация текстовых массивов, но и интеллектуальный анализ текстов, например автоматическое определение жанра и стиля. Кроме того, методы ИИ применяются и в математическом моделировании — при определении оптимальных форм лопастей гидротурбин и для повышения эффективности передачи данных через оптоволоконные кабели».

Подготовил Андрей Соболевский

Фото автора и из личного архива Антона Ракитского; с сайта pixabay.com

Комментарии: