Академик РАН Игорь Соколов – об уязвимости искусственного интеллекта

Основы искусственного интеллекта были заложены еще А.Н. Колмогоровым в аксиоматике теории вероятностей. И сегодня эта область науки активно развивается. Академик РАН Игорь Анатольевич Соколов на заседании Президиума РАН осветил вопрос безопасности технологий искусственного интеллекта.

Соколов подчеркнул, что искусственный интеллект нельзя ограничивать искусственными нейронными сетями и машинным обучением. Это методы, решающие задачи, для которых отсутствует или не подходит известный алгоритм решений. Человеческая речь не поддается описанию с помощью дифференциального уравнения, и необходимость извлечения этих данных рождает новую математику.

«Все успехи научно-технического, научно-технологического прогресса последних 50 лет не в последней степени достигнуты благодаря тому, что мы научились моделировать процессы объектов окружающего мира», - заметил Соколов.

Российская наука сосредоточена на нейронных сетях. По словам академика, топовые разработки содержат более 500 млрд. параметров, которыми оперирует сегодняшний метод искусственного интеллекта. Многие вещи были вложены в управление сложными техническими устройствами и даже самолетами, когда это еще не называли ИИ. Соколов считает, что интерес к этой области науки сформирован благодаря байесовскому подходу, который активно развивается в университетах сегодня.

Эта сфера требует фундаментальных исследований. Его уязвимость позволяет умышленно искажать обучающие данные, модели и объекты на этапах применения. Как отметил Соколов, достаточно изменить 1 пиксель, чтобы искусственный интеллект идентифицировал тигра как медведя. Это главная проблема, создающая неверные данные и подрывающая информационную безопасность.

Автор: Ольга Скибина

Фото: архив "Научная Россия".

Источник: scientificrussia.ru

Комментарии: