Греф выступил против автономных решений ИИ на войне, назвав такой подход аморальным

Президент и председатель правления Сбербанка Герман Греф заявил, что передача искусственному интеллекту права самостоятельно принимать решения в ходе боевых действий на нынешнем этапе развития технологий является недопустимой с этической точки зрения.

По информации российских СМИ, такое заявление он сделал во время заседания Совета Федерации, отвечая на вопрос сенатора Алексея Пушкова о перспективах использования агентных систем искусственного интеллекта в военной сфере.

Пушков поднял тему человеческого контроля над ИИ, напомнив о широко обсуждаемом случае, связанном с предполагаемым планированием удара по школе в Иране с применением технологий искусственного интеллекта. По его словам, подобные ситуации ставят вопрос о том, кто должен нести ответственность за решения, принимаемые алгоритмами.

Греф подчеркнул, что не считает себя специалистом в области военного дела, однако отметил, что в современных вооруженных конфликтах скорость принятия решений становится одним из ключевых факторов. При этом, по его словам, даже в условиях высокой динамики боевых действий человек не должен утрачивать контроль над применением вооружений.

«Одна из самых аморальных вещей — позволить системам искусственного интеллекта самостоятельно принимать автономные решения. Сегодня технологии находятся на раннем этапе развития, поэтому такой подход недопустим», — заявил Герман Греф.

Он добавил, что в существующих системах окончательное решение должно оставаться за человеком.

Греф также рассказал, что главный фактор развития ИИ в России заключается не в специалистах, а в объеме вычислительных ресурсов.
Он подчеркнул, что разрыв определяется доступностью ресурсов для обучения и экспериментов, а не уровнем инженерных команд, который в России остается высоким.Глава Сбербанка также отметил, что лидерство в ИИ перестало быть только инженерной задачей и стало частью геополитической конкуренции — оно зависит от доступа к вычислительным мощностям, капиталу и возможности проводить эксперименты в промышленном масштабе. Именно поэтому вопрос собственного стека технологий ИИ становится для России ключевым фактором независимости страны.

Тема военного применения искусственного интеллекта остается предметом международных дискуссий. Ранее первый заместитель председателя правления Сбербанка Александр Ведяхин заявлял, что развитие отечественных решений в этой сфере является вопросом технологического суверенитета. По его мнению, ограничения должны закладываться непосредственно в архитектуру нейросетей, а право окончательного решения всегда должно принадлежать человеку.

Директор Центра исследования перспективных технологий цифровой экономики Валерий Тумин считает, что вопрос автономного применения ИИ выходит далеко за рамки технологий.

«Главная проблема заключается не в возможностях алгоритмов, а в ответственности. Пока невозможно создать систему, которая сможет самостоятельно учитывать весь комплекс правовых, гуманитарных и моральных факторов. Именно поэтому человек должен оставаться последним звеном в цепочке принятия решений», — отметил Тумин.

Руководитель направления «Искусственный интеллект» компании K2 Cloud Алексей Каширин отмечает, что большинство государств сегодня придерживаются принципа Human in the Loop — обязательного участия человека при принятии критически важных решений.

«Автономные системы могут значительно ускорять анализ данных, поиск целей или моделирование сценариев, однако применение летальной силы без подтверждения оператором остается одной из наиболее спорных тем в мировой практике», — подчеркнул эксперт.

Генеральный директор компании DIS Group Дмитрий Кандыбович считает, что развитие технологий требует параллельного формирования международных правил.

«ИИ развивается быстрее, чем законодательство и международные нормы. Поэтому сегодня особенно важно не только совершенствовать технологии, но и договариваться о единых принципах их безопасного использования, прежде всего в военной сфере», — заявил он.

По оценкам специалистов, большинство международных инициатив в области регулирования искусственного интеллекта пока исходят из необходимости сохранения обязательного человеческого контроля над системами, способными принимать решения, связанные с применением вооружения и угрозой жизни людей.

Телеграм: t.me/ainewsline

Источник: antifashist.com

Комментарии: