За последние четыре года число дел, в которых фигурируют правонарушения с использованием искусственного интеллекта, выросло на 39%

За последние четыре года число дел, в которых фигурируют правонарушения с использованием искусственного интеллекта, выросло на 39%. Лидерами по количеству рассмотренных дел стали Москва и Московская область.

Множество киберпреступлений и правонарушений сейчас квалифицируются как традиционные составы дел о мошенничестве или, к примеру, краже. На данный момент законодательное регулирование ИИ только формируется, поэтому многие споры могут просто не называть искусственный интеллект как способ совершения преступлений.

Упоминание ИИ особенно часто прослеживается в делах в сфере интеллектуальной собственности — это споры о правах на контент, созданный с помощью нейросетей. В уголовных делах фигурируют мошеннические действия с использованием дипфейков, преступления с использованием ИИ для подделки документов, продажи наркотиков, когда используются магазины — ИИ-боты, незаконное получение кредитов.

Наблюдается рост числа мошенничеств, основанных на использовании генеративных моделей ИИ (используются для создания рассказа в стиле конкретного писателя, создания реалистичного образа человека и тп. — Ред.). Эти схемы становятся всё более изощренными.

Однако мошенники используют нейросети даже не для новых схем обмана, а для того, чтобы улучшить старые. Например, прибегают к LLM (Большая языковая модель, тип программы ИИ, способной генерировать контент. — Ред.) для написания большого числа разных фишинговых писем.

Также нейросети крайне успешны в подборе паролей и в поиске уязвимостей. Уровень развития технологий искусственного интеллекта таков, что уже сейчас ИИ может заменить специалиста по кибербезопасности средней руки.

Спектр правонарушений с использованием нейросетей хотя и широк, но они не создают новые возможности, а делают эффективными уже существующие процессы.

Сейчас компании прилагают значительные усилия для защиты персональных данных своих клиентов, но хакеры продолжают находить способы обойти эти меры, нередко прибегая к помощи ИИ-алгоритмов.

Источник: vk.com

Комментарии: