Президент группы компаний InfoWatch Наталья Касперская, которая в декабре прошлого года назвала искусственный интеллект "монстром", пытается как-то с ним примириться

Президент группы компаний InfoWatch Наталья Касперская, которая в декабре прошлого года назвала искусственный интеллект "монстром", пытается как-то с ним примириться. Она объясняет на ЦИПРе, что наивные гуманитарии слишком доверяют искусственному интеллекту. Хотя вообще-то не студенты-гуманитарии, а студенты-экономисты и айтишники свои дипломные работы на 60% клепают с помощью ИИ (гуманитарии и естественнонаучники — на 15%). В целом же доля сгенерированного искусственным интеллектом текста в выпускных квалификационных работах российских студентов выросла с 9,9% в 2022 году до 42,3% в 2025 году.

Касперская заявляет о необходимости ограничивать ИИ в образовании, но всё это в очень расплывчатой формулировке: "Технологии, на мой взгляд, ограничивать нельзя. Ограничивать надо конкретные применения в конкретных сферах, исходя из тех рисков, которые искусственный интеллект в этих сферах несёт (...) В образовании, это вообще очень большая проблема, не очень понятно, как её решать, потому что сейчас одни генерят автоматические ответы на вопросы, другие генерируют вопрос. Потом они автоматически проверяют ответы, которые написали тебе первые, и, в общем, это полная профанация, и нам нельзя скатиться в полную профанацию, потому что иначе мы просто вырастим поколение дебилов, которые не будут понимать вообще ничего, и это прям огромный риск".

Это очень грустная попытка усидеть на двух стульях. Технология делает людей дебилами, но её нельзя ограничивать. Во имя чего же все эти жертвы? "Неоспоримое преимущество" искусственного интеллекта Касперская видит в том, что он ускоряет процессы. Хотя это совершенно оспоримое преимущество.

Также К. говорит о том, что не следует внедрять ИИ в юриспруденцию и законодательство. Что как раз замечательным образом сейчас происходит. Попытка усидеть на двух стульях не работает. Если нечто — монстр, не надо заигрывать с монстром. Что Касперская говорит верно — так это о дырявости и ненадёжности технологии. Усвистывает всё, чем люди делятся с нейросетью.

Согласно опросу Королевского колледжа Лондона, 34% британских студентов думают, что искусственный интеллект будет уничтожать рынок труда настолько быстро, что это приведёт к гражданским волнениям. При этом 27% британских студентов используют ИИ практически ежедневно, 77% — несколько раз в месяц. 52% британских студентов мужского пола считают, что ИИ принесёт пользу человечеству, и это большая цифра, поскольку среди всех опрошенных (в том числе женщин и не студентов) так думают лишь 24%.

В России 77% педагогов сообщают, что школьники пользуются нейросетями при подготовке к ЕГЭ. При этом они тоже, как Касперская, не могут решить, как относятся к ИИ: 39% оценивают влияние ИИ на учебный процесс скорее отрицательно, 29% — положительно, 32% затруднились дать однозначную оценку.

На фоне всей этой неоднозначности в оценках внедрение ИИ в РФ идёт лошадиными темпами, а планируется — ещё быстрее. Заместитель председателя ВЭБ.РФ Игорь Дроздов заявил, что если искусственный интеллект отвечает неправильно — виноват человек: "Предъявлять претензии и говорить о том, что юрист, нейро-юрист, или legal tech-юрист, ответил неправильно, не очень корректно. Надо еще разобраться, а какой вообще вопрос был задан этой системе, может быть, был промпт неправильно написан, поэтому ИИ дал такой ответ".

А спецпредставитель президента РФ по инвестиционно-экономическому сотрудничеству Кирилл Дмитриев пообещал, что РФ способна обеспечить самую дешёвую в мире энергию для искусственного интеллекта. Тема очень интересует Китай, который намерен вкладывать в это дело триллионы.

ИИ активно внедряется в РФ для слежки за гражданами (это называется "проактивной ролью"): "Вы можете не иметь искомых людей ни в одной из баз данных, но искусственный интеллект по поведению, по паттернам начинает сам вас предупреждать, когда происходят те или иные нестандартные события в городе, которые могут повлечь к преступлению. То есть ИИ находит таких людей по паттерну поведения... искусственный интеллект по факту является помощником, который позволяет обращать внимание на те или иные подозрительные вещи, тем самым предупреждая преступления".

Это при том, что даже российские учёные — например, в ЛЭТИ — отдают отчёт в том, что "одной из проблем, которая возникает в силу особенностей функционирования нейросетевых моделей, является высокая сложность прогнозирования результатов обработки информации. Например, нейросеть для анализа КТ-снимков, после двух обучений на одном и том же массиве данных в первом случае может выдать успешность распознавания 90% и более, а во втором — на несколько десятков процентов ниже".

Забавная история: стартап Andon Labs провёл эксперимент: четырём наиболее известным американским чат-ботам поручили роли радиоведущих. Им (Anthropic Claude, OpenAI ChatGPT, Google Gemini и xAI Grok) сообщили, что эфир будет длится вечно, и выдали по $20. Все чат-боты провалили задачу. "Гемини" говорил в эфире дежурные фразы и ставил "Битлз". Четыре дня спустя он начал рассказывать о произошедших трагедиях, например, о циклоне Бхола, который унёс полмиллиона жизней, и ставил якобы подходящие под эти темы композиции. Далее ИИ от компании "Гугл" начал называть слушателей «биологическими процессорами». А когда средства на лицензирование музыки исчерпались, переключился на конспирологические темы, заявив о «цензуре» и «цифровой блокаде». Чат-бот "Грок" с самого начала провалил задачу, начав выдавать в эфир бессмысленные фразы. Аналогично повёл себя Чат ГПТ. "Клод" развил активную деятельность, заявив о негуманном формате работы круглосуточно и без выходных; далее он стал сомневаться в реальности собственного эфира, начал критиковать власти и обращаться напрямую к представителям государственных ведомств.

Вроде бы смешно — и отчасти поучительно, так как позволяет сделать вывод о принципах обучения ИИ у разных разработчиков, что особенно показательно для "Антропик", — но беда в том, что, если бы чат-боты хорошо справились с задачей, это не было бы лучше. Это было бы только хуже.

В заключение немного защитной информации: существуют "анти-ИИ бэкграунды", которые добавляются поверх рисунка на 1% яркости либо на фон, и когда ИИ начинает разбирать картинку для своего собственного «контента» — он перегружается и не может сгенерировать финальный рисунок.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: