Искусственный интеллект под прицелом: почему нейросети ошибаются

С началом цифровой революции, связанной с искусственным интеллектом, все чаще звучат мнения и высказывания различных людей, наделенных властью, критикующих ИИ за его ответы. Ранее основная критика была направлена на нейросети, созданные за пределами России, но сейчас под удар попадают и наши разработки, такие как продукты Яндекса и Сбера. Возмущение вызывают случаи, когда ИИ на патриотический запрос рисует флаг США ?? или неправильно отвечает на вопросы, например, о Крыме. У неподготовленного человека может сложиться впечатление, что такие ошибки делаются умышленно. Но давайте разберемся, так ли это на самом деле. ?

В основе любой нейросети лежит процесс обучения. Вкратце, этот процесс заключается в предоставлении ИИ большого объема материала, на основе которого он обучается. Этим процессом руководят специалисты, которые тонко настраивают параметры системы, чтобы нейросеть выдавала корректные ответы и избегала галлюцинаций.

Ключевой вопрос – откуда берется материал для обучения нейросети? Ответ прост – из интернета. Понимая, что объем информации, необходимой для обучения ИИ, огромен, собрать его вручную практически невозможно. Поэтому крупные компании, работающие с большими языковыми моделями, используют специальные «роботы-сборщики». Эти программы обходят интернет-ресурсы и собирают открытые данные для обучения ИИ. Такие роботы работают уже давно. Например, поисковые роботы помогают поисковым системам обновлять информацию о сайтах. Роскомнадзор недавно запустил роботов для выявления запрещенного контента в интернете.

Однако, в наше неспокойное время, когда российские интернет-ресурсы подвергаются DDoS-атакам и попыткам взлома из-за рубежа, необходимо защищаться. Ситуация осложняется нехваткой ИТ-специалистов, о которой говорят повсеместно. В результате, некоторые ИТ-специалисты, работающие вблизи органов власти, предложили блокировать доступ к ресурсам из-за границы.

Это решение вроде бы помогло защитить внутренние ресурсы, но одновременно закрыло доступ к нашим сайтам для роботов-сборщиков данных, необходимых для обучения ИИ. В итоге, нейросеть, обучающаяся на материалах с ограниченным количеством российских данных, начинает создавать изображения по патриотическим запросам с флагом США или военными в форме НАТО. Та же проблема возникает и с текстовыми запросами, обрабатываемыми ИИ. Учитывая, что большинство сервисов и чат-ботов используют ИИ западных компаний, мы попадаем в ловушку, когда ответы ИИ не соответствуют нашим представлениям.

Таким образом, мы получаем ответ на вопрос, почему искусственный интеллект часто «не любит Россию». Возможно, нам следует пересмотреть подход к защите наших интернет-ресурсов от хакеров. Есть множество способов и российских специалистов, которые могут помочь в решении этой задачи.

Или, возможно, стоит поискать другие способы создания информационного и просветительского контента, доступного из-за пределов России. Важно учитывать, что нейросети обучаются на больших объемах данных, и доступ к качественной информации имеет ключевое значение.

Этот пост создан с просветительской целью, чтобы читатели, не являющиеся техническими специалистами, лучше понимали суть проблемы и причины таких ситуаций.

Источник: vk.com

Комментарии: