Искусственный интеллект — наш враг ?

МЕНЮ


Главная страница
Поиск
Регистрация на сайте
Помощь проекту
Архив новостей

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


Дело в том, что ИИ на текущем этапе развития технологий и человечества — это слишком громкое и модное слово, под которым, по факту, скрываются обычные программы, написанные обычными людьми. И в этих программах есть баги. Да да, такие же банальные ошибки, которые встречаются в лабораторных студентов первого курса. А вы чего думали? Маркетологи будет всячески вешать вам лапшу на уши. Не развешивайте их слишком сильно. Используйте критическое мышление.

Ситуация с AI примерно такая же как и с камерами по 108 МП в современных телефонах. Да, технологии развиваются. Да, фотографируют лучше, чем раньше. Но так ли лучше, как нам кричат из каждой релевантной рекламы? Нет, конечно. Вы думаете, там реально эти цифры? И да, и нет. Несколько пикселей матрицы объединяются под одним светофильтром, расширяя тем самым динамический диапазон и пропускную способность света. Читайте про технологии Quad Pixel, Quad Bayer и Tetracell. Получается, что 108 Мп делают фото, аналогичное 12 МП, когда пиксели объединяются в группы по 9 штук.

А что же с современным ИИ (AI) ? Да то, что он может решать (и то не всегда корректно) очень и очень узкие задачи. Успешно справляется ИИ там, где есть более менее четкая задача, а также в ситуациях, которые были аналогичны ситуациям в процессе обучения нейронной сети.

На днях вышла интересная новость...

Alexa предложила 10-летней девочке вставить монетку в розетку

Предложение появилось после того, как девочка попросила Alexa «найти испытание». Компания Amazon в срочном порядке обновила своего голосового помощника Alexa после того, как искусственный интеллект порекомендовал 10-летней девочке прикоснуться монетой к зубцам наполовину вставленной вилки зарядного устройства.

«Подключите зарядное устройство для телефона примерно наполовину к розетке, затем дотроньтесь пенни до открытых контактов», — сообщил виртуальный ассистент.

Предложение появилось после того, как девочка попросила Alexa «найти испытание». Как сообщила мама девочки в Twitter, они в последнее время выполняли различные физические упражнения, и девочка захотела найти что-то еще. Именно тогда «умная» колонка предложила принять участие в испытании, которое она «нашла в Сети».

Опасная активность, известная как «испытание с пенни», начало набирать популярность в TikTok и других социальных сетях около года назад.

Что же сделала «умная» колонка ? Бездумно парсила сайты на хайповые темы, предлагала эту информацию детям, не анализируя ситуацию ни на шаг вперёд.

И благо, что девочка оказалась умная, не стала ничего пробовать, а придала этой истории резонанс. А ведь кто-то мог и додуматься. Например, ребенок более младшего возраста. Здесь стоит обратить внимание на то, что замыкание контактов на высоком напряжении ( даже домашние ~220 V ) могут минимум привести в ожогам и травме зрения (раскаленные искры металла или припоя могут попасть в глаза), а как максимум к летальному исходу (например, если у ребенка имеются проблемы с сердцем). Ещё можно спалить себе сухожилие и остаться на всю жизнь с согнутым пальцем. Забавно? Не думаю.

Современный маркетинг — большое зло! Обывателям продают всё что угодно. Обыватели не задумываются, а рады относить деньги за очередную бесполезную вещь. Ладно, ладно... Может и полезную, но явно не для детей. Вместо того, чтобы взять книжку или развивающий конструктор, дети деградируют в ТикТоках, идиотских играх на телефонах и псевдо-интеллектуальных колонках. Обратите внимание на рекламу последних мобильных игр. Там даже думать не надо: тыкай одним пальцем шарики и всё.

Хорошие, качественные, умные игры-головоломки даже не рекламируются нигде. Везде какой-то мусор и дезинформация.

Не стоит принижать важность развития искусственного интеллекта на благо общества. Это нужные и полезные технологии. Только хотелось бы, чтобы люди меньше доверяли этим технологиям вещи, связанные со своей жизнью. Мы не пришли к тому времени, когда автопилот в машине сможет правильно среагировать в ЛЮБОЙ критической ситуации лучше ЛЮБОГО водителя человека. Точно также мы ещё не пришли к тому, чтобы доверить образование, обучение, развлечение своих детей умным колонкам с супер-крутым ИИ.

В большинстве случаев это маркетинг, господа. Не попадайтесь на его уловки.

Существует ряд проблем, которые имеет современный ИИ:

Искусственный интеллект обучается на данных, находящихся в свободном доступе. Получается, что его обучение не может быть сбалансированным. Всегда есть вероятность того, что некачественные данные соберутся в базу, а что-то полезное проигнорируется. ИИ легко может научиться плохому и делать ошибки, серьезные ошибки.

Базы данных для машинного обучения иногда низкокачественные или испорченные. В 2016 году Twitter запустила чатбота по имени Тэй с аватаркой и манерами 19-летней американки, чтобы тот общался с пользователями сети. Всего за сутки чатбота научили дурному — Тэй превратилась в расиста и сексиста, а также призвала построить стену на границе США и Мексики за счёт последней.

ИИ не аналогичен человеческому мозгу. Хотя его и постоянно сравнивают с мозгом. Но даже самые мощные нейросети с 1 000 000 000 узлов будут соответствовать только 1 мм? мозговой ткани.

Машинное обучение работает НЕ так как работает мозг человека. Иногда ML невозможно понять, иногда его легко обмануть. Часто ИИ пытаются научить распознавать изображения человеческого лица по фото. Т.к. большинство ИИ работает по наборам пиксельных значений, то манипуляции с цветами отдельных пикселей могу запутать нейросеть, тогда как для человека изображения не поменяются. Добавив несколько наклеек на знак «Стоп», можно заставить ИИ самоуправляемой машины думать, что перед ним знак «Ограничение скорости 45»

Огромные проблемы с лингвистическим анализом речи. Языковое обучение — одна из главных проблем ИИ. Кибернетические системы, создаваемые техникой, все больше включаются в интеллектуальный потенциал общества. Это требует общения между человеком и ма­шиной. Перевод с естественного языка на язык маши­ны – не тривиальная задача. Она решается творческими методами. То же относится и к обратному переводу. Полноценное решение этих задач машинами возможно лишь при снабжении их искусственным интеллектом. Аналогичным образом обстоит дело и с машинным реферированием, построением информационно-поиско­вых систем. Некоторые результаты в этих направлениях получены посредством «доинтеллектуальных» систем, но искусственный интеллект должен обеспечить каче­ственно новый уровень решения этих задач.

Но дело не только в этом. Естественные языки не являются формальными системами, и речевые выска­зывания не подчиняются каким-либо жестким правилам (даже вероятностным). Следовательно, механизация лингвистических функций предполагает либо предвари­тельную приближенную формализацию принципиально неформализуемых сложных динамических систем, либо способность технических информационных машин рабо­тать с предварительно неформализованными системами. Это означает, что решение лингвистических проблем ки­бернетики, создание лингвистических автоматов пред­ставляют собой полигон для испытания различных методов конструирования искусственного интеллекта.

А что вы думаете о современном положении дел с ИИ ? Смогут ли обычные программы превратиться в нечто большее, в более опасные и неконтролируемые системы, которые будут опережать мозговую деятельность человека? Или такое бывает только в фантастических фильмах? Напишите своё мнение в комментариях.

Комментарии: