Скайнет и пропаганда: глава лаборатории машинного интеллекта «Яндекса» развеивает страхи про ИИ и нейросети

МЕНЮ


Искусственный интеллект
Поиск
Регистрация на сайте
Помощь проекту

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости

Новостная лента форума ailab.ru


Почему «Судный день» вряд ли случится скоро, а люди не потеряют работу.

«Терминатор 3: Восстание машин» Paramount Pictures

31 октября празднуют Хэллоуин, а в России выходит «Терминатор: Тёмные судьбы». В канун Дня всех святых принято пугать людей, а ключевая тема франшизы — ИИ, вышедший из-под контроля и поработивший человечество.

Редакция TJ составила список «страшилок» о нейросетях и искусственном интеллекте, а руководитель лаборатории машинного интеллекта «Яндекса» Александр Крайнов рассказал, насколько они соответствуют реальности.

ИИ отдадут часть управления оружием и он использует его против людей

Я не специалист в вооружении, но сильно удивлюсь, если технологии ИИ не работают там давно. Это могут быть вспомогательные системы вроде компьютерного зрения или идентификации объектов. В будущем могут появиться беспилотные танки.

При этом на Земле и так много ядерного оружия и нет полной уверенности в адекватности людей, принимающих решения. Поэтому ИИ в армии кажется не самой большой опасностью.

Вооружение на основе технологий ИИ на самом деле существует уже сейчас. В России такие разработки показывали концерны «Калашников», «Высокоточные комплексы» и «Техмаш». Их опытные образцы могут самостоятельно уничтожать цели, но итоговое решение пока всё равно принимает оператор-человек.

Разные страны, включая США и Россию постепенно внедряют искусственный интеллект в оборонные системы. Разрабатывающие их специалисты специально выстраивают ограничения, которые позволят избежать угрозы для человека, хотя с этической точки зрения это сложная задача.

ИИ станет инструментом пропаганды политических сил. Нейросети начнут создавать контент для влияния на людей

Могут. И наверняка генерируют. Происходит одновременное развитие и алгоритмов, которые генерируют и алгоритмов, которые распознают сгенерированное. Я не знаю, что происходит на поле пропаганды, но вот в задачах SEO ИИ уже давно создаёт контент. И в отзывах у нас такая же история. И в политике, наверное.

Но в любом случае, на мнение людей влияют люди. Нейросети, как и другие инструменты, — это просто средство.

Вашингтонский университет и Институт искусственного интеллекта Аллена создали нейросеть для написания фейковых новостей, чтобы бороться с фейковыми новостями. По мнению авторов проекта, лучший детектор ложной информации можно получить только благодаря генератору фейков.

Решением проблемы фейковых новостей может стать создание независимой организации, которая будет следить за информацией и отсеивать пропаганду и фальшивки. Пример подобной борьбы уже существует — «Глобальный интернет-форум по борьбе с терроризмом» борется против пропаганды, распространяемой террористами.

В будущем мы не сможем отличить человека от ИИ во время разговора и роботы смогут внушить определённую точку зрения

Между задачей для бота — например, вызвать такси и задачей внушить что-либо лежит пропасть. Хотя, возможно, дойдёт и до манипуляций роботами. Но мне кажется, что если тобой может манипулировать робот, то это серьёзный повод задуматься о своём развитии.

В штате Миннесота небольшой колонией мух руководит нейросеть. Система даёт им питание, определяя их потребности по поведению, а жизнь насекомых зависит от способности электронного мозга распознать муху. Например, если нейросеть ошибётся, то муха останется голодной и может умереть.

В ходе эксперимента ИИ учится классифицировать поведение насекомых и выявлять алгоритм, чтобы предсказывать их действия. Пока нейросеть иногда ошибается и мухам приходится страдать от голода и жажды, а ИИ действует по правилам, заложенным инженерам. Но люди не насекомые, поэтому опасаться манипуляций от ИИ не стоит. Тем более, до нужного уровня самостоятельности нейросетям пока ещё далеко.

С помощью ИИ можно будет создавать цифровые копии людей, чтобы общаться с ними после смерти как в «Чёрном зеркале»

Такое в обозримом будущем не очень реально. Стилизация — задача решаемая, но тут ведь не просто стилизация нужна, а мысли, жизнь, поведение. На это ИИ не способен. То есть создать «дубликат» всё же можно, но он не будет полноценной копией человека.

Как минимум три стартапа работают над технологиями сохранения личности человека в цифровой форме. После смерти Романа Мазуренко основатель стартапа Replika Евгения Куйда попросила друзей и близких погибшего загрузить сообщения в нейросеть и создала чат-бота, который напоминал Романа.

Компания Eter9 разрабатывает социальную сеть на базе технологий искусственного интеллекта, которая постоянно обучается у пользователя и со временем создаёт его виртуальный дубликат. Предполагается, что копия сможет жить и после смерти пользователя.

Аналогичную цель преследует стартап Eterni.me. Однако он собирает уже опубликованные записи человека в соцсетях и создаёт имитацию личности в приложении. При этом ни одной из компаний не удалось создать полноценную копию живого человека, ведь мозг пока повторить невозможно — ИИ слишком рационален.

С помощью нейросетей и биохимии можно будет накачать «мозгом» что угодно, как в эпизоде про йогурт в Love, Death & Robots

Вот это как раз правда. Мы проводим эксперимент с йогуртом, который уже второй год стоит в тепле. Пару месяцев назад он изобрёл колесо, а сейчас уже пытается заигрывать с Алисой. Может, они и договорятся. До угрозы захвата власти ещё далеко, но мы продолжаем наблюдения.

Мозг — одна из самых сложных известных людям структур во вселенной и пока учёным не удавалось полноценно воспроизвести его в лаборатории. В 2019 году исследователи из Великобритании после многих лет вырастили один из самых сложных миниатюрных мозгов и он даже начал присоединять себя к соседним тканям, однако ему далеко до полноценного интеллекта.

Кроме того, встроить нейросеть в органические материалы в данный момент невозможно. Нейросети в компьютерах — примитивные модели, принимающей решения и внедрить их в биологические тела не получится. Можно попытаться создать нейронные связи и запустить на них эту систему, но эти связи должны быть из определённых тканей и с определённой структурой. Поэтому взять тот же йогурт и пустить по нему ток, чтобы «оживить» — не получится.

Беспилотные машины будут защищать человека внутри ценой человека снаружи. А самоуправление машины можно будет взломать

ИИ в беспилотниках не занимается вопросами защиты чьей-либо жизни. Он просто старается минимизировать вероятность аварии, столкновения. Задача, которую решают создатели беспилотников — в разы или даже на порядки снизить количество ДТП. Как по мне, так это очень этично.

Я не знаю, как взломать беспилотник. Это очень сложная система. И как и с любой сложной системой, его проще не взломать, а сломать.

Некоторые автомобили уже давно управляются с помощью сенсоров, а не механики. Например, в Сhevrolet Volt руль и колёса не связаны напрямую — всё управляется компьютером. И так как у машины есть удалённый контроль, её можно взломать.

В 2014 году хакеры Чарли Миллер и Крис Валашек смогли только с помощью своих ноутбуков по беспроводной связи соединиться с ехавшим автомобилем и отключить у него тормоза. Такая опасность существует, поэтому безопасность должна быть приоритетом — компьютеры в автомобилях уже давно, просто сейчас становятся умнее и теперь управляют тормозом, газом и направлением движения.

ИИ уже предсказывает увольнения, а в будущем начнёт проводить роботизированные собеседования или подбирать собутыльников на корпоратив

Поведение человека перед увольнением довольно характерно, так что нет ничего удивительного в том, что это получается предсказывать.

А чем плохи роботизированные собеседования? Можно считать, что это просто тест, который помогает и кандидату, и собеседующему экономить время и нервы. Да и в целом, если в полной мере заработают системы, которые помогут каждому найти такую работу, где он будет максимально эффективен и где ему будет интересно — я только за.

А что касается подбора собутыльников и не только… Вот назовите мне хоть одну причину, по которой дейтинговые ресурсы не должны применять машинное обучение? Так что автоматический подбор уже происходит.

В 2018 году консальтинговая компания Deloitte включила роботизацию и ИИ в список главных трендов на рынке управления персоналом. По данным аналитиков, 93% времени рекрутёров уходит на типовые задачи, а 65% поддаются автоматизации.

При этом если примеры использования ИИ в отборе кандидатов широко известны, то об адаптации или увольнении сотрудников такого сказать пока нельзя. Вряд ли в ближайшее время управление персоналом можно будет автоматизировать полностью, но доля ИИ в этой сфере будет расти.

ИИ лишит работы миллионы людей — водителей, консультантов, журналистов, уборщиков и не только

Думаю, что всё будет развиваться не быстро, и те, кто работает по этим специальностям, так и доработают. Но спрос будет мигрировать в другие области, и молодёжь просто будет выбирать другие профессии.

Технологии искусственного интеллекта лучше всего справляются с рутинными задачами, но не превосходят человека в эмпатии, суждениях, отношениях и жизненном опыте. Многие путают искусственный интеллект с искусственным сознанием, но на самом деле ИИ хорош в решении проблем, но не способен сопереживать.

Поэтому нейросети вряд ли сможет полностью лишить нас работы. Скорее, наоборот, он создаст больше карьерных возможностей: чем больше машин и устройств с ИИ будет появляться, тем больше понадобится людей, которые будут им помогать.

Боту для текстов всегда будет нужен редактор или более опытный автор, а ИИ, отвечающему за подбор кадров — консультант, который будет ему в этом помогать. Но даже если искусственному интеллекту передадут ряд обязанностей, работодателям придётся выявить у сотрудников навыки, которые помогут им работать в условиях автоматизации.

Из-за развития рынка ИИ появится неравенство: богатые смогут использовать больше возможностей технологии, а бедным оставят скудные базовые функции

Ну нет. ИИ как раз хорош своей масштабируемостью. А значит, и отсутствием эксклюзива. То есть чем больше в чём-либо ИИ и меньше человека, тем доступнее это будет. Например, когда все такси станут беспилотными, они станут намного более доступными. А такси с водителем-человеком будет дорогой экзотической услугой.

Доступность технологий для населения конкретной страны обычно зависит от уровня ее экономического развития. Например, в 2018 году интернетом пользовались 3,9 миллиарда человек или 51,2% населения планеты. То есть, доступность сети с каждым годом растёт, а развитые страны находятся в лидерах списка.

При этом в развитых странах мира доля жителей, пользующихся интернетом, выросла до 80,9% (в 2005 году было 51,3%), в развивающихся — до 45,3% (было 7,7%). В странах СНГ средний уровень проникновения интернета достиг отметки 71,3%.

Сейчас интернет — часть повседневной жизни, а технологии искусственного интеллекта и нейросети активно используются в приложениях вроде FaceApp. ИИ станет таким же доступным как и интернет — это лишь вопрос времени.


Источник: tjournal.ru

Комментарии: