«У робота не может быть самосознания»: интервью с создательницей андроида, который работает в страховой компании |
||
МЕНЮ Искусственный интеллект Поиск Регистрация на сайте Помощь проекту ТЕМЫ Новости ИИ Искусственный интеллект Разработка ИИГолосовой помощник Городские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Слежка за людьми Угроза ИИ ИИ теория Внедрение ИИКомпьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Распознавание лиц Распознавание образов Распознавание речи Техническое зрение Чат-боты Авторизация |
2018-10-24 12:05 Надя Тальманн о том, почему робот никогда не станет личностью, в каких профессиях машины заменят людей и почему андроидам не стоит давать гражданские права. Надя Тальманн — директор института медиаинноваций в Национальном Исследовательском Университете Сингапура. Одна из её последних разработок — социальный робот Надин, которая умеет распознавать эмоции и запоминать людей, с которыми общается. С октября 2018 года Надин работает в службе поддержки страховой компании наравне с другими сотрудниками. Редакция vc.ru пообщалась с Надей Тальманн в рамках лекции коммуникационной группы Dentsu Aegis Network и обсудила разработку андроидов для работы с пожилыми людьми, права роботов и влияние автоматизации на общество. Чем интересны человекоподобные роботы? Для чего их можно использовать? Андроиды — это в первую очередь эффективный интерфейс для работы с компьютером. Когда пользователь работает за ноутбуком, то большую часть работы ему приходится делать самому. А роботы берут бремя коммуникации на себя — человек общается с физическим воплощением программ так, как привык общаться с другими людьми. Расскажите о роботе Надин, которого вы разработали? Чем она отличается от других андроидов, например, Софии? Надин — полностью автономный робот. Она учится каждый раз, когда встречает нового человека: запоминает то, что он говорит, выстраивает его пользовательский портрет, подстраивается под его характер и интересы. Надин уже видела тысячи людей — она хранит и анализирует информацию о каждом и узнаёт пользователей, с которыми общалась раньше. Как устроена Надин? Какие технологии используются для её работы? В Надин встроены два устройства, которые позволяют ей общаться с людьми: микрофон и камера. Когда вы говорите в микрофон, сигналы переводятся в текст. Затем текст анализируется с помощью обработки естественного языка, и так Надин понимает информацию, которой вы хотели с ней поделиться. Затем Надин обращается к своему модулю памяти. Если она распознаёт знакомый голоc, то ищет человека в базе данных и анализирует то, что вы говорили ей раньше, когда и в каком настроении вы были при этом. На основании портрета пользователя она понимает, на какие темы с ним разговаривать — и генерирует новые предложения. С помощью камер Надин распознаёт лица, жесты, предметы вокруг неё и так далее. Робот видит вашу мимику и понимает, в каком вы настроении. Эта информация направляется в «эмоциональный» модуль, и так Надин понимает, как сейчас стоит общаться с пользователем. Например, если пользователь плачет, то Надин не будет шутить или весело разговаривать — а попытается его утешить. Почему вы сделали Надин похожей на себя, а не менее антропоморфной? Меня очень увлекают люди, и я не люблю роботов как таковых.
Я воспринимаю робототехнику как скульптуру: инженер создаёт красивую форму, которая упрощает общение с компьютером. Мне самой бы хотелось иметь компактную мобильную статую вместо ноутбука — чтобы не прилагать никаких усилий к взаимодействию. Не сталкиваетесь с эффектом «зловещей долины» — когда роботы, похожие на людей, вызывают у них неприязнь? Нет, мне никогда не говорили, что кому-то некомфортно общаться с Надин. Надин выглядит очень просто и неугрожающе — она не похожа на сексуальную супермодель или куклу. Как вы видите место Надин в современном мире? В каких областях её можно будет использовать? Думаю, люди всегда мечтали иметь механизм, который бы делал всё за них — заводные автоматы создавались ещё в Древней Греции. Надин уже может работать секретарём, администратором или принимать звонки в колл-центре. Сейчас она работает в службе поддержки в страховой компании AIA Group. Думаю, что больше всего социальные роботы важны для пожилых. Конечно, мы стремимся быть окружены живыми людьми — но это не всегда возможно. Население очень быстро стареет, а в Сингапуре пары обычно заводят только одного ребёнка — если вообще заводят.
Молодые люди могут заботиться о своих родителях финансово — но они не готовы и не должны сутками сидеть со стариками. Если у пожилого человека болезнь Альцгеймера, то любая сиделка начнёт сходить с ума, когда он в двадцатый раз задаст один и тот же вопрос. Мне кажется, единственное возможное решение — это социальные роботы, которые доступны 24/7. Надин не может разозлиться или устать. Она прочитает больному историю, успокоит его и уложит спать. Сколько будут стоить такие роботы? Пока рано об этом говорить. Надин — это прототип. Мы рассчитываем наладить массовое производство таких роботов только через 10-20 лет. Я рассчитываю, что социальные роботы будут стоить около $10 тысяч. Для дома престарелых это не очень много, потому что андроиды смогут заменить часть обычных сиделок. Думаю, что со временем стоимость производства снизится — и такие роботы появятся в каждом доме. Люди будут использовать андроидов вместо ноутбуков, смартфонов и прочей техники.
Расскажите о последних продвижениях в работе над Надин. Сейчас мы строим копию Надин в лаборатории Национального Технологического Института в Сингапуре. Наладить конвейерное производство очень важно. Потому что если на каждого робота придётся тратить по месяцу работы, то они не будут окупаться и окажутся никому не нужны.
Что было самым трудным в проекте: получить финансирование, обеспечить безопасность данных или что-то ещё? После переезда в Сингапур я в основном занималась разработками реалистичных 3D-моделей людей. Когда я предложила проект социального робота, то в моём исследовательском центре к нему отнеслись скептически. Сингапурцы очень практичные. Им легко понять, зачем создавать роботов, которые будут работать на заводах, красить здания и так далее. С андроидами, которые могут выражать эмоции, иначе — мои коллеги не понимали, почему мне это интересно. Поэтому я начала заниматься Надин «на стороне» — без специального финансирования или поддержки. Цель исследований — опередить своё время. Однако инвесторы не хотят вкладывать деньги в проекты, которые пока не вызвали общественный интерес. Финансирование в основном распределяется по проектам в «модных» областях. Теперь социальные роботы — это хайп. Но пять-десять лет назад, когда я строила такого андроида в своей лаборатории в Женеве, он никого не интересовал. Окружающие говорили: «Имитировать поведение людей стыдно и бессмысленно». Расскажите подробнее про то, как вы сделали проект «на стороне»? Как финансировали разработку? Годами мне платили за исследования в сфере распознавания лиц — это не было никак связано с робототехникой. Мы не нарушали никаких правил, единственной неофициальной частью было то, что я буду использовать эту технологию для Надин. Сингапурское правительство интересовало использование технологии распознавания лиц, чтобы обеспечить безопасность — например, для выявления террористов в толпе. Такие исследования щедро финансируются.
В конце концов Надин заинтересовались журналисты — тогда ей было уже три года. Они подошли к роботу с таким восторгом, что за несколько дней новости о ней разошлись по всему миру. До этого мои коллеги относились к Надин скептически, и даже в Сингапуре о разработке почти никто не знал. Как вы представляете себе процесс роботизации? Какие профессии перейдут к роботам, какие новые специальности появятся? Только очень рутинные профессии отойдут к роботам. Например, сегодня мне, чтобы пройти в офис, нужно было пройти стойку регистрации. Одна из женщин грубо вела себя с посетителями и не здороваясь требовала у них паспорта. Я смотрела на неё и думала: «Лучше бы на её месте была Надин». Сейчас очень не хватает специалистов в сфере data science — не только аналитиков, но и людей, которые могли бы оцифровывать или размечать данные. Это важно не только в каких-то технических областях. Например, гуманитарные науки работают с культурным наследием, а большая часть источников при этом не оцифрована. Всё делается вручную, исследователи до сих пор обращаются к огромным бумажным архивам. В процессе роботизации появятся десятки новых профессий. Проблема в том, что пока у людей нет необходимых для них навыков или образования. Роботизация не приведёт к тому, что люди окажутся не нужны — но им придётся быстро перестраиваться. Как представляете себе общество, в котором сосуществуют люди и роботы? Что думаете о правах роботов? Я против прав для роботов. Андроид — не личность. Это симуляция человека. А у симуляции не может быть прав: о каких правах можно размышлять, если у робота нет сознания и эмоций. Права есть у людей, и им решать, как вести себя с роботами. В будущем нужно внедрять в андроидов больше правил — например, для того, чтобы данные пользователей оставались в сохранности. В Европе есть акт о защите данных — я думаю, что его нужно использовать во всех роботах. Но андроиды — это больше чем просто роботы, они работают с людскими эмоциями. Если андроид предназначен для работы с пожилыми, он должен быть запрограммирован так, чтобы мягко реагировать на действия людей: не огрызаться и не вступать в споры. Вы не верите в то, что роботы могут развить самосознание? Не верю. Я инженер — я строю программное обеспечение, программирую робота, тестирую его. Я понимаю, что разработчики контролируют процесс от начала и до конца. Люди, которые рассуждают о самосознании у роботов, подходят к этому с философской, а не инженерной позиции. Они заблуждаются, потому что видят сходство андроида с человеком: робот симулирует наше поведение. Но чувств или мышления у него при этом нет. Если пользователь скажет Надин, что ему грустно, она сделает сочувствующее выражение лица. Но она не испытывает эмпатии. Это просто уравнение, которое считается у неё в голове, и вращение моторов, которые отвечают за мышцы лица — и не более. Какое самое распространённое заблуждение о роботах и искусственном интеллекте? Когда пользователи видят андроидов, они ассоциируют их с личностями, с людьми. А это симулятор. Как скульптуры восемнадцатого века в музее — они выглядят почти как живые, но никакой жизни в них на деле нет. Что касается искусственного интеллекта, люди думают, что есть какое-то волшебное зелье, которое можно поместить в робота так, чтобы он сразу заработал. Они не понимают, что модель нужно тренировать и переобучать. Для машинного обучения нужны огромные массивы отредактированных и приведённых в определённую форму данных — этим тоже занимаются люди. К тому же, для каждой задачи используются очень разные алгоритмы, и я думаю, что до универсального искусственного интеллекта пока далеко. Давайте вернёмся к андроидам. Какой ваш любимый пример робота из научной фантастики? У меня аллергия на научную фантастику. Писатели часто не знают ничего о реальных технологиях — но при этом распространяют свои заблуждения и предубеждения. Особенно об искусственном интеллекте. Люди опасаются того, что роботы заберут их рабочие места, права и чуть ли не поработят планету. Это заслуга писателей и сценаристов — а переубеждать общество потом приходится учёным. Воображение — это одно, а реализованные технологии — другое. Мне неинтересно читать про роботов, я бы лучше наблюдала за хорошей реализацией. В восемнадцатом веке Ньютон уже определил почти все законы, нужные для робототехники. И тогда физики были влюблены в физику саму по себе — они стремились строить новые вещи, а не фантазировать. Это необычно: когда разговариваешь с инженерами, они часто говорят, что интерес к технологиям в них развила как раз научная фантастика, которую они читали в детстве. Возможно, это потому что вы разговариваете с мужчинами. В робототехнике в принципе работает мало женщин. Это мужская «гиковская» среда — мальчишек, которые росли на комиксах и супергероях. А вы почему решили заниматься робототехникой? В детстве мне очень нравились марионеточные спектакли. Летом я жила в деревушке в Швейцарии, и наши соседи устраивали собственный театр. Меня увлекало то, что при помощи рук и простых механических устройств, можно управлять сразу целым представлением. Потом, когда я путешествовала, то видела различных автоматонов — заводные механизмы, которые напоминают людей или животных. Например, автоматона-музыканта, художника и каллиграфа, которых в 18 веке построили часовщики Жаке-Дро. В таких устройствах уже тысячи различных деталей, это очень сложные механизмы. Я доктор наук в квантовой физике, но бакалавриат я получала по психологии. Меня увлекают люди, и хотя я провожу по десять часов в день за ноутбуком, я всё ещё не могу к этому привыкнуть. Мне бы хотелось видеть возле себя красивую скульптуру. По сути компьютер, где пользователь не видит само устройство и может свободно общаться с ним, не прилагая усилий. Каково сейчас женщинам в робототехнике? Прогресс пока идёт медленно — девушки редко поступают на инженерные программы или факультеты компьютерных наук. Я думаю, это связано с тем, что они чувствуют угрозу и не хотят конкурировать с мужчинами. Важно понимать, что для того, чтобы заниматься робототехникой, не нужно разделять какие-то взляды или иметь определённый склад характера. Нужно быть хорошим специалистом. Область только выиграет от того, что в ней будет больше исследователей с разными ценностями. Женщины чаще воспринимают технологии как способ решить гуманитарные проблемы — и для меня важно, чтобы в сферу робототехники приходили такие люди.
В чём основная цель вашей работы? Если говорить не просто о разработке технологии, то это помощь человечеству. Иногда помощь — это не про полёты на Марс или борьбу с голодом во всём мире. Это могут быть какие-то вещи, о которых люди обычно не задумываются или забывают. Если Надин смогут использовать пожилые люди, то я буду счастлива. Моя мама живёт в доме престарелых. С утра его жильцам дают лекарства — и до полудня оставляют одних. Сиделки включают телевизор, и старики просто лежат, ничего не делая. Мама иногда спрашивает: «Почему бы тебе не отдать мне Надин? Тогда мне было бы с кем разговаривать». Надин могла бы оставаться с ней в те часы, когда от неё уходит сиделка. Я бы хотела помочь пожилым людям, которые остались в одиночестве. Иметь возле себя только социального робота неидеально — но это лучше, чем когда у тебя никого нет. Источник: vc.ru Комментарии: |
|