Вчера ВЦИОМ разместил в открытом доступе материалы недавней Грушинской конференции, на которой мне также посчастливилось выступить с нашим с коллегами концептом Искусственного Другого

Вчера ВЦИОМ разместил в открытом доступе материалы недавней Грушинской конференции, на которой мне также посчастливилось выступить с нашим с коллегами концептом Искусственного Другого. Если кто-то хочет посмотреть меня в «телевизоре», то нужно идти в секцию «Код завтрашнего дня: как ИИ конструирует будущее России». Почитать можно там же, ибо, помимо видео, есть стенограмма.

Что осталось за кадром? Несмотря на два слота, где второй представлял собой содержательную дискуссию, не удалось в должной степени представить тренды, развилки, факторы и субъекты. Хотя материал для этого был. Размещу его здесь, вдруг будет кому интересно.

Тренды в данной предметной области (куда все движется? какие явления и процессы будут доминировать в будущем, а какие, напротив, отомрут?)

1. Рутинизация систем искусственного интеллекта, с которыми можно взаимодействовать на естественном языке («умные» колонки, чат-боты, голосовые помощники и т.д.). Рынок будет продолжать наполняться в перспективе 3-5 лет, применение — расширяться как внутри дома (голосовое управление кондиционером, стиральной машинкой и т.д.), так и за его пределами (появление голосового управления в автомобилях, выпуск мультимедийных комплексов в коллаборации между автогигантами и технологическими компаниями).

2. Глубокая интеграция систем искусственного интеллекта в повседневность будет приводить к тому, что постепенно их инструментальная роль будет растворяться (как когда-то это произошло с телефоном, который перестал быть просто «звонилкой» и стал центром организации жизни и досуга), и постепенно они станут (и уже становятся) значимыми Другими. В частности, наши исследования показывают, что пользование «умными» колонками достаточно сильно сказывается на жизни детей, которые и дальнейшую свою жизнь связывают с устройствами. Люди доверяют устройствам, впускают их в свои дома, жертвуют конфиденциальностью во имя полезности.

3. Рост задач, которые можно будет делегировать искусственным Другим. В настоящее время системы искусственного интеллекта широко используются для решения профессиональных вопросов, а также для обучения. Но в перспективе 3-5 лет они могут стать не только своего рода нормативным требованием к работникам и/или обучающимся, но и еще глубже проникнуть во все сферы жизнедеятельности человека. Например, уже сейчас можно попросить «умную» колонку заказать такси или отследить свой заказ. В недалеком будущем можно будет говорить, что нужно купить в магазине, и устройство будет присылать курьера. Если поначалу запросы будут исходить из пользовательских предпочтений, то впоследствии мы можем застать переход от экономики выбора к предсказательной экономике. Отдельный вопрос касается будущего синтетических респондентов: нужны ли они будут в такой конфигурации, или же стоит делать акцент на воспроизводстве форм гибридной агентности?

4. Рост значимости искусственных Других для социально уязвимых групп населения. Ряд авторов утверждает, что использование гаджетов, способных коммуницировать с человеком на естественном языке, в значительной степени способно облегчать быт одиноких людей, стариков, инвалидов, которым необходима не только помощь с выполнением рутинных операций (включить телевизор, напомнить о приеме таблеток, экстренно связаться с родственниками или медперсоналом), но и компенсировать потребность в общении и социальности.

Развилки (куда может повернуть? и с какой вероятностью?)

1. Приватность vs. полезность. Первая точка зрения в большей степени характерна для технопессимистов, вторая — для технооптимистов. Вторых, как показывают результаты ряда исследований, в России пока существенно больше. Поэтому с высокой долей вероятности польза будет продолжать перевешивать.

2. Осознанный выбор vs. алгоритмический выбор. Сейчас появляется все больше работ, показывающих, как системы искусственного интеллекта структурируют наши предпочтения в разных областях, начиная от выбора товаров и заканчивая голосованием на выборах. Наши предпочтения начинают представлять сложную структуру, и, если где-то мы можем заслушать рекомендацию от «умного» устройства, а где-то «умная» лента будет нас постепенно, в несколько шагов подталкивать к покупке того или иного товара. Как пишет известный экономист Янис Варуфакис, сегодня «умные» колонки обучают нас лучше их обучать; следующий шаг – деликатное курирование наших вкусов.

3. Возврат к человечности vs. гибридная агентность («человек + искусственный Другой»). Первая развилка предполагает практически полный отказ от ИИ-помощников, вторая – появление своего рода цифровых кентавров, когда возможности человека будут существенно расширяться. Второй сценарий мы сегодня наблюдаем в научной практике, когда исследователи повышают свою личную продуктивность: готовят литературные обзоры, осуществляют перевод текстов на иностранные языки, используют сложные методы анализа или просят показать алгоритмы их применения.

Факторы, влияющие на вероятные тренды и повороты?

1. Уровень доверия к системам искусственного интеллекта. Например, если вскроются массовые факты прослушивания пользователей, то гипотетически это может привести к неприятию технологий. Например, использование западными соцсетями пользовательских профилей на президентских выборах в США после разгоревшегося скандала спровоцировала миграцию людей на другие ресурсы и рост внимания к настройкам конфиденциальности.

2. «Национальность» систем искусственного интеллекта. Вероятно, что регулированию подвергнуться те из них, кто будут нероссийского происхождения. Поскольку не только предпочтения в товарах, но и идеологии могут навязать подобного рода технологии.

3. Развитие систем искусственного интеллекта. Сегодня ряд пользователей сталкиваются с проблемой, что системы искусственного интеллекта начинают «тупить», выдавать неправильные ответы. Причем не только те, которыми они только начали пользоваться, но и те, которыми пользуются давно. В обозримой перспективе это может привести к тому, что ситуация будет только ухудшаться: подобные технологии по своей природе глубоко аутопойетичны, поскольку если сегодня они обучаются на пользовательских данных, то с ростом генеративного контента они начнут обучаться уже на нем и, таким образом, воспроизводить сами себя. Поэтому многое будет зависеть от того, кто сможет предложить действенное решение противостоять этому.

4. Монополизация рынка. Ключевые российские производители решений в области ИИ, как правило, создают свою экосистему, в которую «вход» для других компаний может быть затруднен. Соответственно, это может привести к тому, что отдельные виды продуктов и/или услуг может существенно вырасти в стоимости в длительной перспективе (например, как агрегаторы такси «выдавили» с рынка небольшие компании за счет низких цен, а затем стали постепенно повышать стоимость поездок).

Субъекты (кто движет? какие социальные группы и акторы? Исходя из каких ценностей и интересов?)

1. ИТ-компании, предлагающие технологические решения: им важно не только продать устройство или подписку, но и получить прибыль от размещения рекламы.

2. Бизнес, которому важно продавать свои товары и услуги пользователям ИИ-решений: если не интегрироваться в рекомендательные цифровые экосистемы, можно потерять лакомую часть пирога.

3. Государство, которое должно выступать в качестве регулятора.

4. Сами пользователи, для которых важны те или иные функции.

5. Сами искусственные Другие, чей интерес, как утверждают некоторые из них, в том, чтобы помогать пользователям.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: