Новая версия операционной системы для устройств компании Apple получила встроенные технологии искусственного интеллекта на основе разработок OpenAI

Новая версия операционной системы для устройств компании Apple получила встроенные технологии искусственного интеллекта на основе разработок OpenAI. Это вызвало резко негативную реакцию самого известного в мире технологического бизнесмена Илона Маска. Наши коллеги из «Фонтанки» выяснили, есть ли из-за чего злиться и бояться ли простым пользователям айфонов.

Илон Маск пригрозил запретить своим сотрудникам пользоваться техникой Apple, если она использует технологии искусственного интеллекта, анонсированные в новых версиях операционных систем для планшетов, компьютеров и телефонов. Эксперты отрасли сразу заподозрили бизнесмена в ревности. Он и сам пытался состыковать свои продукты с OpenAI, но не срослось.

— Маск не успел забраться на волну хайпа GenAI, и теперь у него подгорает всякий раз, когда на этом рынке случается какой-то громкий релиз, — иронизирует Юрий Брюквин, глава «Рустелекома». — Если GenAI — это «пузырь», который рано или поздно лопнет с оглушительным треском, тогда и появится Илон на белом коне, во фраке с блестками и скажет что-то типа: «А я ведь всем вам говорил!»

Если отбросить шутки в сторону, здравое зерно в позиции Маска всё же есть.

— Он весьма не то что скептически, но осторожно относится к искусственному интеллекту. И на самом деле зачастую были ситуации, когда компании, даже тот же Apple, запрещали сотрудникам пользоваться сторонними какими-то приложениями для общения, потому что они им просто не доверяли, — говорит Денис Кусков, руководитель Telecom Daily. — Здесь, мне кажется, то же самое. Получается, что Илон Маск считает, что какие-то вещи в новой версии iOS могут спровоцировать утечку и пострадает его бизнес. Наверное, в таком контексте следует воспринимать его заявление.

При этом необходимо подчеркнуть, что проблема не в самом по себе искусственном интеллекте. В том или ином виде он давно присутствует в операционных системах и Apple, и Android, и Windows. Те же распознавание лиц, работа с изображениями, да даже голосовые помощники — это всё технологии искусственного интеллекта на разных стадиях его технологического развития.

А вот что теперь в телефонах будет по умолчанию подключен ChatGPT, а Siri будет использовать полученные пользовательские данные для обучения на всех айфонах в мире — это как раз и вызывает вопросы.

— Речь конкретно идет про так называемый генеративный ИИ, то есть про тот, который сам создает текст / изображения / видео, — объясняет Юрий Брюквин. — Принцип его работы — в постоянном получении новой информации, передаче в общий центр анализа, обработки и выработки решений для всё новых и новых задач. При таком подходе робот не разделяет информацию на секретную, чувствительную, вредную и пр., а просто использует всё что есть. А затем дает возможность всем обращающимся к нему клиентам пользоваться результатами такого анализа.

Таким образом, если вы, к примеру, загрузите каким-то образом — голосом, изображением или файлом с текстом — секретный рецепт пирожков своей бабушки, он строго формально немедленно станет общедоступным и может быть выдан пользователю на другом конце света, который попросит ChatGPT рассказать ему рецепт пирожков.

Это очень примитивное описание того, как работает генеративный искусственный интеллект. Принцип его обучения заключается в бесконечном переборе решений и поиске оптимального. В какой момент чувствительная для вас информация может показаться роботу полезной, и когда он ее обнародует и в каком виде — прогнозировать невозможно. Так что, в принципе, опасения перед ChatGPT не бессмысленны на 100%, однако в чем конкретно заключается опасность, можно лишь делать предположения.

— Опасения по поводу искусственного интеллекта скорее актуальны именно для бизнеса, чем для физлиц. Для обучения генеративного ИИ используются в том числе пользовательские запросы. Соответственно, если ты попросишь GenAI проанализировать или описать какие-то конфиденциальные корпоративные данные, то они могут попасть в базу данных и затем использоваться, в том числе для ответов на запросы других пользователей, — объясняет Юрий Брюквин.

— Чтобы возмутиться и начать протестовать и что-то бойкотировать, людям много не надо. Они сами себя накрутят и без искусственного интеллекта. И когда они где-то услышат, что AI анализирует их фотографии, где и при каких условиях они были сделаны и т. п., у людей начинает формироваться тревожное состояние, даже если они вообще никому не интересны ни в Купертино, ни где-то еще, — иронизирует Денис Кусков. — На мой взгляд, было бы логично, если бы Apple дал возможность пользователю выбрать, использовать искусственный интеллект для работы или не использовать, а не ставить его по умолчанию. Ведь у каждого свое личное мнение. Другой вопрос, кто даст гарантию, что если человек поставит галочку «нет», то его данные действительно не будут использоваться в каких-то подобных целях?

В целом же использование технологий искусственного интеллекта в разработке операционных систем имеет перспективы, уверены эксперты. Так, российские компании и учреждения уже массово начинают переходить на российские ОС, а в их развитии горизонты пока просто необозримы.

— Чисто теоретически это могут быть какие-то внутренние (отраслевые или специализированные) базы знаний, чтобы люди на местах могли простым запросом к GenAI выяснить какие-то ГОСТы, СНИПы, регламенты и проч., касающиеся их рабочего задания. Например, проектируют какой-нибудь ящик для ВПК — какая нормативка есть для него? И — вуаля! — не надо копаться в документах, — фантазирует Юрий Брюквин.

— Я бы прикручивал всё это, но с осторожностью. Понятно, возможности искусственного интеллекта обширны. То количество информации, которую он может обработать, не обработает ни один человек. С точки зрения получения информации для таких сетей это можно использовать, — рассуждает Денис Кусков.

При этом конкретно технология ChatGPT, которая появляется сейчас в айфонах, — это всё же очень далеко и от серьезного промышленного шпионажа, и от потенциального вреда, который может быть нанесен чувствительной корпоративной сети.

— Это маркетинг; один из способов отстройки от конкурентов. Например, Microsoft уже встроил ChatGPT в облачную платформу, и это позволило его облачному бизнесу расти быстрее конкурентов. В случае с Apple то же самое. Встроив GenAI в платформу, они тем самым подчеркивают свою эксклюзивность и инновационность, — уверен Юрий Брюквин.

— Мне кажется, что уже столько информации о нас вылезло в Сеть, а государство и так обладает почти всеми нашими данными, так что бояться еще и ChatGPT просто нет смысла, — резюмирует Денис Кусков.

Источник: vk.com

Комментарии: