Open AI, создавшая знаменитые нейросети ChatGPT, позиционирует себя как инноваторов, которые хотят сделать человечеству лишь лучше

Open AI, создавшая знаменитые нейросети ChatGPT, позиционирует себя как инноваторов, которые хотят сделать человечеству лишь лучше. Однако эта некогда некоммерческа фирма все больше и больше начинает страдать от раздувшегося эго и лицемерия.

OpenAI ставит перед собой цель разработать «безопасный и полезный» сильный искусственный интеллект, который организация определяет как «высокоавтономные системы, превосходящие человека в выполнении наиболее экономически ценной работы». Изначально созданная как некоммерческая организация, OpenAI на сегодня один из крупнейших игроков на коммерческом рынке ИИ, который тесно связан с крупнейшими американскими IT-гигантами. Сама по себе эта связь не была бы проблемой, если бы не некоторые особенности OpenAI

1) OpenAI насрать на чужие авторские права

Как многим, наверное, известно - генеративные нейросети обучаются на массивах данных. В частности, знаменитые нейросети GPT от OpenAI обучаются на публикуемом в сети контенте. Хотя этот контент и защищён авторскими правами, OpenAI уже неоднократно ловили на том, что кампания вкрысу использовала для обучения нейросети материалы, на которые у неё нет разрешения. Прикол тут в том, что нейросеть часто не выдумывает ответ сама, использует готовые куски текста/изображения/аудио для создания нового. Иногда это переработанные фрагменты, но иногда тупо цитирование без ссылок на источники.

И вот многие авторы, на чьих произведениях учат нейросети, возмущены тем, что а) это нарушает их авторские права, б) OpenAI не скрывает, что ей глубоко насрать на то, что некоторые творческие профессии уже страдают от их нейросетей, причем обученных забесплатно на матеиалах самих жертв.

На днях вот техдир OpenAI Мира Мурати прямо высказала мнение фирмы о проблеме: "Вероятно, некоторые творческие профессии исчезнут, но что, если они изначально не должны были существовать?"

Хотя пророчить смерть творческих профессий из-за нейросетей пока преждевременно, так как нейросети там тоже имеют применение, все же само поведение OpenAI совершенно хамское. Фирма признает, что их коммерческий продукт создан на основе результатов труда тысяч других людей, забывает, что взят он забесплатно, и делает вид, что так как нейросети благо, то значит все они делают правильно.

/Кстати. Уже есть технологии, которые помогают "отравить" видео и картинки так, чтобы нейросеть не могла правильно распознать их. Появились такие решения именно из-за невозможности надёжно запретить использовать контент для обучения нейросетей. Если достаточно много людей начнут так делать, то это может серьёзно испортить датасет нейросети, увеличив долю мусорных результатов. /

2) Деньги не пахнут

Одна из базовых позиций OpenAI при создании было неприятие использования ИИ в военных целях и запрет на такую деятельность. Однако, когда многие игроки рынка начали заигрывать с Пентагоном, в публичных документах эти положения втихаря убрали. А в начале 2024 года вице-президент OpenAI по глобальным вопросам, Анна Маканджу, сообщила Bloomberg о начале сотрудничества с Пентагоном, отмечая, что в целом это соответствует миссии компании.

3) Деньги не пахнут х2

Такой резкий поворот в настроениях судя по всему вызван коммерческими интересами. Со слов сооснователя OpenAI Илона Маска именно вопрос коммерциализации ИИ привел его к ссоре с основателем фирмы - Сэмом Альтманом.

Кроме того, в прошлом году, во время эпопеи с попыткой уволить Альтмана, один из инициатором процесса - Илья Суцкевер - утверждал, что именно желание войти на коммерческий рынок стало поворотным в судьбе OpenAI и заставило фирму отказаться от основополагающих целей. Следует понимать, что хотя в самой OpenAI до сих пор утверждают, что они полностью независимы от инвесторов, именно позиция их крупнейшего донора Microsoft позволила Альтману вернуться в фирму. Да и периодические новости о том, что в фирму то генерал бывший устроится (на днях вот туда АНБшника взяли), то кто-то из работников-инвесторов, позволяют утверждать, что OpenAI уже давно коммерческий подрядчик, а не независимый разработчик с альтруистической миссией.

4) Грёзы о ИИ

Альтман изначально утверждал, что ключевая задача OpenAI - создать безопасные ИИ технологии, которые не навредили бы человечеству. Однако от этого гуманизма сегодня мало что осталось. Кроме уже указанных выше эффектов от коммерциализации деятельности OpenAI, Сэм Альтман все чаще начал высказываться о том будущем, которое он хочет для человечества.

Так ещё в прошлом году нашумели его высказывания, что ИИ в будущем должны заменить "среднего человека" на работе. При этом что делать таким людям Альтман не поясняет, оставляя решение проблемы другим: «творческий потенциал человечества безграничен, и мы найдем новую работу. Мы найдем, чем заняться». Иронично, что говорит это миллионер у которого проблемы лишиться дохода нет.

Альтмана беспокоит, что ИИ могут использоваться для дезинформации и кибератак, однако в то же самое время он хочет создать сильный ИИ, который был бы гораздо умнее человека. Это его мечта. Суцеквер во время попытки уволить Альтмана, утверждал, что Альтман на самом деле убеждён в необходимости создания неограниченного никакими рамками ИИ. При этом публично Альтман признает необходимость некоторых рамок:

«Индустрия искусственного интеллекта может нанести значительный вред миру. Технология ИИ может пойти не по плану, это весьма возможный вариант, хочу открыто сказать об этом. И мы хотим работать с правительством, чтобы этого не произошло»

При этом все подобные заявления он начал делать после того скандала с отставкой. Так что выглядит все это как попытка исправить реноме и в то же время обосновать тесное сотрудничество с властями, в том числе в военной сфере.

В общем, если вы верите, что альтруисты из OpenAI просто хотят сделать мир лучше, то лучше относитесь к этому со скепсисом. Перед нами корпораты во главе с человеком одержимым созданием сильного ИИ любой ценой и готового продать его военным. Если вам, как и мне, кажется, что Сэм Альтман прикрываясь благом человечества создал Кибердайн, то ставьте лайк.

Источник: vk.com

Комментарии: