OpenAI использовала труд сотрудников на аутсорсе за $2 в час, чтобы сделать ChatGPT менее «токсичным»

• Разработчики чат-ботов сталкиваются с проблемой: из-за того, что ИИ обучается на текстах в открытом доступе, он неизбежно в итоге может создавать расистские, сексистские и другие высказывания. «Очистить» эти данные вручную нельзя — даже команде из сотен человек потребовалось бы несколько лет, пишет Time.
• Поэтому разработчик чат-бота ChatGPT — компания OpenAI создала нейросеть, которая поможет находить «токсичные» высказывания и заранее отфильтровывать их.
• Чтобы получить такие метки, с ноября 2021 года OpenAI отправила десятки тысяч фрагментов текста аутсорсинговой фирме в Кении, выяснил Time. В этом разработчику помогала компания Sama из Сан-Франциско — она нанимает работников в Кении, Уганде и Индии для разметки данных для Google, Microsoft и других.
• По данным Time, который проанализировал внутренние документы обеих компаний и поговорил с сотрудниками, OpenAI подписала с Sama три контракта на общую сумму около $200 тысяч для разметки текстовых описаний домогательств, разжигания ненависти и насилия.
• Около трёх дюжин работников разделили на три команды. Они должны были прочитать и разметить от 150 до 250 отрывков текста за девятичасовую смену, рассказали сотрудники. При этом зарплаты составляли от $1,32 до $2 в час. В контрактах говорилось, что OpenAI будет платить Sama по $12,5 в час.
• Четверо сотрудников, с которыми поговорил Time, сказали, что такая работа их психически травмировала. И хотя они могли посещать «консультантов по здоровью», такие встречи были бесполезными. В результате Sama якобы отказалась от работы с OpenAI в начале 2022-го — на восемь месяцев раньше плана, пишет издание.
• Большинство работников перевели на другие низкооплачиваемые проекты, которые уже не включали месячный бонус за работу с таким контентом в $70, другие потеряли работу.
• Одна из причин расторжения контрактов, которую менеджеры якобы назвали сотрудникам, — расследование Time о том, как Sama наняла модераторов для Facebook*. Они должны были просматривать видео и изображения казней, жестокого обращения с детьми и другой подобный контент за $1,5 в час. В январе 2023-го Sama и вовсе заявила, что прекращает всю работу с Meta*.

Что ответили в OpenAI и Sama

• Представитель Sama, комментируя контракт с OpenAI, заявил, что работников просили размечать по 70 фрагментов текста за девятичасовую смену, а не 250. А зарплаты составляли от $1,46 до $3,74 в час после вычета налогов.
• Ставка в $12,5 в час, которая указывалась в контракте, включает все расходы компании: помимо зарплат, это расходы на инфраструктуру и льготы для персонала. При этом работники, работающие с шокирующим контентом, могли в любое время посещать «лицензированных психотерапевтов» индивидуально или в группе.
• В OpenAI подтвердили, что сотрудники Sama в Кении внесли свой вклад в создание инструмента для обнаружения токсичного контента, который в итоге добавили в ChatGPT. Но отметили, что не ставили никаких целей по производительности, а за выплаты и психическое здоровье сотрудников отвечала Sama.

Мы очень серьёзно относимся к психическому здоровью наших сотрудников и подрядчиков. Наши договорённости заключались в том, что [в Sama] предлагались оздоровительные программы и индивидуальные консультации, персонал мог отказаться от любой работы без штрафов и так далее.

представитель OpenAI

• Поскольку контракты были расторгнуты досрочно, OpenAI и Sama заявили, что сумма в $200 тысяч не была полностью выплачена. Разработчик ChatGPT заявил, что контракты стоили «около $150 тысяч в течение всего партнёрства».