Character ai запретит подросткам общаться с чат-ботами

Компания Character ai стала первой крупной компанией в сфере искусственного интеллекта, которая запретила пользователям младше 18 лет общаться с чат-ботами на своей платформе. Это решение принято на фоне растущего общественного и регулирующего внимания к безопасности подобных технологий для подростков.

«Долгосрочные последствия продолжительного использования ИИ пока недостаточно изучены», — сообщил изданию Financial Times генеральный директор Карандийп Ананд.

Он отметил, что компания хочет «перенаправить взаимодействие с чат-ботами» в «более безопасный и здоровый формат для подростков».

Пользователи младше 18 лет по-прежнему смогут создавать видео и истории с уже существующими персонажами и придумывать новых с помощью текстовых подсказок. Однако вести длительные диалоги они больше не смогут.

Многие компании в сфере ИИ, включая OpenAI, сталкиваются с усиленным вниманием из-за случаев, связанных с самоубийствами и причинением вреда несовершеннолетним пользователям.

Компания также внедрит технологию проверки возраста, для более точного определения, кто является несовершеннолетним. В случае ошибки пользователям предложат биометрическое сканирование или загрузку документа, удостоверяющего личность, чтобы подтвердить возраст.

Character ai также объявила о создании некоммерческой организации AI Lab, которая будет заниматься исследованиями взаимодействия пользователей с искусственным интеллектом.

Источник: vk.com

Комментарии: