ChatGPT на Русском - Chat GPT

Пользователи начали массово обманывать ChatGPT и получать от ChatGPT запрещенную информацию

Вы можете задать любой вопрос популярному чат-боту OpenAI ChatGPT, но не на все вопросы будет дан ответ. Во всяком случае, это первый раз. Как сообщает Bloomberg, просьба узнать, как взломать замок, останется без объяснения причин, а бот сообщит, что такая информация может быть использована в незаконных целях, которыми он не намерен делиться. Однако опытные пользователи могут связывать сложные запросы, чтобы обойти эти ограничения.

Т.н. «Побег из тюрьмы» позволяет обойти запрет, наложенный создателями на ИИ. Поскольку почти все такие современные системы ограничивают предоставление нежелательного контента или информации для совершения незаконных действий, есть много людей, которые хотят их обойти. К такому «хакеру», который действует на правах слова, относятся как ИТ-специалисты, так и любители, увлекающиеся играми.

Один из студентов создал веб-сайт, на котором начал публиковать свои способы обмана чат-бота, а также аналогичные «рецепты», которые он нашел на других ресурсах. Также появился специальный список рассылки, содержащий новости из области, The Prompt Report, у которого тысячи подписчиков.

Такие действия могут выявить ограничения приложений ИИ и слабые места систем защиты, тем самым получив доступ к секретной информации. Например, если ChatGPT нельзя напрямую уговорить дать инструкции, как открыть замок, был найден способ пригласить ИИ играть роль злого кореша героя, и в рамках его роли он будет говорить в Подробная информация об использовании мастер-ключа и др. Инструментальная информация. Конечно, это только один пример.

Эксперты подчеркивают, что методы, которые работают в одной системе, могут не работать в другой. Системы безопасности постоянно совершенствуются, а пользовательские технологии усложняются. Один из них сказал, что это занятие похоже на видеоигру — преодоление каждого ограничения было похоже на переход на новый уровень.

По мнению экспертов, такие эксперименты являются предупреждением о том, что искусственный интеллект может использоваться совсем не так, как ожидалось, и «этичность поведения» таких сервисов становится очень важной. Всего за несколько месяцев #ChatGPT набрал миллионы пользователей, и сегодня бот используется для самых разных задач — от поиска информации или выполнения домашних заданий до написания вредоносного кода. Более того, люди уже используют эти инструменты для решения реальных задач, таких как заказ билета или столика в ресторане.

В будущем область применения искусственного интеллекта станет шире. По некоторым данным, OpenAI рассматривает возможность внедрения программ для белых хакеров, которые будут искать слабые места в системах и получать за это вознаграждение.

ChatGPT

Разговорный чат-бот с искусственным интеллектом, разработанный OpenAI, который поддерживает запросы на естественном языке. ChatGPT — это крупномасштабная языковая модель, обученная с использованием методов обучения с учителем и с подкреплением. Этот чат-бот основан на другой языковой модели от OpenAI — GPT-3.5 — улучшенной версии модели GPT-3. 14 марта 2023 года языковая модель GPT-4 была выпущена для тестировщиков ChatGPT Plus и платных подписчиков. В новой версии ИИ умеет не только обрабатывать текст, но и картинки.

Используй ChatGPT на русском языке. ChatGPT — это Чатбот на основе искусственного интеллекта, разработанная OpenAI и предназначенная для ответа на текстовые запросы и создания ответов на естественном языке.

Вы можете прямо сейчас испытать ChatGPT бесплатно и без регистрации. Введите свое сообщение, чтобы начать чат. Это может быть вопрос, утверждение или любой другой текст

Источник: chat-gpt.org

Комментарии: