Как развернуть свой собственный ChatGPT, только лучше

Зачем?

Во-первых, регистрация на оригинальном ChatGPT включает в себя верификацию номера телефона и Российские номера не принимаются. Для этого нужно либо иметь в своём распоряжении иностранную симку, либо воспользоваться сервисом-посредником - номер будет "ваш" на время, достаточное, чтобы получить СМС и ввести код.

Проблемы могут появиться в случае, если случайным образом при очередной попытке входа в аккаунт сервер решит ещё раз верифицировать ваш номер телефона. Но доступа к нему у вас уже нет, скорее всего, придётся заводить новый аккаунт.

Во-вторых, бесплатная версия не включает в себя доступ к языковой модели GPT-4 -  самой современной и продвинутой модели от OpenAI. Платная версия снимает эти ограничения. Это подписка ChatGPT Plus за $20 в месяц, однако оплатить её с помощью карты Российского банка тоже не получится. И снова нужен посредник.

В-третьих, интерфейс ChatGPT не менялся уже почти год, в то время как сторонние решения предоставляют набор полезных и удобных инструментов уже сейчас. Более того, исходный код всего проекта открыт, значит, вы можете и сами добавлять новый функционал!

Как?

OpenAI API в России

Какое бы решение для frontend мы ни выбрали, все они в любом случае будут общаться с официальным OpenAI API. Получение доступа к API в России будет связано с теми же сложностями, которые я описал выше для собственно ChatGPT. Чтобы не тратить время на все эти обходные манёвры, мы заведём аккаунт у Российского посредника, который предоставляет доступ к OpenAI API в России - ProxyAPI.

Регистрируем аккаунт, создаём ключ API и пополняем баланс. Попробуем послать запрос, чтобы убедиться, что всё работает:

curl https://api.proxyapi.ru/openai/v1/chat/completions      -H "Content-Type: application/json"      -H "Authorization: Bearer xxxx"      -d '{         "model": "gpt-3.5-turbo",         "messages": [{"role": "user", "content": "Скажи "привет""}],         "temperature": 0.7     }'

xxxx надо заменить на свой ключ API от ProxyAPI.

Я получил ответ:

{     "id": "chatcmpl-xxxxxxxxxxxxxxxx",     "object": "chat.completion",     "created": 1695798511,     "model": "gpt-3.5-turbo-0613",     "choices": [         {             "index": 0,             "message": {                 "role": "assistant",                 "content": "Привет! Как я могу помочь вам сегодня?"             },             "finish_reason": "stop"         }     ],     "usage": {         "prompt_tokens": 17,         "completion_tokens": 20,         "total_tokens": 37     } }

Отлично, всё работает!

Интерфейс

Мы не будем писать UI для чат-бота с нуля, благо готовых opensource решений более чем достаточно.

Какой выбрать, зависит от личных предпочтений и технологий, которыми вы владеете в случае, если предполагается дальнейшая разработка проекта. Я перечислю несколько.

https://github.com/Azure/openai-at-scale

Официальное решение от Azure (считай Microsoft). Очень многое завязано на собственно сервисы Azure, так что рекомендовано к использованию тем, для кого это имеет значение. Проект выпущен недавно, регулярно обновляется, но комьюнити разработчиков, судя по всему, его проигнорировало. По состоянию на конец сентября 2023 репозиторий имеет всего 47 звёзд и 28 форков.

https://github.com/WongSaang/chatgpt-ui

Достойный вариант, дублирован весь основной функционал оригинального ChatGPT, есть поддержка разных языков. Код разделён на фронт и бэк, Nuxt и Django соответственно. Если хочется бэк именно на Python или удобнее работать с Vue на фронте, тогда это решение - ваш выбор.

Мне же больше всего по душе пришёлся проект:

https://github.com/mckaywrigley/chatbot-ui

Во-первых, мне не хочется разделять бэк и фронт, заботиться об установке разных сред и следить за обновлениями и поддержкой двух систем. Chatbot UI - это next.js приложение, так что проблема решена.

Во-вторых, мне нравятся дополнительные возможности, которые проект изначально включает в себя: библиотека промптов, возможность сортировать чаты по папкам.

Установка

Будем устанавливать Chatbot UI локально.

Сначала скопируем репозиторий:

git clone https://github.com/mckaywrigley/chatbot-ui.git

Установим зависимости:

npm i

Настроим переменные окружения в файле .env.local (предварительно его надо создать в корневой папке проекта):

OPENAI_API_KEY=PROXYAPI_API_KEY OPENAI_API_HOST=https://api.proxyapi.ru/openai

PROXYAPI_API_KEY надо заменить на ваш ключ API от ProxyAPI.

В OPENAI_API_HOST мы заменяем путь к вызовам API с оригинального OpenAI на ProxyAPI.

Запускаем приложение:

npm run dev

Вот и всё! Это было просто :)

Теперь проверим работу чат-бота. Спрошу какие самые распространённые имена в России:

Теперь у вас есть свой личный ChatGPT с доступом к GPT-4. Мы избежали сложностей с регистрацией и оплатой аккаунта OpenAI, получили в своём чат-боте дополнительный функционал и весь процесс занял не более 10 минут. Надеюсь, статья была многим полезна!