Multi1: Имитация GPT-o1-подобных цепочек рассуждений с локальными и онлайн LLM

multi1 — это экспериментальный проект, вдохновленный моделью o1 от OpenAI, который позволяет использовать различные языковые модели: локальные (через ollama) и онлайн (Perplexity и Groq) через единый веб-интерфейс.

Цель проекта — изучение возможностей повышения способности языковых моделей к логическому мышлению путём применения стратегий промптинга.

Архитектура multi1 основана на использовании цепочек рассуждений, реализующих принцип динамической "Цепочки Мыслей" (Chain of Thought).

В отличие от o1, multi1 визуализирует все этапы рассуждений, предоставляя пользователю доступ к каждому шагу и позволяя наблюдать за логикой.

Тестирование показало, что multi1 способен решать простые логические задачи, которые обычно вызывают затруднения у LLM, с точностью 60-80%.

Например, multi1 достигает точности ~70% в популярном запросе "Сколько букв 'R' в слове 'strawberry'?" (n=10). Для сравнения, Llama-3.1-70b без промтинга показала 0% точности, а ChatGPT-4o - 30%.

Установка и запуск:

# Set up the environment:  
 python3 -m venv venv 
 
 source venv/bin/activate 
 
 pip3 install -r requirements.txt 
 
 # Copy the example environment file: 
 
 cp example.env .env 
 
 # Edit the .env file with your API keys / models preferences 
 
 # Run the streamlit UI interface 
 
 streamlit run app/main.py

Лицензирование : MIT License.

Github (https://github.com/tcsenpai/multi1)

Источник: github.com

Комментарии: