PydanticAI: фреймворк для создания AI-агентов на основе Pydantic

PydanticAI (https://github.com/pydantic/pydantic-ai) - фреймворк для Python, созданный командой разработчиков Pydantic, который упрощает создание приложений с использованием LLM. Фреймворк имеет простой и интуитивно понятный интерфейс для взаимодействия с LLMs, поддерживающими Async OpenAI (Ollama) и openAI API (ChatGPT, Gemini и Groq), с поддержкой Anthropic в ближайшем будущем.

Основная особенность PydanticAI - система внедрения зависимостей, которая передает данные, соединения и логику в целевую модель. Она упрощает тестирование и оценку агентов и позволяет динамически формировать системные промпты и определять инструменты, доступные LLM.

PydanticAI имеет возможность потоковой обработки ответов с валидацией структурированных данных, позволяя контролировать корректность соответствие данных ожидаемому ответу, тем самым повышая эффективность и интерактивность приложений.

Для отладки и мониторинга работы агентов предусмотрена интеграция с Pydantic Logfire (https://pydantic.dev/logfire), с которым можно отслеживать запросы к базам данных, анализировать поведение модели и оценивать производительность.

В документации к проекту (https://ai.pydantic.dev/) доступны примеры применения PydanticAI в сценариях:

Построение Pydantic-модели на основе текстового ввода (https://ai.pydantic.dev/examples/pydantic-model/);

Погодный агент (https://ai.pydantic.dev/examples/weather-agent/);

Агент поддержки клиентов банка (https://ai.pydantic.dev/examples/bank-support/);

Генерация SQL-запросов на основе пользовательского ввода (https://ai.pydantic.dev/examples/sql-gen/);

RAG-поиск по массиву markdown-документам (https://ai.pydantic.dev/examples/rag/);

Вывод результатов работы агента в терминале (https://ai.pydantic.dev/examples/stream-markdown/);

Пример проверки потокового структурированного ответа на примере информации о видах китов; (https://ai.pydantic.dev/examples/stream-whales/)

Простой чат-приложение (https://ai.pydantic.dev/examples/chat-app/).

PydanticAI находится на ранней стадии бета-тестирования.

Установка и простой пример "Hello Word" с Gemini-1.5-flash:

# Install via  PyPI  
 pip install pydantic-ai 
 
 # Set Gemini API key 
 
 export GEMINI_API_KEY=your-api-key 
 
 # Run example 
 
 from pydantic_ai import Agent 
 
 agent = Agent( 
 
  'gemini-1.5-flash', 
 
  system_prompt='Be concise, reply with one sentence.', 
 
 ) 
 
 result = agent.run_sync('Where does "hello world" come from?') 
 
 print(result.data) 
 
 """ 
 
 The first known use of "hello, world" was in a 1974 textbook about the C programming language. 
 
 """

Лицензирование: MIT License.

Документация (https://ai.pydantic.dev/)

Demo (https://huggingface.co/spaces/freddyaboulton/pydantic-ai)

GitHub (https://github.com/pydantic/pydantic-ai)

Источник: github.com

Комментарии: