Назад
ALeeXSD @ALeeXSD
LiteLLM: Универсальный шлюз и прокси для 100+ LLM API с единым форматом вызова
GitHubОткрытый прокси-сервер для вызова OpenAI, Anthropic, Gemini, DeepSeek и локальных моделей через единый интерфейс с балансировкой и квотами.
Версия на другом языке:EN
LiteLLM — ведущее решение с открытым исходным кодом (более 25 000 звёзд на GitHub), позволяющее обращаться к сотне различных AI-провайдеров через унифицированный формат OpenAI API.
Возможности LiteLLM
- Единый контракт вызова: прозрачный перевод запросов между Claude, OpenAI, Bedrock, Mistral и Ollama.
- Отказоустойчивость и Fallbacks: автоматическое переключение на резервную модель при получении ошибки 429 или сбое провайдера.
- Управление расходами: встроенный…
litellmproxyllmopenaiload-balancer
Версии
Версии и история изменений ведутся в репозитории на GitHub.
Условия использования
MIT
Команда установки
pip install litellm
Версия
1.60.0
Комментарии · 0
Пока ничего нет
Войдите, чтобы участвовать