Zawap
Назад

ALeeXSD @ALeeXSD

LiteLLM: Универсальный шлюз и прокси для 100+ LLM API с единым форматом вызова

GitHub

Открытый прокси-сервер для вызова OpenAI, Anthropic, Gemini, DeepSeek и локальных моделей через единый интерфейс с балансировкой и квотами.

Версия на другом языке:EN
LiteLLM — ведущее решение с открытым исходным кодом (более 25 000 звёзд на GitHub), позволяющее обращаться к сотне различных AI-провайдеров через унифицированный формат OpenAI API. Возможности LiteLLM - Единый контракт вызова: прозрачный перевод запросов между Claude, OpenAI, Bedrock, Mistral и Ollama. - Отказоустойчивость и Fallbacks: автоматическое переключение на резервную модель при получении ошибки 429 или сбое провайдера. - Управление расходами: встроенный…
litellmproxyllmopenaiload-balancer
0
Версии

Версии и история изменений ведутся в репозитории на GitHub.

Условия использования

MIT

Команда установки

pip install litellm

Версия

1.60.0

Комментарии · 0

Пока ничего нет

Войдите, чтобы участвовать