Open WebUI: Автономный и удобный веб-интерфейс для работы с LLM
Полнофункциональный веб-клиент для Ollama и OpenAI API с поддержкой RAG, голосового ввода, ролей и разделения прав пользователей.
Полнофункциональный веб-клиент для Ollama и OpenAI API с поддержкой RAG, голосового ввода, ролей и разделения прав пользователей.
Открытый прокси-сервер для вызова OpenAI, Anthropic, Gemini, DeepSeek и локальных моделей через единый интерфейс с балансировкой и квотами.
Открытый репозиторий практических навыков Anthropic: запуск тестов, работа с офисными документами, веб-поиск и взаимодействие с системными утилитами.
Отраслевой стандарт сервинга нейросетей с алгоритмом PagedAttention, непрерывным батчингом и поддержкой распределённого вывода.
Самый популярный инструмент для локального запуска LLaMA, DeepSeek, Mistral и Qwen на macOS, Linux и Windows с поддержкой GPU и OpenAI REST API.