3 июля, 2026
Мониторинг GPU и модели: nvidia-smi, DCGM, Grafana-дашборд для LLM
Строим мониторинг AI-сервера srv-ai01: DCGM Exporter, Prometheus, Grafana-дашборд для GPU и метрик inference, алерты на перегрев и нехватку видеопамяти.
Блог
2 июля, 2026
Резервное копирование и обновление офисного AI-сервера
Настраиваем регулярный бэкап Open WebUI, векторной базы и моделей на srv-ai01, а также безопасный процесс обновления стека без простоя для…
1 июля, 2026
SSO и интеграция AI-сервера с Active Directory и LDAP
Настраиваем вход в Open WebUI через Active Directory и LDAP на srv-dc01: единая учётная запись домена itpages.lab.local вместо отдельного пароля…
30 июня, 2026
Балансировка нагрузки между несколькими GPU-серверами с моделями
Настраиваем nginx upstream и очередь запросов между srv-ai01 и srv-ai02 для распределения нагрузки inference между несколькими GPU-серверами.
29 июня, 2026
Text Generation Inference (TGI) как альтернатива vLLM
Разворачиваем Text Generation Inference от Hugging Face на srv-ai01, сравниваем с vLLM по производительности и удобству, настраиваем quantization и streaming.
26 июня, 2026
vLLM: высокопроизводительный inference-сервер для команды
Разворачиваем vLLM на srv-ai01 как более быстрый inference-движок для Open WebUI: batching, PagedAttention, OpenAI-совместимый API и настройка под нагрузку команды.
25 июня, 2026
Подключение базы знаний компании к Open WebUI (RAG по документам)
Настраиваем Retrieval-Augmented Generation в Open WebUI на srv-ai01: индексация документов компании, векторная база, коллекции и типичные ошибки RAG.
24 июня, 2026
Многопользовательский Open WebUI: роли, лимиты, история чатов
Настраиваем Open WebUI на srv-ai01 для команды: роли admin/user, группы, лимиты на модели и хранение истории чатов в PostgreSQL.
23 июня, 2026
Ollama и Open WebUI в Docker Compose как единый сервис
Пошагово разворачиваем Ollama и Open WebUI на srv-ai01 через один docker-compose.yml: сети, volumes, GPU, автозапуск и первая загрузка модели.
22 июня, 2026
Архитектура корпоративного AI-сервера: из чего он состоит
Разбираем компоненты корпоративного AI-сервера на базе Ollama и Open WebUI: железо, сеть, хранилище моделей и место в инфраструктуре домена.