Блог
19 июня, 2026
Когда дообученных, квантованных и дистиллированных моделей становится несколько, без версионирования, автоматического гейта перед выкладкой и возможности мгновенного отката легко потерять…
18 июня, 2026
Когда даже квантованная модель слишком тяжёлая или медленная для целевого железа, помогает дистилляция — перенос знаний большой модели-учителя в модель…
17 июня, 2026
Дообученная модель весит 15-30 ГБ в fp16 — это дорого по видеопамяти и медленно на слабом железе. Разбираем три формата…
16 июня, 2026
Как понять, действительно ли дообученная модель стала лучше базовой, а не просто кажется такой на трёх примерах: золотой набор тестов,…
15 июня, 2026
Собираем полный RAG-пайплайн на связке LangChain, Qdrant и открытой модели: загрузка документов, чанкинг, эмбеддинги, поиск и генерация ответа со ссылками…
12 июня, 2026
Сравниваем три популярные векторные базы для RAG-систем — Qdrant, Chroma и Weaviate — и разворачиваем каждую в докере на своём…
11 июня, 2026
Разбираем разницу между RAG и дообучением на конкретных критериях: актуальность данных, стоимость, задержка ответа, риск галлюцинаций — и когда имеет…
10 июня, 2026
Полный пример дообучения открытой модели на своих данных от начала до конца: подготовка окружения на srv-gpu01, конфиг accelerate, запуск обучения…
9 июня, 2026
Как дообучить модель на 7-13 миллиардов параметров на одной-двух видеокартах: разбираем LoRA и QLoRA на практике — от установки peft…
8 июня, 2026
Разбираемся, как собрать, разметить и подготовить датасет для дообучения LLM: форматы JSONL, инструменты разметки, дедупликация и валидация перед запуском обучения…