Услуга

Адаптация ИИ под документы и задачи компании

Настраиваем модель под терминологию, форматы ответов и типовые документы компании. Сначала проверяем, достаточно ли поиска и инструкций; дообучение применяем по результатам оценки.

  • LoRA / QLoRA / DoRA под ваш домен
  • Данные остаются в вашем контуре
  • Eval-набор и метрики до и после
  • Qwen3.8-27B, DeepSeek V4, Gemma 4 и другие модели
Состав работ

Что входит в дообучение

Аудит и eval-бейзлайн

Собираем целевые примеры, фиксируем базовую метрику и определяем, нужно ли дообучение вообще. Часто промптинг и RAG уже закрывают задачу - и мы честно об этом скажем.

Подготовка данных

Чистим и размечаем выборку из ваших документов и логов: от 100 примеров для классификации до 500-2000 для генеративных задач. Формируем train/validation, аугментируем при нехватке.

Выбор модели и метода

Выбираем поддерживаемую базовую модель и PEFT-метод после пробного обучения. Требования к памяти обучения отличаются от inference; для каждой архитектуры проверяем совместимость LoRA/QLoRA.

Дообучение на вашем железе

Unsloth для быстрого single-GPU обучения, Axolotl для multi-GPU. Ранг 16-32, learning rate с cosine schedule, early stopping по validation loss. Контроль переобучения.

Оценка результата

Сравниваем метрики до и после на отложенной выборке: точность, соблюдение формата, устойчивость к prompt-инъекциям. При падении качества - откат к предыдущей версии.

Выкладка и сопровождение

Версионируем LoRA-адаптеры, разворачиваем через vLLM с multi-LoRA serving. Обновляем при смене базовой модели, ротации данных или дрифте домена.

Выбор модели и проверка адаптации

Начинаем со сравнения Qwen3.8-27B, Gemma 4 12B и других открытых checkpoint на вашем наборе вопросов. Для русского языка рассматриваем GigaChat 3.1 Lightning и YandexGPT 5 Lite 8B Instruct. Крупные DeepSeek V4 Flash 0731 и GLM-5.3-Flash требуют отдельного бюджета обучения и совместимого инструментария.

LoRA/QLoRA применяем только при поддержке выбранной архитектуры и формата весов. Измеряем качество до и после обучения, проверяем переобучение, регрессии и последующее квантование. Требование «помещается для inference» не означает «помещается для fine-tuning».

Когда это нужно

Когда стоит дообучать

Доменная терминология

Модель путает термины, аббревиатуры и внутренние названия. Дообучение выравнивает словарь под вашу предметную область.

Стиль и формат ответов

Нужен единый тон, структура и шаблоны - под регламенты поддержки, юридические формулировки или корпоративный стандарт.

Узкие задачи

Классификация обращений, извлечение полей из документов, маршрутизация - где промптинг нестабилен и нужна гарантированная точность.

Экономия на контексте

Знания, зашитые в веса, экономят токены и ускоряют ответ по сравнению с длинным RAG-контекстом.

Формат вывода

JSON по схеме, SQL, код на внутреннем DSL - где модель должна выдавать строго структурированный результат без отклонений.

Снижение галлюцинаций

Дообученная на доменных данных модель реже выдумывает факты в знакомой предметной области чем базовый промптинг.

Стратегия

RAG или дообучение: не вместо, а вместе

Дообучение не заменяет RAG, а дополняет его. Факты и часто меняющиеся данные оставляем в RAG-поиске с цитированием источников. В веса зашиваем стиль, формат и устойчивые доменные знания.

Практический критерий: если данные обновляются чаще раза в месяц - RAG. Если терминология и стиль стабильны годами - дообучение.

Для большинства production-задач рабочая схема - гибрид: адаптированная модель + RAG над актуальными документами. Модель понимает домен и держит стиль, RAG даёт свежие факты с цитированием.

Сначала измеряем, потом дообучаем

Перед дообучением собираем eval-набор на ваших примерах и фиксируем базовую метрику. Часто хороший системный промпт и RAG уже закрывают задачу - тогда дообучение не нужно, и мы честно об этом скажем.

Процесс

Как мы работаем

  1. 01

    Аудит и eval-бейзлайн

    Собираем 50-200 целевых примеров, замеряем качество базовой модели. Определяем тип задачи (классификация / генерация / структурированный вывод) и необходимый объём данных.

  2. 02

    Подготовка датасета

    Чистим, дедуплицируем, размечаем. При нехватке данных - аугментация и синтетическая генерация через сильную модель. Формируем train/validation/test.

  3. 03

    Выбор стратегии дообучения

    Определяем метод: QLoRA для single-GPU, LoRA для средних бюджетов, DoRA для максимального качества. Подбираем ранг (16-32), learning rate, количество эпох.

  4. 04

    Дообучение и валидация

    Unsloth или Axolotl на вашем оборудовании. Мониторим train/validation loss, early stopping. При переобучении - снижаем ранг или эпохи.

  5. 05

    Выкладка и мониторинг

    Сравниваем метрики до/после на тестовой выборке. Версионируем адаптер, разворачиваем через vLLM multi-LoRA. Настраиваем мониторинг дрифта.

Каталог услуг

Другие услуги

Поиск по документам компании с ИИ Внедряем поиск по договорам, инструкциям, проектам и внутренним файлам. Сотрудник получает отве… ИИ для аналитических отчётов и обзоров Внедряем сбор сведений из согласованных источников и подготовку отчётов для руководителей и спе… Улучшение поиска и ответов по документам Разбираемся, почему корпоративный помощник не находит нужный документ или отвечает неточно. Про… Поиск связей между документами и проектами Внедряем поиск по связанным сведениям: контрагентам, договорам, проектам и документам. Использу…

Обсудим ваш рабочий процесс

Расскажите, кто выполняет задачу, какие документы и программы использует и какой результат нужен. Определим состав разработки, интеграций и запуска.

Обсудить внедрение