Поиск по документам компании с ИИ
Внедряем поиск по договорам, инструкциям, проектам и внутренним файлам. Сотрудник получает ответ со ссылками на источники; доступ к данным учитывает его права.
- Ответы с источниками
- Поиск по внутренним файлам
- Доступ по ролям
Нужные сведения без обхода папок и коллег
Где согласована отсрочка по договору? Какая инструкция действует для этой операции? Что обещали клиенту по проекту? Подключаем внутренние документы к поиску, который понимает вопрос сотрудника и показывает источник ответа.
Задача внедрения — подготовить документы, права и обновление данных, дать команде удобный интерфейс и проверить ответы на рабочих вопросах. Модель и сервер обеспечивают эту работу.
Что получает команда
Один поиск по согласованным источникам
Договоры, инструкции, проекты и файлы. Состав источников и формат загрузки фиксируем в проекте.
Ответ, который можно проверить
Ссылки на документы и фрагменты, выделение неполных данных и возможность перейти к оригиналу.
Знания в рамках прав
Сотрудник видит только разрешённые материалы. Проверяем разделение доступа и обновление прав.
Обновляемую базу
Настраиваем загрузку новых редакций, удаление устаревших данных и контроль качества поиска.
Что такое RAG
RAG — способ подготовить ответ с опорой на найденные документы. Это не обучение модели на всех файлах компании. Качество зависит от доступности, структуры и актуальности источников, поэтому их подготовка входит в проект.
Модели для локального развёртывания
| Модель | Назначение | Лицензия |
|---|---|---|
| Qwen3.8-27B | 27B · текст и изображения | Apache-2.0 |
| DeepSeek V4 Flash 0731 | MoE · сложные задачи | MIT |
| GLM-5.3-Flash | MoE · мультимодальные агенты | MIT |
| Kimi K2.7 Code | Код · работа с инструментами | Modified MIT |
| Gemma 4 12B | 12B · мультимодальные задачи | Apache-2.0 |
| gpt-oss-120b | Рассуждения · открытые веса | Apache-2.0 |
| GigaChat 3.1 Lightning | 10B-A1.8B · русский язык | MIT |
| YandexGPT 5 Lite 8B | 8B · русский язык | YandexGPT 5 Lite License |
Модель — часть работающей системы
Инференс и поиск
Используем совместимый с выбранными весами runtime: vLLM, SGLang или llama.cpp. Проверяем tool calling, шаблон диалога, квантование и работу с нужным контекстом. Для RAG добавляем извлечение текста, локальные embeddings, гибридный поиск и переранжирование. Ответ сопровождается ссылками на исходные документы.
Проверка перед запуском
Фиксируем набор вопросов заказчика, правильные ответы, допустимые задержки и число одновременных пользователей. Проверяем разграничение доступа, отсутствие внешних вызовов в закрытом режиме, журналирование и обновление индекса. Наличие открытых весов не означает одинаковые лицензионные условия для всех моделей.
Официальные модели
- Qwen3.8-27B — 27B · текст и изображения.
- DeepSeek V4 Flash 0731 — MoE · сложные задачи.
- GLM-5.3-Flash — MoE · мультимодальные агенты.
- Kimi K2.7 Code — Код · работа с инструментами.
- Gemma 4 12B — 12B · мультимодальные задачи.
- gpt-oss-120b — Рассуждения · открытые веса.
- GigaChat 3.1 Lightning — 10B-A1.8B · русский язык.
- YandexGPT 5 Lite 8B — 8B · русский язык.
Обсудим ваш рабочий процесс
Расскажите, кто выполняет задачу, какие документы и программы использует и какой результат нужен. Определим состав разработки, интеграций и запуска.