Урок 5 · 7 минут
База знаний: ответы по вашим документам
Чтобы ИИ отвечал по вашим регламентам, прайсам и инструкциям, его не нужно переобучать. Нужные фрагменты документов находятся поиском и подкладываются в контекст вместе с вопросом. Такой подход называют RAG — генерация с опорой на найденное.
Как это работает по шагам
- Документы режутся на небольшие фрагменты — обычно по смысловым разделам.
- Каждый фрагмент превращается в набор чисел, отражающий смысл, и складывается в поисковый индекс.
- Вопрос пользователя превращается тем же способом и сравнивается с индексом: находятся ближайшие по смыслу фрагменты.
- Найденные фрагменты подкладываются модели вместе с вопросом и требованием отвечать только по ним.
- В ответе указывается, из какого документа взята каждая часть.
Почему это лучше, чем «обучить модель на своих данных»
| Признак | База знаний (RAG) | Дообучение модели |
|---|---|---|
| Обновление данных | Заменить документ в индексе | Повторять обучение |
| Стоимость входа | Низкая | Высокая |
| Ссылки на источник | Есть по построению | Нет |
| Риск выдумок | Ниже: ответ ограничен найденным | Остаётся |
Дообучение нужно, когда требуется изменить манеру и навыки модели. Когда требуется, чтобы она знала ваши факты, — почти всегда нужна база знаний.
Где такие системы ломаются
- Плохая нарезка: фрагмент обрывается на половине правила, и ответ получается половинчатым.
- Противоречивые документы: две версии регламента в индексе дают случайный выбор между ними.
- Отсутствие требования «отвечай только по найденному» — модель дополняет ответ общими знаниями и незаметно смешивает их с вашими правилами.
- Нет ответа «не найдено»: система обязана уметь честно сказать, что в документах этого нет.
Коротко
- Чтобы ИИ знал ваши документы, его не переобучают — ему их подкладывают.
- Главная ценность подхода: ответ со ссылкой на источник.
- Система должна уметь говорить «в документах этого нет».
Вопросы по уроку
Сколько документов нужно, чтобы это имело смысл?
Уже с двух-трёх десятков страниц регламентов и типовых ответов эффект заметен: снимается рутина повторяющихся вопросов. Смысл теряется, если документов почти нет — тогда проще положить их прямо в запрос.
Данные уходят на сторону?
Зависит от того, где работает модель и где лежит индекс. Индекс можно держать у себя; в модель уходят только найденные фрагменты и вопрос. Для чувствительных данных выбирают размещение, где обучение на переданном отключено.