Чтобы ассистент отвечал по вашему прайсу и правилам, ему нужны актуальные материалы. Один из способов использовать их при генерации ответа называется RAG: система находит подходящие фрагменты и передаёт их модели вместе с вопросом.
Загрузка документа в такую базу сама по себе не переобучает веса модели. Перед выбором решения разделите задачу: найти сведения, задать правила ответа или изменить поведение модели через обучение. Для них нужны разные способы подготовки и проверки.
Fine-tuning и RAG: в чём разница
Fine-tuning, или дообучение, изменяет параметры модели на подготовленных примерах. Его применимость, объём данных и стоимость зависят от задачи и выбранной модели. Общего обязательного числа примеров или одинаковой цены для всех проектов нет.
RAG добавляет к генерации поиск материалов. В прикладном сценарии прайс или регламент можно обновлять в источнике знаний без дообучения модели ради каждого изменения. При этом документ нужно обработать, связать с нужным агентом и проверить его использование.
Сочетание генерации и внешнего поиска описано в исследовании Retrieval-Augmented Generation. Результаты исследования не являются обещанием точности или экономии для конкретного внедрения NovaLead.
Как работает RAG в простых словах
Сначала система извлекает текст и готовит фрагменты для поиска. Для векторного поиска создаётся числовое представление текста. По вопросу клиента находятся кандидаты, из которых формируется контекст ответа.
Размер фрагмента и число результатов зависят от реализации и настроек. Не переносите в свой проект общий норматив из статьи. Короткий фрагмент может потерять важное условие, а длинный включить несколько разных правил. Проверяйте, что нашлось по нужному вопросу.
Какие документы подходят для базы знаний
Начните с материалов, по которым сотрудник действительно отвечает клиенту. Укажите владельца сведений и дату проверки. Для одной услуги не оставляйте несколько противоречащих прайсов без понятного выбора действующей версии.
- Прайс вместе с составом услуги и условиями изменения суммы.
- Адреса, рабочие часы и порядок записи.
- Ответы на повторяющиеся вопросы с существенными ограничениями.
- Утверждённые условия оплаты, переноса и отмены.
- Правила передачи вопроса сотруднику, если точного ответа нет.
Какие материалы исключить
В клиентскую базу знаний включайте сведения, которые ассистенту разрешено использовать в ответах. Не загружайте архив целиком только ради полноты.
- Секреты доступа, внутренние финансовые расчёты и материалы, не предназначенные для клиентского ответа.
- Частную переписку и персональные сведения без отдельной проверки необходимости и допустимого использования.
- Устаревшие версии с противоречащими условиями.
- Сканы, из которых не удалось извлечь читаемый текст: сначала проверьте обработку файла.
Качество источника и качество ответа
Даже верный документ не гарантирует правильный ответ. Система может не найти нужный фрагмент, выбрать другой источник или неверно применить условие. Проверяйте документ, найденный материал и итоговый текст по отдельности.
Если цена зависит от варианта услуги, сохраните это условие рядом с суммой. Не превращайте «от» в фиксированную стоимость. Для неизвестного вопроса заранее определите путь уточнения или передачи человеку и проверьте его в разговоре.
Что делать при выдуманном ответе
Сохраните проблемный вопрос и ожидаемый ответ из действующего источника. Затем выясните, обработан ли документ, доступен ли он нужному агенту и находится ли нужное условие. Только после этого меняйте текст инструкции или способ подготовки материала.
- Исправьте неверное условие или удалите конфликтующую версию.
- При плохом поиске уточните название и разделение материала, сохранив связанные условия вместе.
- Если источника нет, проверьте уточнение вопроса или передачу оператору.
- Повторите исходный вопрос, близкие формулировки и вопрос, которого в материалах нет.
Дождитесь обработки документа
В NovaLead загрузка файла и готовность к поиску являются разными этапами. Проверьте статус обработки и контрольный вопрос после обновления. Сохранение файла не подтверждает, что его содержание уже используется.
Что читать дальше
Пошаговую работу с материалами продолжите по инструкции базы знаний. Для выбора способа автоматизации сравните RAG и сценарного бота.
Правила поведения оформите по руководству для ИИ-ассистента. Перед рабочим запуском пройдите контрольные диалоги, не ограничиваясь вопросом, для которого только что исправили источник.