К основному содержанию
NovaLead

Как обучить нейросеть на своих данных: что делает RAG

Чем поиск по документам отличается от дообучения модели и как подготовить свои материалы для ответов ИИ.

Оглавление

Чтобы ассистент отвечал по вашему прайсу и правилам, ему нужны актуальные материалы. Один из способов использовать их при генерации ответа называется RAG: система находит подходящие фрагменты и передаёт их модели вместе с вопросом.

Загрузка документа в такую базу сама по себе не переобучает веса модели. Перед выбором решения разделите задачу: найти сведения, задать правила ответа или изменить поведение модели через обучение. Для них нужны разные способы подготовки и проверки.

Fine-tuning и RAG: в чём разница

Fine-tuning, или дообучение, изменяет параметры модели на подготовленных примерах. Его применимость, объём данных и стоимость зависят от задачи и выбранной модели. Общего обязательного числа примеров или одинаковой цены для всех проектов нет.

RAG добавляет к генерации поиск материалов. В прикладном сценарии прайс или регламент можно обновлять в источнике знаний без дообучения модели ради каждого изменения. При этом документ нужно обработать, связать с нужным агентом и проверить его использование.

Сочетание генерации и внешнего поиска описано в исследовании Retrieval-Augmented Generation. Результаты исследования не являются обещанием точности или экономии для конкретного внедрения NovaLead.

Как работает RAG в простых словах

Сначала система извлекает текст и готовит фрагменты для поиска. Для векторного поиска создаётся числовое представление текста. По вопросу клиента находятся кандидаты, из которых формируется контекст ответа.

Размер фрагмента и число результатов зависят от реализации и настроек. Не переносите в свой проект общий норматив из статьи. Короткий фрагмент может потерять важное условие, а длинный включить несколько разных правил. Проверяйте, что нашлось по нужному вопросу.

Какие документы подходят для базы знаний

Начните с материалов, по которым сотрудник действительно отвечает клиенту. Укажите владельца сведений и дату проверки. Для одной услуги не оставляйте несколько противоречащих прайсов без понятного выбора действующей версии.

  • Прайс вместе с составом услуги и условиями изменения суммы.
  • Адреса, рабочие часы и порядок записи.
  • Ответы на повторяющиеся вопросы с существенными ограничениями.
  • Утверждённые условия оплаты, переноса и отмены.
  • Правила передачи вопроса сотруднику, если точного ответа нет.

Какие материалы исключить

В клиентскую базу знаний включайте сведения, которые ассистенту разрешено использовать в ответах. Не загружайте архив целиком только ради полноты.

  • Секреты доступа, внутренние финансовые расчёты и материалы, не предназначенные для клиентского ответа.
  • Частную переписку и персональные сведения без отдельной проверки необходимости и допустимого использования.
  • Устаревшие версии с противоречащими условиями.
  • Сканы, из которых не удалось извлечь читаемый текст: сначала проверьте обработку файла.

Качество источника и качество ответа

Даже верный документ не гарантирует правильный ответ. Система может не найти нужный фрагмент, выбрать другой источник или неверно применить условие. Проверяйте документ, найденный материал и итоговый текст по отдельности.

Если цена зависит от варианта услуги, сохраните это условие рядом с суммой. Не превращайте «от» в фиксированную стоимость. Для неизвестного вопроса заранее определите путь уточнения или передачи человеку и проверьте его в разговоре.

Что делать при выдуманном ответе

Сохраните проблемный вопрос и ожидаемый ответ из действующего источника. Затем выясните, обработан ли документ, доступен ли он нужному агенту и находится ли нужное условие. Только после этого меняйте текст инструкции или способ подготовки материала.

  • Исправьте неверное условие или удалите конфликтующую версию.
  • При плохом поиске уточните название и разделение материала, сохранив связанные условия вместе.
  • Если источника нет, проверьте уточнение вопроса или передачу оператору.
  • Повторите исходный вопрос, близкие формулировки и вопрос, которого в материалах нет.

Дождитесь обработки документа

В NovaLead загрузка файла и готовность к поиску являются разными этапами. Проверьте статус обработки и контрольный вопрос после обновления. Сохранение файла не подтверждает, что его содержание уже используется.

Что читать дальше

Пошаговую работу с материалами продолжите по инструкции базы знаний. Для выбора способа автоматизации сравните RAG и сценарного бота.

Правила поведения оформите по руководству для ИИ-ассистента. Перед рабочим запуском пройдите контрольные диалоги, не ограничиваясь вопросом, для которого только что исправили источник.

ИИ-агент

Смотреть в NovaLead