Перейти к содержимому
← Блог

Как научить нейросеть отвечать по вашим документам

  • 2 мин чтения
  • Команда Embedo

Запрос «как обучить нейросеть на своих данных» звучит логично, но чаще всего обучение не нужно. Чтобы нейросеть отвечала по вашим документам, её не переучивают. Ей дают документы в момент вопроса.

Почему обучение не подходит

Обучить или дообучить модель это отдельный проект. Он требует подготовленных данных, вычислительных ресурсов и специалистов. Есть и другие минусы:

  • Данные меняются. Цены обновились на прошлой неделе, а модель помнит старые.
  • Не гарантирует точность. Дообученная модель всё равно может выдумывать.
  • Нет источников. Нельзя показать, откуда модель взяла ответ.
  • Дорого пробовать. Каждый эксперимент стоит времени и денег.

Что делают вместо этого

Используют подход RAG: система ищет в документах нужные фрагменты и передаёт их модели вместе с вопросом. Модель отвечает по ним. Подробнее в статье что такое RAG простыми словами.

Плюсы:

  • обновил документ, и ответы обновились;
  • каждый ответ можно сопроводить источником;
  • можно запретить отвечать без опоры на материалы;
  • не нужны специалисты по машинному обучению.

Как это сделать на практике

  1. Соберите материалы. Страницы сайта, прайсы, регламенты, инструкции.
  2. Наведите порядок. Уберите устаревшие версии и противоречия.
  3. Загрузите в сервис. Многие сервисы принимают адрес сайта и файлы: PDF, Word, Excel, PowerPoint, текст и сканы с распознаванием.
  4. Задайте роль. Как ассистент представляется и в каком тоне отвечает.
  5. Проверьте на вопросах клиентов. Отметьте, где ответ неверный или отсутствует.
  6. Исправьте материалы и повторите.

Пошаговая инструкция целиком: как создать ИИ-ассистента для сайта.

Когда обучение всё-таки нужно

Дообучение оправдано, когда нужно изменить сам способ ответа модели: специфический стиль, узкий профессиональный язык, формат вывода. Для ответов на вопросы по фактам компании оно почти никогда не требуется.

Частая ошибка

Ждать, что после загрузки документов ассистент сразу знает всё. Он знает то, что написано. Если в материалах нет условий возврата, он их не придумает, и это правильно. Значит, работа сводится к тому, чтобы нужные тексты были написаны и актуальны: база знаний для ИИ.