LLMNLPFrontend

Minyut – встраиваемый чатбот на основе RAG за один тег скрипта

·MAGMA

Проблема точности ответов

Стандартные чатботы отвечают на вопросы исходя из своих обучающих данных. Это хорошо работает для общих знаний, но становится проблемой при работе со специализированными документами вроде юридических актов или технических спецификаций. Чатбот может «придумать» ответ, который не соответствует действительности.

Решение проблемы

Решение заключается в использовании подхода под названием Retrieval-Augmented Generation (RAG), когда ответы формируются исключительно на основании загруженных документов. При запросе пользователя:

  • Вопрос преобразуется в векторное представление.
  • Извлекаются релевантные фрагменты документа.
  • Только эти фрагменты отправляются языковой модели.
  • Если ответ отсутствует в документах, бот честно сообщает об этом пользователю.

Таким образом, качество ответа напрямую зависит от качества извлечённых фрагментов и их соответствия запросу.

Архитектура Minyut

Minyut построен вокруг одного ключевого принципа: каждый ответ должен исходить только из предоставленного контента либо бот говорит "не знаю". Этот подход позволяет избежать вымышленных ответов и обеспечивает высокую точность обработки запросов.

Сегодня Minyut используется на различных платформах, включая сайты на Webflow, WordPress, Shopify, а также приложения на React и обычные HTML страницы. Документы хранятся в базе данных Supabase, расположенной в регионе Мумбаи, что обеспечивает быструю обработку запросов. Интеграция осуществляется всего лишь одним скриптом, установка занимает менее десяти минут.

Вернуться к блогу
Встраиваемый RAG-чатбот Minyut за один тег скрипта — MAGMA