Блог
AI-агенты

AI-агент с базой знаний - когда нужен RAG

Когда бизнесу нужен AI-агент с базой знаний, как работает RAG, какие документы подготовить и где оставить ручную проверку.

AI-агент с базой знаний нужен, когда бизнес хочет получать ответы по своим документам, правилам и примерам, а не просто по общим знаниям модели. Такой агент читает вопрос, находит нужные фрагменты в материалах и собирает ответ в рамках заданных ограничений.

RAG имеет смысл там, где обычного промпта уже мало. Если условия, регламенты, тарифы, инструкции или документы часто влияют на ответ, агенту нужен источник правды. Без него модель может звучать уверенно, но брать формулировки из воздуха.

Когда база знаний правда нужна

База знаний нужна не каждому боту и не каждой автоматизации. Если сценарий состоит из кнопок, заявок, уведомлений и записи в CRM, чаще достаточно обычного бота или backend-логики. AI здесь может только добавить задержку, стоимость и лишний риск.

Другой случай - свободные вопросы клиентов, консультации, внутренние инструкции, обучение менеджеров, документы проекта, юридические шаблоны, сложные услуги или поддержка с большим количеством исключений. В таких задачах человек спрашивает по-разному, а ответ должен держаться на одних и тех же правилах.

Хороший сигнал для AI-агента - менеджер каждый день ищет ответ в файлах, чатах, таблицах и старых сообщениях. Если этот поиск повторяется, его можно вынести в контур, где агент сначала поднимает нужный контекст, а потом отвечает.

Как работает RAG в рабочем контуре

В нормальном маршруте агент не держит все документы внутри одного промпта. Он получает вопрос, ищет подходящие фрагменты в базе, добавляет их в контекст и только после этого формирует ответ.

Такой подход помогает не раздувать промпт и не заставлять модель угадывать. Но RAG сам по себе не делает ответ правильным. Если в базе лежит старый прайс, противоречивые правила или черновики, агент может достать именно их.

Поэтому RAG стоит воспринимать как способ доставки контекста, а не как гарантию истины. Качество зависит от документов, разметки, правил отбора, запретов, логов и ручной приемки спорных ответов.

Какие документы подготовить

На старте не нужно собирать идеальную библиотеку компании за все годы. Лучше выбрать один процесс и собрать материалы только под него.

Для первой версии обычно хватает такого набора.

МатериалЗачем нужен агенту
Описание услуги или продуктапонимать, что можно предлагать и как это объяснять
FAQ с реальными вопросамивидеть живые формулировки клиентов
Правила и ограниченияне обещать лишнего и передавать спорные случаи человеку
Примеры хороших ответовдержать тон и структуру
Примеры плохих ответовзнать, чего избегать
Актуальные цены и срокине брать данные из старых сообщений
Маршрут передачи человекупонимать, когда остановиться

Если нужна короткая подготовка перед проектом, рядом есть гайд база знаний для AI-агента. В статье я разбираю логику запуска шире, а в гайде удобно держать список материалов, которые можно передать разработчику.

Как привести материалы в порядок

Самая частая проблема не в модели, а в документах. В папку складывают презентации, старые КП, выгрузки из чатов, черновики, договоры, разные версии прайса и внутренние заметки. Формально база есть, но агенту не из чего взять чистый ответ.

Перед загрузкой лучше разделить материалы по темам. Один файл - одна зона знаний. Например, оплата, возврат, тарифы, гарантия, запись, ошибки, передача менеджеру, ограничения по услуге.

Внутри файла полезно писать короткими блоками. Сначала правило, потом пример вопроса, потом правильный ответ или действие. Если правило устарело, его нужно удалить или явно пометить как архив. Нельзя оставлять две версии одного условия рядом и надеяться, что агент выберет нужную.

Отдельно стоит убрать секреты, токены, персональные данные клиентов, приватные переписки и юридически спорные обещания. Агенту не нужен полный внутренний хаос компании. Ему нужен проверенный источник, по которому можно отвечать без риска.

Где оставить человека в проверке

AI-агент не должен сам принимать дорогие, юридические или необратимые решения без контроля. Даже если он уверенно нашел фрагмент в базе, спорные случаи лучше отдавать человеку.

Это можно описать обычными правилами.

  • если вопрос связан с ценой, которой нет в базе, агент не придумывает сумму
  • если клиент просит исключение, агент передает диалог менеджеру
  • если документы противоречат друг другу, агент пишет, что нужна ручная проверка
  • если вопрос касается персональных данных, агент не выводит лишнюю информацию
  • если уверенность низкая, агент показывает найденные фрагменты человеку

В кейсе ИИ-юрист ценность была не в свободной болтовне, а в алгоритме проверки условий и сборке КП по правилам. Для базы знаний логика похожая - агент должен работать внутри рамок, а не заменять ответственность человека красивым текстом.

Первый безопасный запуск

Лучший первый этап - один канал, одна тема, одна база и понятный лог ответов. Например, агент отвечает менеджеру по внутренним правилам, помогает готовить черновики писем или подсказывает операторам ответы по продукту.

Так проще увидеть реальную пользу. Сколько вопросов он закрывает сам. Где не хватает документов. Какие формулировки звучат плохо. Какие ответы нужно запретить. Какие темы лучше вынести в отдельные файлы.

В проекте Маркус память и контекст работают потому, что у агента есть понятная роль - превращать голосовой поток в расписание, помнить договоренности и помогать с задачами. Для бизнес-агента принцип тот же. Сначала роль и границы, потом база и действия.

После первых диалогов базу знаний лучше не переписывать целиком. Достаточно добавлять недостающие правила, хорошие примеры и новые запреты в нужные разделы. Так качество растет не хаотично, а через конкретные ошибки.

Как принять готового агента

Приемка должна проверять не демо на одном красивом вопросе, а разные типы входов. Нужны простые вопросы, спорные вопросы, длинные сообщения, просьбы нарушить правило, устаревшая информация и ситуации, где агент обязан передать диалог человеку.

Минимальный чеклист такой.

  1. Агент отвечает по актуальным документам.
  2. Агент не использует старые условия.
  3. Агент умеет сказать, что данных не хватает.
  4. Агент показывает или логирует источник ответа.
  5. Агент передает спорный случай человеку.
  6. Агент не раскрывает секреты и персональные данные.
  7. Агент сохраняет понятный тон и структуру.

Если эти пункты не проверены, рано говорить, что база знаний работает. Возможно, демо выглядит хорошо, но рабочий процесс еще не готов к живым клиентам.

Что обсудить перед разработкой

Перед стартом стоит ответить на несколько вопросов. Где лежат документы. Кто отвечает за актуальность. Какие темы входят в первый запуск. Что агенту запрещено обещать. Где нужен менеджер. Нужно ли хранить историю диалогов. Какие ответы считаются ошибкой.

Такой разбор экономит время на разработке. Он сразу показывает, нужен ли полноценный RAG, хватит ли простой базы FAQ, нужен ли backend, логирование, CRM или отдельная админка для обновления документов.

Если уже есть документы и нужно понять, что из них можно превратить в рабочую базу знаний, можно написать мне. Я разложу первый контур по источникам, рискам, проверке ответов и минимальному запуску без лишней архитектуры.

Короткий вывод

AI-агент с базой знаний полезен там, где бизнесу нужно отвечать по своим правилам, документам и примерам. RAG помогает поднимать нужный контекст, но не заменяет порядок в документах и ручную приемку спорных случаев.

Начинать лучше с узкого процесса. Один тип вопросов, одна чистая база, понятные запреты, лог ответов и человек на спорных местах. После этого агент можно расширять без ощущения, что вся компания теперь держится на одном длинном промпте.

Ещё статьи

Можно разобрать вашу задачу так же предметно

Напишите, что сейчас делается руками, где теряются заявки или где нужен бот. Я предложу первый рабочий этап без лишней сложности.