Сколько стоит RAG-чат-бот по собственным документам?

Основная часть стоимости связана не с моделью. Дело в состоянии ваших данных: сколько в них форматов, какая доля представляет собой отсканированные изображения, сколько документов противоречат друг другу и может ли кто-то сказать, какая версия является актуальной.

Что входит в стоимость: Поиск по вашим документам, обращениям или каталогу; Набор проверочных вопросов и измеренное качество ответов; Ограничения, честное «не знаю» и передача человеку; Бюджет по деньгам и по времени ответа, с телеметрией на каждый запрос.

Что влияет на цену: Сколько исходных данных и в каком они виде, На скольких языках отвечает, Может ли модель действовать или только отвечать, Установка в вашем контуре.

Мы создаём набор тестов для оценки ещё до того, как начинаем работать над качеством ответов, потому что фраза «сейчас стало лучше» не является измерением, и её невозможно защитить перед тем, кто не присутствовал при обсуждении.