Was kostet ein RAG-Chatbot über die eigenen Dokumente?

Der größte Teil der Kosten steckt nicht im Modell. Es ist der Zustand Ihrer Daten: wie viele Formate, wie viel davon gescannte Bilder sind, wie viele Dokumente sich widersprechen, und ob überhaupt jemand sagen kann, welche Version aktuell ist.

Was enthalten ist: Suche über Ihre Dokumente, Tickets oder den Katalog; Ein Prüfset und eine gemessene Ausgangsqualität der Antworten; Leitplanken, ein ehrliches „weiß ich nicht“ und die Übergabe an einen Menschen; Budget für Kosten und Antwortzeit, mit Telemetrie je Anfrage.

Was den Preis bewegt: Wie viele Quelldaten es gibt und in welchem Zustand, In wie vielen Sprachen geantwortet wird, Ob das Modell handeln darf oder nur antworten, Betrieb in Ihrer eigenen Umgebung.

Wir bauen ein Bewertungsset, bevor wir an der Antwortqualität arbeiten, denn „es fühlt sich jetzt besser an“ ist keine Messung und lässt sich niemandem gegenüber begründen, der nicht im Raum war.