LeistungenRAG-Entwicklung
RAG-Entwicklung für Antworten aus Ihren Firmendokumenten
Ihre Beschäftigten bekommen Antworten aus Handbüchern, Richtlinien, Verträgen und früheren Tickets in Sekunden, mit Quellenangabe, statt Ordner zu durchsuchen oder die Kollegin zu unterbrechen, die es weiß. RAG, kurz für Retrieval-Augmented Generation, sucht die passenden Abschnitte in Ihren Dokumenten heraus und gibt sie einem Sprachmodell, bevor es antwortet. Wir bauen solche Systeme gemeinsam mit Ihrem Team in Ihrer Umgebung oder reparieren bestehende. Sie passen zu Teams in Service, Support, Vertrieb und Verwaltung, die jeden Tag Fragen aus Dokumenten beantworten. Unsere Engineers sitzen in Deutschland und Polen und testen auf Deutsch, Englisch und Polnisch.
Wie eine Frage beantwortet wird
- 1
Ihre Quellen werden mit Verantwortlichen, Version und Zugriffsregeln eingelesen.
- 2
Die Suche verbindet exakte Kennungen mit einer Suche nach Bedeutung.
- 3
Nur Abschnitte, die die fragende Person lesen darf, gelangen zum Modell.
- 4
Die Antwort nennt ihre Quellen. Geben die Quellen keine Antwort her, sagt das System das und gibt die Frage, sofern eine Übergabe eingerichtet ist, an einen Menschen weiter.
Was sich für Ihr Unternehmen ändert
Wissen hängt nicht mehr davon ab, wen man gerade fragen kann. Ein Support-Engineer, eine neue Kollegin im Innendienst oder ein Vertriebler fragt in eigenen Worten und bekommt in Sekunden eine Antwort aus Ihren freigegebenen Dokumenten, mit Verweis auf die Textstelle. Die Fachleute, die bisher jede Woche dieselben Fragen beantwortet haben, gewinnen diese Zeit für die Fälle zurück, bei denen es auf sie ankommt.
- Antworten in Sekunden statt Suche in Ordnern, Wikis und alten Tickets
- Weniger Unterbrechungen für die Fachleute, die wissen, wo alles steht
- Neue Beschäftigte sind schneller produktiv, weil sie selbst nachschlagen können
- Kunden bekommen schneller Antwort, weil der Service sie noch während des Gesprächs findet
- Antworten, die sich prüfen lassen, weil jede ihre Quelle nennt
Mehr Details
Unternehmen gehen diesen Weg. In der Bitkom-Umfrage 2026 setzen 22 % der Unternehmen, die KI nutzen, sie im internen Wissensmanagement ein, nach 11 % im Jahr 2025. Wie das für eine ganze Abteilung aussieht, von den ersten Fragen bis zum Betriebsrat, beschreiben wir auf unserer Seite zum Anwendungsfall Wissensmanagement.
Ein Beispiel für die Arbeit
Angenommen, ein Support-Engineer fragt, bei welchen Firmware-Versionen eines Geräts nach einem Update ein manueller Reset nötig ist. Die Antwort steht in zwei freigegebenen Runbooks und einer Release Note. Das System muss die Release Note über die exakte Versionsnummer finden, den zutreffenden Abschnitt im Runbook auswählen und mit einem Verweis auf jedes Dokument antworten. Wurde die Release Note vergangene Woche zurückgezogen, darf sie nicht mehr verwendet werden.
Quellen, Verantwortliche und Berechtigungen
Am Anfang prüfen wir Ihre Quellen und wer darauf zugreifen darf. Jeder Abschnitt behält einen Verweis auf Originaldokument, Verantwortliche und Version, sodass sich jede Antwort zurückverfolgen lässt. Nach dieser Prüfung binden wir die Systeme an, in denen die Dokumente bereits liegen.
Mehr Details
Berechtigungen werden geprüft, bevor Text das Modell erreicht. Wer ein Dokument im Ursprungssystem nicht öffnen darf, soll auch keine Antwort erhalten, die darauf beruht.
- Zugriff abgeglichen mit den Berechtigungen im Ursprungssystem
- Änderungen und Löschungen synchronisiert, damit entfernte Inhalte auch aus dem Index verschwinden
Möchten Sie das an Ihrem eigenen Fall durchsprechen? Das erste Gespräch ist kostenlos und dauert 30 Minuten.
30-minütiges Gespräch buchenDen richtigen Abschnitt finden
Für die Suche werden Dokumente in Abschnitte zerlegt, und ein herausgelöster Abschnitt kann den Zusammenhang verlieren, der ihm Bedeutung gab. Deshalb halten wir diesen Zusammenhang bei jedem Abschnitt fest. Eine Suche nach Bedeutung kommt mit alltäglichen Formulierungen gut zurecht, übersieht aber leicht exakte Zeichenfolgen wie Fehlercodes oder Teilenummern. Wo es darauf ankommt, ergänzen wir eine lexikalische Suche.
Mehr Details
Jede Antwort nennt die Abschnitte, auf die sie sich stützt. Findet das System nichts Passendes oder widersprechen sich die Quellen, sagt es das und kann die Frage an einen Menschen weitergeben.
Tests, Betrieb und Übergabe
Vor dem Start stellen wir mit Ihrem Team ein Testset zusammen. Retrieval und Antworten bewerten wir getrennt, denn ein besserer Prompt hilft nicht, wenn der richtige Abschnitt das Modell nie erreicht hat. Außerdem erfassen wir Antwortzeit und Kosten pro Frage.
Mehr Details
Mit dem Start erhält Ihr Team die Tests, die Synchronisierungsjobs und ein Runbook, mit dem es Quellen hinzufügt, Berechtigungen ändert und falschen Antworten nachgeht.
- Fragen, die die Dokumente beantworten, mit den erwarteten Quellen
- Fragen, die sie nicht beantworten und bei denen das System ablehnen soll
- Fragen, deren Antwort sich in einem neueren Dokument geändert hat
- Fragen von Personen ohne Zugriff auf die Quelle
Wann sich ein eigenes RAG-System lohnt
Manchmal genügt weniger. Kurze Dokumente, die sich selten ändern, kann man dem Modell direkt mitgeben. Findet Ihre bestehende Suche bereits das richtige Dokument, reicht es vielleicht, sie zu verbessern, und ein verwaltetes Knowledge-Base-Produkt deckt gängige Quellen mit einfachen Berechtigungen ab. Passt eine dieser Lösungen, sagen wir Ihnen das im ersten Gespräch.
Mehr Details
Fine-Tuning verändert, wie sich ein Modell verhält, etwa sein Ausgabeformat oder wie es eine Anfrage einordnet. Fakten, die sich jede Woche ändern, gehören ins Retrieval, weil sonst jede Änderung einen neuen Trainingslauf bräuchte.
Fragen
Lohnt sich ein Wissensassistent für uns?
Er lohnt sich dort, wo viele Menschen täglich ähnliche Informationen nachschlagen oder wenige Fachleute einen großen Teil ihrer Woche mit Fragen verbringen. Wir nehmen eine Stichprobe echter Fragen, halten fest, wie lange die Antwort heute dauert, und messen mit dem System auf denselben Fragen erneut. Ob Sie weiter ausrollen, entscheidet dieser Vergleich.
Wovon hängen die Kosten eines RAG-Systems ab?
Von Zahl und Zustand der Quellen, davon, wie verschachtelt die Berechtigungen sind, von Sprachen und Dokumentformaten, ob es auf eigenen Servern oder in Ihrem eigenen Cloud-Konto läuft und wie viele Menschen es nutzen. Die Modellnutzung verursacht laufende Kosten pro Frage, die wir von Anfang an messen. Jeder Schritt hat einen Festpreis, der nach dem ersten Gespräch schriftlich vereinbart wird.
Bleiben unsere Dokumente im Unternehmen?
Das ist möglich. Index, Suche und Sprachmodell können vollständig auf eigenen Servern oder in Ihrem eigenen Cloud-Konto laufen, mit einem Open-Weight-Modell, dessen Gewichte Sie selbst betreiben können, wenn kein externer Anbieter den Text sehen darf. Was gespeichert wird, wo es verarbeitet wird und wer die Protokolle lesen kann, dokumentieren wir für Ihren Datenschutzbeauftragten, der mit Ihren Anwälten entscheidet.
Was passiert im ersten Gespräch?
Dreißig Minuten mit einem unserer Engineers, kostenlos, über die Fragen, die Ihr Team beantwortet haben möchte, und darüber, wo die Dokumente liegen. Zugriff auf Ihre Systeme brauchen wir nicht. Danach schlagen wir Umfang und Preis vor.
Können Sie ein bestehendes RAG-System reparieren?
Ja. Wir lassen es gegen ein Testset aus echten Fragen laufen und bewerten Retrieval und Antworten getrennt. So zeigt sich, wo das Problem liegt und womit die Korrektur beginnen sollte.
Gibt das System dann keine falschen Antworten mehr?
Kein System liegt immer richtig. Quellenangaben, Tests mit unbeantwortbaren Fragen und die Möglichkeit abzulehnen verringern falsche Antworten. Das Testset zeigt, wie oft es Ihre Fragen richtig beantwortet.
Wie viele Dokumente brauchen wir?
Eine feste Untergrenze gibt es nicht. Entscheidend ist, ob die Dokumente die Antworten enthalten, die Ihre Nutzer suchen, und ob jede Quelle eine verantwortliche Person hat. Beides prüfen wir bei der Durchsicht der Quellen.
Verwandte Leistungen
Datenintegration für KI
Antworten aus Dateiablagen, SharePoint, ERP und Tickets in Sekunden, für Assistenten und Agenten, mit übernommenen Berechtigungen und Tests.
KI-Agenten und Prozessautomatisierung
Agenten, die die Routineschritte komplexer Fälle übernehmen und Entscheidungen an Menschen weitergeben, mit ausgewiesenen Kosten pro bearbeitetem Fall.
KI-Chatbots
Kunden und Beschäftigte bekommen schneller Antworten aus Ihren Daten, mit freigegebenen Aktionen und Übergabe an Menschen, wenn es darauf ankommt.
Systemzugriff für Agenten (MCP)
KI-Agenten, die in Ihren Systemen Daten abfragen und ändern, mit engen Berechtigungen, menschlicher Freigabe für Änderungen und Tests.
Training eigener Modelle
Ein kleines Open-Weight-Modell, für eine Aufgabe trainiert und bei Kosten und Genauigkeit mit Ihrem aktuellen Modell verglichen.
On-Premise-KI
KI für Angebote, Verträge und Kundenakten, und die Daten bleiben im Unternehmen: eigene Server oder eigenes Cloud-Konto, vor dem Go-live geprüft.
Qualitätssicherung für KI-Systeme
Vor dem Go-live zeigen Abnahmetests auf Ihren eigenen Fällen, wie oft Chatbot, Assistent oder Agent richtig liegen, in den Begriffen, die Ihr QA-Team kennt.
Aus dem Blog
Berechtigungen in RAG
Wie Zugriffsregeln aus Quellsystemen in einen Retrieval-Index gelangen, wo sie verloren gehen und welche Negativtests zeigen, dass niemand abruft, was er nicht öffnen darf.
Retrieval oder Generierung?
Ein Diagnoseverfahren, das zeigt, ob eine falsche RAG-Antwort in Ingestion, Suche, Reranking oder im Modell entstand, mit markierten Belegen und Traces pro Frage.
Veraltete Dokumente in RAG
Wie ein Retrieval-Assistent aktuell bleibt, wenn Dokumente bearbeitet, umbenannt, eingeschränkt oder gelöscht werden, mit Sync-Design und Canary-Tests, die Altinhalte ausschließen.
Mit einem Engineer sprechen
Bringen Sie einige Fragen mit, für die Ihr Team in der eigenen Dokumentation zu lange sucht. Das Gespräch dauert 30 Minuten und braucht keinen Zugriff auf Ihre Systeme oder Daten.
Die Buchung läuft über Google Kalender.
Wenn Sie ein Gespräch buchen, sprechen Sie mit Mickey Graf
Er hat Cloudsail gegründet und bringt seit 2017 Machine Learning in Produktion, unter anderem als AI Engineer bei trivago und SAP. Das Gespräch führen Sie auf Deutsch, Englisch oder Polnisch.
Lieber erst schreiben? Hinterlassen Sie Ihre E-Mail-Adresse und ein paar Zeilen. Mickey liest jede Nachricht selbst und antwortet per E-Mail mit Terminvorschlägen.
Sehen Sie in Ihrem E-Mail-Programm nach dem Entwurf
Senden Sie ihn von dort ab, und Mickey antwortet Ihnen persönlich mit Terminvorschlägen für ein 30-minütiges Gespräch. Hat sich kein Entwurf geöffnet, schreiben Sie uns an miki@cloudsail.com.