Training eigener Modelle

Individuelles Modelltraining: LLM-Fine-Tuning für eine Aufgabe mit hohem Volumen

Wir trainieren ein Open-Weight-Modell mit Ihren gelabelten Fällen für eine klar umrissene Aufgabe und testen es dann gegen Ihr aktuelles Modell an Fällen, die es nie gesehen hat. Sie wechseln nur, wenn es weniger kostet und mindestens genauso genau ist. Cloudsail macht das für Unternehmen in ganz Europa, mit Engineers in Deutschland und Polen.

Unser Team hat Software und produktive KI entwickelt für

trivagoSAPToniesEWEtecRacer360 Health & PerformanceConvointentFig Mayo

Was eine eng umrissene Aufgabe von einem Modell braucht

Frontier-Modelle sind darauf trainiert, fast jede Anfrage zu bearbeiten. Eine Aufgabe wie Klassifizierung, Extraktion, Scoring oder Routing braucht ein einziges Verhalten, und zwar zuverlässig. Fälle, die Sie bereits gelabelt haben, bringen einem kleineren Modell genau das bei.

Ihre bisherigen Fälle

Datensätze, bei denen die richtige Antwort schon feststeht, etwa bestätigte Betrugsfälle, korrigierte Extraktionen oder gelöste Tickets.

Gelabelte BeispieleReferenz-Testset

Basismodell

Ein Open-Weight-Modell mit einigen Milliarden Parametern. Es passt auf eine einzelne GPU, und seine Lizenz erlaubt die kommerzielle Nutzung.

Open-Weight-BasismodellLizenzprüfung

Fine-Tuning

Das Basismodell lernt aus Ihren bekannten Ergebnissen, per Supervised Fine-Tuning oder Reinforcement Learning, mit LoRA-Adaptern.

LoRA-AdapterReinforcement Fine-Tuning

Vergleich

Das Modell, das Sie heute nutzen, und das neue beantworten dieselben Fälle, von denen keiner im Training vorkam. Wir vergleichen Genauigkeit, Latenz und Kosten pro Anfrage.

Zurückgehaltene FälleKosten pro Anfrage
Geht nur live, wenn es günstiger und mindestens genauso genau ist

Was ein Trainingsprojekt umfasst

Auf gemieteten GPUs ist ein Trainingslauf in wenigen Stunden erledigt. Der größte Aufwand steckt in den Trainingsdaten und im Testset sowie im Betrieb des Modells in Ihrer Infrastruktur, sobald echte Anfragen eintreffen.

Daten und Tests

Gelabelte BeispieleReferenz-TestsetBaseline-Werte auf Ihren DatenFehlerprüfung mit Ihren Fachleuten

Modelltraining

Open-Weight-BasismodellLoRA-AdapterReinforcement Fine-TuningLizenzprüfung

Im Betrieb

Serving mit vLLMFallback auf ein gehostetes ModellDrift-MonitoringPlan für das Nachtraining

Wann sich für eine Aufgabe ein eigenes Modell lohnt

Die folgenden Schwellenwerte stammen aus unseren eigenen Kostenmodellen, und wir prüfen sie an Ihrem tatsächlichen Traffic.

Volumen

Eine einzelne Aufgabe mit mehreren hunderttausend Anfragen im Monat

Labels

Das tatsächliche Ergebnis jedes Falls steht erst später fest

Kontrolle

Strenge Vorgaben zur Antwortzeit oder Daten, die auf Ihren eigenen Systemen bleiben müssen

Unter diesen Schwellenwerten ist ein kleineres gehostetes Modell die günstigere Wahl, und dazu raten wir dann.

Mit einem Engineer sprechen

Wie die beiden Modelle bei Ihren Fällen abschneiden

Wir lassen beide Modelle auf denselben zurückgehaltenen Fällen laufen und stellen Genauigkeit, Latenz und Kosten nebeneinander. Das trainierte Modell übernimmt nur, wenn es im Betrieb günstiger ist und keine Genauigkeit einbüßt.

Frontier-Modell im Vergleich mit einem trainierten Modell

Beispiel mit synthetischen Daten

Kosten für 1000 Anfragen
von 4,80 € auf 0,70 €
Mediane Latenz
von 1,4 auf 0,6 s
Recall
von 88 % auf 91 %

Bei 2 Millionen Anfragen im Monat sinken die Kosten von 9600 € auf 1400 €

Ihre Daten und das Modell bleiben unter Ihrer Kontrolle

Wir nehmen kein Geld von Modell- oder Tool-Anbietern an. Unsere Empfehlungen richten sich allein danach, wie gut jede Option bei Ihrer Aufgabe abschneidet.

Ihre Trainingsdaten verlassen Ihre Umgebung nicht.

Die Gewichte des trainierten Modells gehören Ihnen.

Wir dokumentieren Testergebnisse und Entscheidungen so, dass Ihre Prüfer sie nachvollziehen können.

Die Anforderungen Ihres Betriebsrats klären wir frühzeitig.

Fragen

Kostet das erste Gespräch etwas?

Nein. Sie sprechen 30 Minuten lang mit einem unserer Engineers über die Aufgabe, an die Sie denken. Sie geben keine Daten weiter, und wir brauchen keinen Zugriff auf Ihre Systeme.

Gibt es Belege dafür, dass ein kleines trainiertes Modell ein Frontier-Modell schlagen kann?

Ja, bei eng umrissenen Aufgaben mit guten Labels. Im Oktober 2026 berichtete Coinbase, dass ein Qwen3.5-9B-Modell, trainiert auf den Ergebnissen der unternehmenseigenen Betrugsfälle, besser abschnitt als ein Frontier-Modell, bei weniger als der halben Latenz. Für offenes Schlussfolgern oder Aufgaben, die breites Wissen erfordern, bleiben Frontier-Modelle die bessere Wahl.

Technischer Bericht von Coinbase

Was ist, wenn das trainierte Modell hinter unserem aktuellen zurückbleibt?

Dann behalten Sie Ihr aktuelles Modell. Testset und Evaluierungspipeline bleiben bei Ihnen, und Sie können damit jedes Modell auswählen und überwachen, das Sie später einsetzen.

Haben Sie schon Modelle trainiert und in Produktion betrieben?

Ja. Unsere Engineers haben Computer-Vision-Modelle auf mehr als 100 Millionen Bildern trainiert und für eine Website mit Millionen Besuchern am Tag betrieben. Wir arbeiten heute noch in derselben Reihenfolge wie damals: zuerst das Testset, dann das Training, dann das Monitoring, sobald das Modell live ist.

Was brauchen Sie von uns?

Eine Aufgabe mit ausreichend Volumen und frühere Fälle, deren Ergebnisse Sie kennen, idealerweise einige tausend davon. Außerdem brauchen wir ein bis zwei Stunden pro Woche von einer Fachperson, die die Antworten des Modells beurteilen kann.

Was ist, wenn wir keine Produktionsdaten weitergeben können?

Dann beginnt das Training mit offenen Datensätzen oder synthetischen Daten. Oder wir starten mit der Modellauswahl: Wir vergleichen bestehende Modelle an Ihrer Aufgabe und trainieren nur, wenn es sich dann noch lohnt.

Mit welchen Basismodellen arbeiten Sie?

Mit Open-Weight-Modellen, deren Lizenz die kommerzielle Nutzung erlaubt, etwa Qwen, Gemma, Mistral, Granite und gpt-oss. Die Bedingungen unterscheiden sich von Modell zu Modell. Manche schließen Unternehmen ab einer bestimmten Größe oder mit Sitz in der EU aus, deshalb prüfen wir sie in jedem Projekt. Wenn Ihre Einkaufsrichtlinien es verlangen, setzen wir Modelle europäischer oder US-amerikanischer Herkunft ein.

Was bedeutet der EU AI Act für ein Modell mit Fine-Tuning?

Fine-Tuning mit LoRA braucht nur einen kleinen Bruchteil der Rechenleistung, mit der das ursprüngliche Modell trainiert wurde. Das liegt weit unter der Schwelle, ab der Sie nach den Leitlinien der Kommission zum Anbieter eines KI-Modells mit allgemeinem Verwendungszweck werden. Ihre Pflichten hängen dann davon ab, wofür das Modell eingesetzt wird. Wir bereiten die Dokumentation vor, die Ihr Datenschutz- und Ihr Compliance-Team brauchen, und die rechtliche Bewertung bleibt bei Ihrer Rechtsberatung.

Mit einem Engineer sprechen

Bringen Sie eine Aufgabe mit, die Sie verbessern möchten. Das Gespräch dauert 30 Minuten und braucht keinen Zugriff auf Ihre Systeme oder Ihre Daten.

Die Schaltfläche bereitet in Ihrem eigenen E-Mail-Programm eine E-Mail vor, die Sie selbst senden. Datenschutzerklärung (Entwurf)