Spezialisierte Modelle

Besser als Frontier-Modelle zum Bruchteil der Kosten

Wir trainieren kleine spezialisierte Modelle auf Ihren eigenen Daten. Bei den eng umrissenen Aufgaben, die in Ihrem Unternehmen den ganzen Tag laufen, etwa Betrugsprüfungen oder Dokumentenextraktion, können sie genauer sein als die größten Frontier-Modelle und kosten im Betrieb einen Bruchteil. Schlägt unser Modell Ihr heutiges nicht auf Ihrem eigenen Testset, geht es nicht live.

Unser Team hat Software und produktive KI entwickelt für

trivagoSAPToniesEWEtecRacer360 Health & PerformanceConvointentFig Mayo

Wie ein kleines Modell ein großes schlägt

Ein Frontier-Modell weiß ein wenig über alles. Ihre Aufgabe braucht eine Sache, die tausendmal am Tag sehr gut erledigt wird, und die Antworten, aus denen es lernen soll, haben Sie bereits.

Ihre Ergebnisse

Jahre an bestätigten Antworten, etwa erkannter Betrug oder Dokumente, die Ihr Team korrigiert hat.

Gelabelte HistorieGolden-Testset

Ein kleines offenes Modell

Ein Open-Weight-Modell mit einigen Milliarden Parametern, kommerziell lizenziert und klein genug für eine GPU.

Open-Weight-BasismodellLizenzprüfung

Auf Ihre Aufgabe trainiert

Fine-Tuning, oft mit Reinforcement Learning gegen Ihre bekannten Ergebnisse, bringt ihm die eine Aufgabe bei, die es erledigen muss.

LoRAReinforcement Fine-Tuning

Gegen das Frontier-Modell getestet

Es läuft neben Ihrem heutigen Modell auf denselben Fällen und geht nur live, wenn es bei Genauigkeit und Kosten gewinnt.

Serving mit vLLMPlan für das Nachtraining
Sonst geht es nicht live

Alles rund um das Modell

Das Training dauert auf gemieteten GPUs nur Stunden. Ob Ihr Modell gewinnt, entscheiden das Testset und die Trainingsdaten, deshalb verbringen wir dort den größten Teil unserer Zeit.

Daten und Tests

Gelabelte HistorieGolden-TestsetBaselines auf Ihren FällenFehleranalyse mit Ihren Fachleuten

Training des Modells

Open-Weight-BasismodellLoRAReinforcement Fine-TuningLizenzprüfung

Betrieb

Serving mit vLLMGehosteter FallbackPlan für das Nachtraining

Wo kleine Modelle gewinnen

Faustregeln aus unseren eigenen Rechnungen, keine Garantien. Wir prüfen sie an Ihrem Traffic.

Volumen

Hunderttausende Anfragen im Monat für eine Aufgabe

Labels

Sie erfahren später, was die richtige Antwort war

Kontrolle

Die Latenz zählt, oder die Daten dürfen Ihre Infrastruktur nicht verlassen

Darunter ist ein günstigeres gehostetes Modell meist das bessere Geschäft, und das sagen wir Ihnen auch.

Mit einem Engineer sprechen

Gemessen an Ihren Daten, nicht an Benchmarks

Ihr heutiges Modell und das trainierte laufen auf denselben Fällen. Sie sehen Genauigkeit, Latenz und Kosten nebeneinander, und das kleine Modell geht nur live, wenn es gewinnt.

Frontier-Modell gegen Ihr eigenes Modell

Beispielergebnis, synthetische Daten

Kosten pro 1000 Anfragen
von 4,80 € auf 0,70 €
Mediane Latenz
von 1,4 s auf 0,6 s
Recall
von 88 % auf 91 %

von 9600 € auf 1400 € pro Monat bei 2 Millionen Anfragen

Ihre Daten bleiben Ihre

Wir sind unabhängig von Modell- und Tool-Anbietern. Kein Anbieter bezahlt uns, deshalb richten sich unsere Empfehlungen danach, was bei Ihnen funktioniert.

Trainingsdaten bleiben in Ihrer Umgebung.

Die Modellgewichte gehören Ihnen.

Testergebnisse und Entscheidungen, dokumentiert für Ihre Prüfer.

Anforderungen des Betriebsrats klären wir frühzeitig.

Fragen

Was kostet das erste Gespräch?

Nichts. Es ist ein 30-minütiges Gespräch mit einem unserer Engineers, ohne Zugriff auf Ihre Systeme und ohne Weitergabe von Daten.

Kann ein kleines Modell wirklich ein Frontier-Modell schlagen?

Bei einer eng umrissenen Aufgabe mit guten Labels, ja. Im Oktober 2026 berichtete Coinbase, dass ein feinabgestimmtes Qwen3.5-9B bei seiner Betrugserkennung ein Frontier-Modell übertraf, bei weniger als der halben Latenz. Für offene Aufgaben gilt das nicht, deshalb testen wir an Ihren Fällen, bevor etwas live geht.

Technischer Bericht von Coinbase

Was, wenn es unser heutiges Modell nicht schlägt?

Dann geht es nicht live, und Sie haben einige Wochen investiert statt eines Budgets. Das Testset behalten Sie, und es hilft Ihnen auch allein, jedes Modell auszuwählen und zu prüfen, das Sie einsetzen.

Haben Sie schon Modelle für die Produktion trainiert?

Ja. Unsere Engineers haben Computer-Vision-Modelle auf mehr als 100 Millionen Bildern trainiert und für eine Website mit Millionen täglicher Besucher betrieben, Jahre vor den Sprachmodellen. Die Methode ist dieselbe geblieben: zuerst ein Testset, dann das Training, dann die Beobachtung des Modells im Betrieb.

Was müssen wir mitbringen?

Eine Aufgabe, die oft läuft, und vergangene Fälle, deren richtige Antwort Sie kennen, idealerweise einige tausend. Außerdem brauchen wir ein bis zwei Stunden pro Woche von jemandem, der eine gute von einer schlechten Antwort unterscheiden kann.

Mit welchen Modellen arbeiten Sie?

Open-Weight-Modelle, deren Lizenzen kommerzielle Nutzung erlauben, etwa Qwen, Gemma, Mistral, Granite und gpt-oss. Manche Lizenzen schließen Unternehmen ab einer bestimmten Größe oder mit Sitz in der EU aus, deshalb lesen wir sie vor dem Start. Wenn Ihr Einkauf lieber kein chinesisches Modell einsetzen möchte, nehmen wir ein europäisches oder US-amerikanisches.

Was ist mit dem EU AI Act?

Das Abstimmen eines Modells mit LoRA braucht nur einen winzigen Bruchteil der Rechenleistung des ursprünglichen Trainings. Nach den Leitlinien der Kommission werden Sie dadurch in der Regel nicht zum Anbieter eines KI-Modells mit allgemeinem Verwendungszweck. Ihre Pflichten hängen trotzdem davon ab, wofür Sie es einsetzen. Wir bereiten die Unterlagen für Datenschutz und Compliance vor, die Entscheidung treffen Ihre Juristen.

Mit einem Engineer sprechen

Ein 30-minütiges Gespräch mit einem unserer Engineers über die Aufgabe, an die Sie denken, was sie heute kostet und ob ein spezialisiertes Modell sie übernehmen könnte. Kein Zugriff auf Ihre Systeme, keine Weitergabe von Daten.

Die Schaltfläche öffnet einen Entwurf in Ihrem E-Mail-Programm. Sie senden ihn selbst ab. Datenschutzerklärung (Entwurf)