Den Ausstieg bei einem KI-Anbieter planen, bevor Sie ihn wählen

Anbieter ändern ihre Produkte, auch wenn Sie bleiben

Ein Ausstiegsplan ist auch ein Migrationsplan für Änderungen, die Sie nicht gewählt haben. Am 3. Juni 2026 kündigte OpenAI an, dass seine gehosteten wiederverwendbaren Prompt-Objekte, die Evals-Plattform und Agent Builder abgekündigt sind, mit Abschaltung zum 30. November 2026, und riet dazu, Prompt-Inhalte in den Anwendungscode zu verlagern. Modellabschaltungen folgen veröffentlichten Fristen: OpenAI nennt als Mindestfrist sechs Monate für allgemein verfügbare Modelle und drei Monate für deren spezialisierte Varianten, für Preview-Modelle möglicherweise deutlich kürzere Fristen und eine schnellere Abschaltung, wo Sicherheit oder Compliance es erfordern. Anthropic nennt mindestens 60 Tage für öffentlich freigegebene Modelle. Teams, deren Prompts und Tests nur im Dashboard eines Anbieters lagen, hatten Migrationsarbeit vor sich, ob sie wechseln wollten oder nicht.

Was Sie selbst in der Hand behalten

• Den Testsatz: Fälle, erwartete Ergebnisse, Bewertungslogik und frühere Resultate, gespeichert dort, wo jedes System dagegen laufen kann.
• Prompts, Anweisungen und Werkzeugdefinitionen, versioniert in Ihrem Repository und nicht nur in einer Anbieterkonsole.
• Die Geschäftsregeln hinter Schwellenwerten, Weiterleitung und Eskalation, aufgeschrieben außerhalb der Oberfläche des Anbieters.
• Ihre Daten: gesendete Eingaben, erhaltene Ausgaben, Korrekturen und Prüfentscheidungen, in einem Format, das Sie ohne den Anbieter lesen können.
• Quelldokumente, Indexierungseinstellungen und der Name des Embedding-Modells. Vorhandene Vektoren können in einen anderen Speicher umziehen, wenn das Embedding-Modell gleich bleibt und der neue Speicher sie aufnehmen kann. Ein neues Embedding-Modell bedeutet, die Dokumente erneut einzubetten.
• Feinabgestimmte Modelle: Prüfen Sie, ob Sie Gewichte oder Adapter erhalten oder sie nur auf der Plattform des Anbieters nutzen können.

Ein Abhängigkeitsverzeichnis für einen hypothetischen Assistenten

Das AWS Generative AI Lens empfiehlt einen Modellkatalog, der Herkunft und Abhängigkeiten erfasst, und das NIST-Framework verlangt Notfallprozesse für Ausfälle in Daten oder KI-Systemen Dritter, die als hochriskant gelten. Praktisch heißt das: eine Zeile pro Abhängigkeit mit dem Ort der Konfiguration, dem Exportweg und dem Aufwand eines Ersatzes. Für einen internen Support-Assistenten könnte das so aussehen.

• Sprachmodell: Modellkennung in Ihrem Konfigurations-Repository. Ersatzaufwand mittel, weil der Testsatz auf dem neuen Modell bestehen muss.
• Prompts: in der Konsole des Anbieters gespeichert. Der Export ist eine manuelle Kopie, also bleibt der Aufwand hoch, bis sie in Ihr Repository umziehen.
• Evaluierungen: beim Anbieter gehostet, als Dateien exportierbar. Aufwand hoch, weil die Bewertungslogik anderswo neu gebaut werden müsste.
• Vektorindex: eine verwaltete Datenbank eines zweiten Anbieters. Erlaubt der Speicher einen Export und bleibt das Embedding-Modell gleich, lassen sich die Vektoren in einen anderen Speicher laden. Ein Wechsel des Embedding-Modells bedeutet einen Neuaufbau aus den Quelldokumenten. Aufwand mittel.
• Traces und Logs: ein Observability-Dienst mit 30 Tagen Aufbewahrung und Export-API. Aufwand mittel, und ältere Historie geht verloren, wenn sie nicht regelmäßig exportiert wird.

Die beiden Zeilen mit hohem Aufwand sollten Sie zuerst angehen, und beide lassen sich lösen, indem Sie Material in Systeme verlagern, die Sie kontrollieren.

Fragen, die der Vertrag klären sollte

• In welchem Format und innerhalb welcher Frist können Sie Daten, Prompts, Konfigurationen und Evaluierungsergebnisse exportieren?
• Mit welchem Vorlauf werden genutzte Modelle, Funktionen oder Endpunkte abgeschaltet, und mit welchem Vorlauf ändern sich Preise? Die FinOps Foundation weist darauf hin, dass sich KI-Preise in beide Richtungen stark bewegen können.
• Wem gehören feinabgestimmte Artefakte, und was geschieht nach Vertragsende mit Ihren Daten und Logs, einschließlich einer schriftlichen Löschbestätigung?

Die rechtliche Formulierung ist Sache von Einkauf und Rechtsberatung. Aufgabe des Engineerings ist es, festzulegen, was exportierbar sein muss, und zu testen, dass ein Export tatsächlich funktioniert, bevor er gebraucht wird.

Entwurfsentscheidungen, die einen Wechsel bezahlbar halten

Setzen Sie eine schlanke interne Schnittstelle zwischen Ihren Prozesscode und den Modellanbieter, und halten Sie Prüfoberfläche und Geschäftsregeln in Ihren eigenen Systemen. Das AWS Lens schlägt vor, mehrere Modelloptionen über Routing und einen Katalog bereitzustellen, damit neue Modelle schnell aufgenommen werden können. Halten Sie diese Schicht schlank. Anthropics Artikel über Agenten aus dem Jahr 2024 warnt, dass schwere Framework-Schichten Prompts und Antworten verbergen können, und eine Abstraktion, die jeden Anbieter abdecken soll, verzichtet meist auf die Funktionen, für die Sie einen Anbieter gewählt haben. Lassen Sie einmal im Jahr den Testsatz gegen eine Alternative laufen und halten Sie fest, wie lange der Wechsel dauern würde.

KI-Produkt kaufen oder um eigene Systeme herum bauenWer nach dem Piloten für ein KI-System verantwortlich ist