Jak zaplanować odejście od dostawcy AI, zanim go wybierzecie

Dostawcy zmieniają produkty, nawet gdy wy zostajecie

Plan wyjścia to także plan migracji na wypadek zmian, których nie wybraliście. 3 czerwca 2026 roku OpenAI ogłosiło wycofanie hostowanych obiektów promptów wielokrotnego użytku, platformy Evals i Agent Buildera z wyłączeniem zaplanowanym na 30 listopada 2026 roku i zaleciło przeniesienie treści promptów do kodu aplikacji. Wycofywanie modeli odbywa się według publikowanych terminów: OpenAI podaje minimum sześć miesięcy dla modeli ogólnie dostępnych i trzy miesiące dla ich wyspecjalizowanych wariantów, dla modeli w wersji preview możliwe są znacznie krótsze terminy, a gdy wymagają tego bezpieczeństwo lub zgodność z przepisami, wycofanie może nastąpić szybciej. Anthropic podaje co najmniej 60 dni dla modeli udostępnionych publicznie. Zespoły, których prompty i testy istniały tylko w panelu dostawcy, miały przed sobą migrację, niezależnie od tego, czy chciały odejść.

Co trzymać we własnych rękach

• Zestaw testowy: przypadki, oczekiwane wyniki, logikę oceniania i wcześniejsze rezultaty, przechowywane tam, gdzie można uruchomić na nich dowolny system.
• Prompty, instrukcje i definicje narzędzi, wersjonowane w waszym repozytorium, a nie tylko w konsoli dostawcy.
• Reguły biznesowe stojące za progami, kierowaniem i eskalacją, spisane poza interfejsem dostawcy.
• Wasze zapisy: wysłane dane wejściowe, otrzymane wyniki, poprawki i decyzje weryfikacyjne, w formacie czytelnym bez dostawcy.
• Dokumenty źródłowe, ustawienia indeksowania i nazwa modelu embeddingów. Istniejące wektory można przenieść do innego magazynu, jeśli model embeddingów się nie zmienia, a nowy magazyn je przyjmuje. Nowy model embeddingów oznacza ponowne wygenerowanie embeddingów dla dokumentów.
• Modele po fine-tuningu: sprawdźcie, czy dostajecie wagi lub adaptery, czy możecie z nich korzystać tylko na platformie dostawcy.

Spis zależności dla hipotetycznego asystenta

AWS Generative AI Lens zaleca katalog modeli, który zapisuje pochodzenie i zależności, a ramy NIST wymagają procedur awaryjnych na wypadek awarii danych lub systemów AI stron trzecich uznanych za wysokiego ryzyka. W praktyce to jeden wiersz na zależność: gdzie jest skonfigurowana, jak ją wyeksportować i jak trudno ją zastąpić. Dla wewnętrznego asystenta wsparcia mogłoby to wyglądać tak.

• Model językowy: identyfikator modelu w waszym repozytorium konfiguracji. Nakład na zastąpienie średni, bo zestaw testowy musi przejść na nowym modelu.
• Prompty: przechowywane w konsoli dostawcy. Eksport to ręczne kopiowanie, więc nakład pozostaje wysoki, dopóki nie trafią do waszego repozytorium.
• Ewaluacje: hostowane u dostawcy, możliwe do wyeksportowania jako pliki. Nakład wysoki, bo logikę oceniania trzeba by odbudować gdzie indziej.
• Indeks wektorowy: zarządzana baza danych drugiego dostawcy. Jeśli magazyn pozwala na eksport, a model embeddingów się nie zmienia, wektory można załadować do innego magazynu. Zmiana modelu embeddingów oznacza odbudowę z dokumentów źródłowych. Nakład średni.
• Ślady i logi: usługa observability z 30-dniową retencją i API eksportu. Nakład średni, a starsza historia przepada, jeśli nie jest regularnie eksportowana.

Dwa wiersze o wysokim nakładzie trzeba naprawić najpierw, a oba naprawia przeniesienie materiałów do systemów, które kontrolujecie.

Pytania do rozstrzygnięcia w umowie

• W jakim formacie i w jakim terminie możecie wyeksportować dane, prompty, konfiguracje i wyniki ewaluacji?
• Z jakim wyprzedzeniem wycofywane są używane modele, funkcje lub endpointy i z jakim wyprzedzeniem zmieniają się ceny? FinOps Foundation zauważa, że ceny AI mogą mocno się zmieniać w obie strony.
• Do kogo należą artefakty po fine-tuningu i co dzieje się z waszymi danymi i logami po zakończeniu umowy, łącznie z pisemnym potwierdzeniem usunięcia?

Brzmienie prawne należy do działu zakupów i prawników. Zadaniem inżynierów jest określenie, co musi dać się wyeksportować, i sprawdzenie, że eksport naprawdę działa, zanim będzie potrzebny.

Decyzje projektowe, które utrzymują zmianę w rozsądnej cenie

Umieśćcie cienki wewnętrzny interfejs między kodem procesu a dostawcą modelu, a interfejs weryfikacji i reguły biznesowe trzymajcie we własnych systemach. AWS Lens proponuje udostępnianie kilku opcji modeli przez routing i katalog, żeby szybko wdrażać nowe modele. Utrzymajcie tę warstwę cienką. Artykuł Anthropic o agentach z 2024 roku ostrzega, że ciężkie warstwy frameworków potrafią ukrywać prompty i odpowiedzi, a abstrakcja, która ma pokryć każdego dostawcę, zwykle rezygnuje z funkcji, dla których wybraliście dostawcę. Raz w roku uruchomcie zestaw testowy na alternatywie i zapiszcie, ile trwałaby zmiana.

Kupić produkt AI czy budować wokół własnych systemówKto odpowiada za system AI po pilotażu