Trenowanie własnych modeli

Trenowanie własnych modeli: fine-tuning LLM pod jedno zadanie o dużym wolumenie

Dostrajamy model open-weight na twoich oznaczonych przypadkach do jednego, jasno określonego zadania, a potem porównujemy go z obecnym modelem na przypadkach, których wcześniej nie widział. Przechodzisz na niego tylko wtedy, gdy kosztuje mniej i jest co najmniej tak samo dokładny. Cloudsail robi to dla firm w całej Europie, z inżynierami w Niemczech i w Polsce.

Nasz zespół budował oprogramowanie i produkcyjne AI dla

trivagoSAPToniesEWEtecRacer360 Health & PerformanceConvointentFig Mayo

Czego wąskie zadanie potrzebuje od modelu

Modele frontier są trenowane tak, by radzić sobie z niemal każdym zapytaniem. Zadanie takie jak klasyfikacja, ekstrakcja, scoring czy routing wymaga jednego zachowania, wykonywanego niezawodnie. Przypadki, które masz już oznaczone, uczą mniejszy model właśnie tego.

Twoje dotychczasowe przypadki

Rekordy, dla których poprawna odpowiedź jest już znana, na przykład potwierdzone oszustwa, poprawione ekstrakcje lub rozwiązane zgłoszenia.

Oznaczone przykładyReferencyjny zbiór testowy

Model bazowy

Model open-weight z kilkoma miliardami parametrów. Mieści się na jednym GPU, a jego licencja pozwala na użytek komercyjny.

Bazowy model open-weightSprawdzenie licencji

Fine-tuning

Model bazowy uczy się na twoich znanych wynikach przez nadzorowany fine-tuning lub uczenie ze wzmocnieniem, z adapterami LoRA.

Adaptery LoRAReinforcement fine-tuning

Porównanie

Model, którego używasz dziś, i nowy model odpowiadają na te same przypadki, z których żaden nie był użyty w treningu. Porównujemy dokładność, opóźnienie i koszt zapytania.

Odłożone przypadkiKoszt zapytania
Trafia na produkcję tylko wtedy, gdy jest tańszy i co najmniej tak samo dokładny

Co obejmuje projekt trenowania modelu

Na wynajętych GPU przebieg treningu kończy się w ciągu kilku godzin. Najwięcej pracy wymagają dane treningowe i zbiór testowy, a także utrzymanie modelu w twojej infrastrukturze, gdy zaczną do niego trafiać prawdziwe zapytania.

Dane i testy

Oznaczone przykładyReferencyjny zbiór testowyWyniki bazowe na twoich danychPrzegląd błędów z twoimi ekspertami

Trening modelu

Bazowy model open-weightAdaptery LoRAReinforcement fine-tuningSprawdzenie licencji

Na produkcji

Serwowanie z vLLMFallback do modelu hostowanegoMonitorowanie dryfuPlan ponownego treningu

Kiedy zadanie jest warte własnego modelu

Poniższe progi pochodzą z naszych własnych modeli kosztów, a sprawdzamy je na twoim rzeczywistym ruchu.

Wolumen

Jedno zadanie, które otrzymuje kilkaset tysięcy zapytań miesięcznie

Etykiety

Prawdziwy wynik każdego przypadku znany jest dopiero później

Kontrola

Ścisłe limity czasu odpowiedzi lub dane, które muszą zostać w twoich własnych systemach

Poniżej tych progów tańszym wyborem jest mniejszy model hostowany i to właśnie go polecamy.

Porozmawiaj z inżynierem

Jak oba modele wypadają na twoich przypadkach

Uruchamiamy oba modele na tym samym zbiorze odłożonych przypadków i pokazujemy obok siebie dokładność, opóźnienie i koszt. Wytrenowany model przejmuje zadanie tylko wtedy, gdy jest tańszy w działaniu i nie traci na dokładności.

Model frontier w porównaniu z wytrenowanym modelem

Przykład na danych syntetycznych

Koszt 1000 zapytań
z 4,80 € do 0,70 €
Mediana opóźnienia
z 1,4 do 0,6 s
Recall
z 88% do 91%

Przy 2 milionach zapytań miesięcznie koszt spada z 9600 € do 1400 €

Twoje dane i model pozostają pod twoją kontrolą

Nie przyjmujemy pieniędzy od dostawców modeli ani narzędzi. Nasze rekomendacje zależą wyłącznie od tego, jak każda opcja sprawdza się w twoim zadaniu.

Twoje dane treningowe nie opuszczają twojego środowiska.

Wagi wytrenowanego modelu należą do ciebie.

Zapisujemy wyniki testów i decyzje tak, aby twoi audytorzy mogli je prześledzić.

Wymaganiami twojej rady pracowników zajmujemy się na wczesnym etapie.

Pytania

Czy za pierwszą rozmowę trzeba płacić?

Nie. Przez 30 minut rozmawiasz z jednym z naszych inżynierów o zadaniu, które masz na myśli. Nie udostępniasz żadnych danych, a my nie potrzebujemy dostępu do twoich systemów.

Czy są dowody na to, że mały wytrenowany model może pokonać model frontier?

Tak, w wąskich zadaniach z dobrymi etykietami. W październiku 2026 Coinbase poinformował, że model Qwen3.5-9B wytrenowany na jego własnych danych o oszustwach poradził sobie lepiej niż model frontier, przy ponad dwukrotnie mniejszym opóźnieniu. Przy otwartym rozumowaniu lub zadaniach wymagających szerokiej wiedzy lepszym wyborem pozostają modele frontier.

Opis techniczny Coinbase

Co, jeśli wytrenowany model wypadnie gorzej niż nasz obecny?

Wtedy zostajesz przy obecnym modelu. Zbiór testowy i pipeline ewaluacji zostają u ciebie i możesz ich używać do wyboru i monitorowania każdego modelu, który uruchomisz później.

Czy macie doświadczenie w trenowaniu modeli i utrzymywaniu ich na produkcji?

Tak. Nasi inżynierowie trenowali modele computer vision na ponad 100 milionach obrazów i utrzymywali je dla serwisu z milionami odwiedzających dziennie. Nadal pracujemy w tej samej kolejności co wtedy: najpierw zbiór testowy, potem trening, a na końcu monitoring, gdy model już działa.

Czego od nas potrzebujecie?

Zadania o odpowiednim wolumenie i wcześniejszych przypadków, których wyniki znasz, najlepiej kilku tysięcy. Potrzebujemy też godziny lub dwóch tygodniowo od eksperta dziedzinowego, który oceni odpowiedzi modelu.

Co, jeśli nie możemy udostępnić danych produkcyjnych?

Wtedy trening opiera się na otwartych zbiorach danych albo na danych syntetycznych. Albo zaczynamy od wyboru modelu: porównujemy istniejące modele na twoim zadaniu i trenujemy tylko wtedy, gdy nadal się to opłaca.

Z jakimi modelami bazowymi pracujecie?

Z modelami open-weight, których licencje pozwalają na użytek komercyjny, takimi jak Qwen, Gemma, Mistral, Granite i gpt-oss. Warunki różnią się między modelami. Niektóre wykluczają firmy powyżej określonej wielkości lub z siedzibą w UE, dlatego sprawdzamy je w każdym projekcie. Jeśli wymagają tego twoje zasady zakupowe, używamy modeli pochodzenia europejskiego lub amerykańskiego.

Co unijny AI Act oznacza dla modelu po fine-tuningu?

Fine-tuning z LoRA wymaga tylko niewielkiego ułamka mocy obliczeniowej, która posłużyła do wytrenowania pierwotnego modelu. To znacznie poniżej progu, od którego według wytycznych Komisji stajesz się dostawcą modelu AI ogólnego przeznaczenia. Twoje obowiązki zależą wtedy od tego, do czego model jest używany. Przygotowujemy dokumentację potrzebną twoim zespołom ds. ochrony danych i compliance, a ocena prawna pozostaje po stronie twoich prawników.

Porozmawiaj z inżynierem

Przyjdź z jednym zadaniem, które chcesz usprawnić. Rozmowa trwa 30 minut i nie wymaga dostępu do twoich systemów ani danych.

Przycisk przygotowuje e-mail w twoim własnym programie pocztowym, a wysyłasz go samodzielnie. Polityka prywatności (wersja robocza)