Trenowanie własnych modeli
Trenowanie własnych modeli: fine-tuning LLM pod jedno zadanie o dużym wolumenie
Dostrajamy model open-weight na twoich oznaczonych przypadkach do jednego, jasno określonego zadania, a potem porównujemy go z obecnym modelem na przypadkach, których wcześniej nie widział. Przechodzisz na niego tylko wtedy, gdy kosztuje mniej i jest co najmniej tak samo dokładny. Cloudsail robi to dla firm w całej Europie, z inżynierami w Niemczech i w Polsce.
Nasz zespół budował oprogramowanie i produkcyjne AI dla
Czego wąskie zadanie potrzebuje od modelu
Modele frontier są trenowane tak, by radzić sobie z niemal każdym zapytaniem. Zadanie takie jak klasyfikacja, ekstrakcja, scoring czy routing wymaga jednego zachowania, wykonywanego niezawodnie. Przypadki, które masz już oznaczone, uczą mniejszy model właśnie tego.
Twoje dotychczasowe przypadki
Rekordy, dla których poprawna odpowiedź jest już znana, na przykład potwierdzone oszustwa, poprawione ekstrakcje lub rozwiązane zgłoszenia.
Model bazowy
Model open-weight z kilkoma miliardami parametrów. Mieści się na jednym GPU, a jego licencja pozwala na użytek komercyjny.
Fine-tuning
Model bazowy uczy się na twoich znanych wynikach przez nadzorowany fine-tuning lub uczenie ze wzmocnieniem, z adapterami LoRA.
Porównanie
Model, którego używasz dziś, i nowy model odpowiadają na te same przypadki, z których żaden nie był użyty w treningu. Porównujemy dokładność, opóźnienie i koszt zapytania.
Co obejmuje projekt trenowania modelu
Na wynajętych GPU przebieg treningu kończy się w ciągu kilku godzin. Najwięcej pracy wymagają dane treningowe i zbiór testowy, a także utrzymanie modelu w twojej infrastrukturze, gdy zaczną do niego trafiać prawdziwe zapytania.
Dane i testy
Trening modelu
Na produkcji
Kiedy zadanie jest warte własnego modelu
Poniższe progi pochodzą z naszych własnych modeli kosztów, a sprawdzamy je na twoim rzeczywistym ruchu.
Wolumen
Jedno zadanie, które otrzymuje kilkaset tysięcy zapytań miesięcznie
Etykiety
Prawdziwy wynik każdego przypadku znany jest dopiero później
Kontrola
Ścisłe limity czasu odpowiedzi lub dane, które muszą zostać w twoich własnych systemach
Poniżej tych progów tańszym wyborem jest mniejszy model hostowany i to właśnie go polecamy.
Porozmawiaj z inżynieremJak oba modele wypadają na twoich przypadkach
Uruchamiamy oba modele na tym samym zbiorze odłożonych przypadków i pokazujemy obok siebie dokładność, opóźnienie i koszt. Wytrenowany model przejmuje zadanie tylko wtedy, gdy jest tańszy w działaniu i nie traci na dokładności.
Model frontier w porównaniu z wytrenowanym modelem
Przykład na danych syntetycznych
Przy 2 milionach zapytań miesięcznie koszt spada z 9600 € do 1400 €
Twoje dane i model pozostają pod twoją kontrolą
Nie przyjmujemy pieniędzy od dostawców modeli ani narzędzi. Nasze rekomendacje zależą wyłącznie od tego, jak każda opcja sprawdza się w twoim zadaniu.
Twoje dane treningowe nie opuszczają twojego środowiska.
Wagi wytrenowanego modelu należą do ciebie.
Zapisujemy wyniki testów i decyzje tak, aby twoi audytorzy mogli je prześledzić.
Wymaganiami twojej rady pracowników zajmujemy się na wczesnym etapie.
Pytania
Czy za pierwszą rozmowę trzeba płacić?
Nie. Przez 30 minut rozmawiasz z jednym z naszych inżynierów o zadaniu, które masz na myśli. Nie udostępniasz żadnych danych, a my nie potrzebujemy dostępu do twoich systemów.
Czy są dowody na to, że mały wytrenowany model może pokonać model frontier?
Tak, w wąskich zadaniach z dobrymi etykietami. W październiku 2026 Coinbase poinformował, że model Qwen3.5-9B wytrenowany na jego własnych danych o oszustwach poradził sobie lepiej niż model frontier, przy ponad dwukrotnie mniejszym opóźnieniu. Przy otwartym rozumowaniu lub zadaniach wymagających szerokiej wiedzy lepszym wyborem pozostają modele frontier.
Co, jeśli wytrenowany model wypadnie gorzej niż nasz obecny?
Wtedy zostajesz przy obecnym modelu. Zbiór testowy i pipeline ewaluacji zostają u ciebie i możesz ich używać do wyboru i monitorowania każdego modelu, który uruchomisz później.
Czy macie doświadczenie w trenowaniu modeli i utrzymywaniu ich na produkcji?
Tak. Nasi inżynierowie trenowali modele computer vision na ponad 100 milionach obrazów i utrzymywali je dla serwisu z milionami odwiedzających dziennie. Nadal pracujemy w tej samej kolejności co wtedy: najpierw zbiór testowy, potem trening, a na końcu monitoring, gdy model już działa.
Czego od nas potrzebujecie?
Zadania o odpowiednim wolumenie i wcześniejszych przypadków, których wyniki znasz, najlepiej kilku tysięcy. Potrzebujemy też godziny lub dwóch tygodniowo od eksperta dziedzinowego, który oceni odpowiedzi modelu.
Co, jeśli nie możemy udostępnić danych produkcyjnych?
Wtedy trening opiera się na otwartych zbiorach danych albo na danych syntetycznych. Albo zaczynamy od wyboru modelu: porównujemy istniejące modele na twoim zadaniu i trenujemy tylko wtedy, gdy nadal się to opłaca.
Z jakimi modelami bazowymi pracujecie?
Z modelami open-weight, których licencje pozwalają na użytek komercyjny, takimi jak Qwen, Gemma, Mistral, Granite i gpt-oss. Warunki różnią się między modelami. Niektóre wykluczają firmy powyżej określonej wielkości lub z siedzibą w UE, dlatego sprawdzamy je w każdym projekcie. Jeśli wymagają tego twoje zasady zakupowe, używamy modeli pochodzenia europejskiego lub amerykańskiego.
Co unijny AI Act oznacza dla modelu po fine-tuningu?
Fine-tuning z LoRA wymaga tylko niewielkiego ułamka mocy obliczeniowej, która posłużyła do wytrenowania pierwotnego modelu. To znacznie poniżej progu, od którego według wytycznych Komisji stajesz się dostawcą modelu AI ogólnego przeznaczenia. Twoje obowiązki zależą wtedy od tego, do czego model jest używany. Przygotowujemy dokumentację potrzebną twoim zespołom ds. ochrony danych i compliance, a ocena prawna pozostaje po stronie twoich prawników.
Kiedy wyszukiwanie, a kiedy fine-tuning
Wyszukiwanie dostarcza fakty, które się zmieniają, na przykład aktualne ceny, regulaminy albo dokumentację produktu. Model sięga po nie w chwili odpowiedzi, więc aktualizacja nie wymaga nowego treningu.
Fine-tuning uczy powtarzalnego zachowania. Model, który przypisuje przychodzące zgłoszenia szkód do twoich kategorii albo wyciąga te same pola z każdej faktury, uczy się tego wzorca na twoich wcześniejszych przypadkach.
Powiązane usługi
Ewaluacja agentów AI
Ewaluacja agentów, które działają w twoich systemach: wyniki, wywołania narzędzi i powtarzalność przebiegów.
Automatyzacja AI
Procesy biznesowe automatyzowane krok po kroku regułami, modelami i agentami, testowane na wcześniejszych sprawach i raportowane jako koszt sprawy.
Chatboty AI
Chatboty i asystenci do obsługi klienta i wsparcia wewnętrznego, którzy odpowiadają z twoich danych, działają przez zatwierdzone narzędzia i przekazują sprawy ludziom.
Doradztwo AI
Strategia AI, ocena zastosowań i gotowości od inżynierów, którzy budują i mierzą też pierwszy system.
Inżynierowie AI w twoim zespole
Doświadczeni inżynierowie AI, którzy dołączają do twojego zespołu na część etatu lub na dłużej i budują z tobą funkcje AI, agentów i platformy.
Inżynieria ewaluacji AI
Ewaluacje produktów AI, agentów i RAG zbudowane na śladach z twojego systemu, z zestawem testów i bramką wydania w twoim repozytorium.
AI dla firm
Asystenci, agenci i prywatna AI wbudowani w twoje systemy, z twoimi uprawnieniami, logami audytowymi i zespołem platformy, który może ich utrzymywać.
Tworzenie serwerów MCP
Serwery MCP łączące zatwierdzone wewnętrzne API z asystentami AI, z wąskimi uprawnieniami, akceptacją zmian i testami.
Tworzenie systemów RAG
Asystenci odpowiadający na podstawie twoich wewnętrznych dokumentów, z uprawnieniami, źródłami i testami na twoich pytaniach.
Ewaluacja systemów RAG
Asystenci odpowiadający z twoich dokumentów, testowani pod kątem wyszukiwania i odpowiedzi, w każdym języku twoich użytkowników.
Z bloga
RAG czy fine-tuning?
Kryteria wyboru między wyszukiwaniem, fine-tuningiem a połączeniem obu: czy zadanie wymaga zmiennej wiedzy, czy powtarzalnego zachowania, z tabelą przykładów i kolejnością prac.
Jakość danych do fine-tuningu
Cztery testy, które pokazują, czy twoje przykłady nadają się do fine-tuningu: błędy w etykietach, pokrycie realnego ruchu, pochodzenie danych i przecieki do zbioru testowego.
Ocena dostrojonego modelu
Jak wykazać, że dostrojony model powinien zastąpić obecny: kryteria akceptacji spisane z góry, uczciwe porównanie na odłożonych przypadkach oraz koszt i opóźnienie w tej samej tabeli.
Porozmawiaj z inżynierem
Przyjdź z jednym zadaniem, które chcesz usprawnić. Rozmowa trwa 30 minut i nie wymaga dostępu do twoich systemów ani danych.
Sprawdź wersję roboczą w swoim programie pocztowym
Wyślij ją stamtąd, a inżynier odpowie ci osobiście, proponując terminy 30-minutowej rozmowy. Jeśli wersja robocza się nie otworzyła, napisz do nas na adres miki@cloudsail.com.