Modele i dostawcy

Destylacja modelu· Knowledge distillation

„Duży, drogi nauczyciel uczy małego, taniego ucznia – uczeń zwykle wystarcza.”

Tak powstają 'mini' modele: Claude Haiku, GPT-5 mini, Gemini Flash – destylowane z większych braci. Często też self-distillation: model uczy się od siebie z reasoning trace.

Po co Ci to: Tanie modele do prostych zadań – bez utraty jakości tam, gdzie ona nie jest krytyczna.

Mylone z:fine-tuning

Powiązane:Fine-tuning MoE LLM

🥚Nauczyciel napisze 1000 esejów, uczeń się od niego uczy. Tani jak student, sprytny jak prof.

Udostępnij:LinkedIn X

Powiązane pojęcia

Modele i dostawcy

Fine-tuning

„Doszkalanie gotowego modelu na Twoich danych. Specjalizacja, nie nauka od zera.”

Zobacz 3 poziomy →

Modele i dostawcy

MoE

„Zamiast jednego mózgu pracującego na pełnej mocy – panel specjalistów, z których odzywa się tylko ten od tematu.”

Zobacz 3 poziomy →

Fundamenty AI i LLM⭐

LLM

„Mózg, który zjadł pół internetu i zgaduje następne słowo – zaskakująco dobrze.”

Zobacz 3 poziomy →

Chcesz to wdrożyć u siebie?

Uczymy AI i automatyzacji na realnych projektach – od pierwszego workflow po agentów.

Zobacz szkolenia Cały słownik