WydarzenieEra transformerów
Scaling laws – matematyka skalowania
2020 · Era transformerów
'Większe = lepsze' przestało być wiarą, stało się równaniem. Stąd miliardy na compute.
Badacze OpenAI pokazali, że jakość modelu rośnie przewidywalnie wraz z jego rozmiarem, ilością danych i mocy obliczeniowej.
Po co Ci to
Wyjaśnia, dlaczego całe miliardy idą w większe modele i centra danych.