Meta ogłosiła dziś premierę nowej rodziny modeli językowych Llama 4. To kolejny krok w rozwoju AI. Zarazem początek nowego etapu gry – takiego, w którym modele są nie tylko szybsze i dokładniejsze, ale przede wszystkim “natywnie multimodalne”. Oznacza to, że potrafią jednocześnie rozumieć tekst i obraz w sposób zintegrowany.
W centrum uwagi znalazły się dwa udostępnione do pobrania modele – Llama 4 Scout i Llama 4 Maverick. Nie mniejszą ekscytację wprowadza zapowiedź ogromnego, jeszcze trenowanego modelu Llama 4 Behemoth. Wszystkie one korzystają z architektury Mixture-of-Experts (MoE), która pozwala zachować wysoką jakość działania przy niższym zapotrzebowaniu na zasoby obliczeniowe.
Meta chwali się, że Scout i Maverick nie tylko przewyższają wcześniejsze modele Llama, ale są też lepsze od konkurencyjnych rozwiązań. Mowa tu o takich modelach jak Gemini 2.0, GPT-4o czy Claude 3.7. Co więcej, każdy z tych modeli jest dostępny publicznie. To z kolei oznacza ogromny potencjał dla twórców, firm i wszystkich entuzjastów AI.
Przyjrzyjmy się bliżej, co tak naprawdę oferuje Llama 4, jak została zbudowana i dlaczego to wydarzenie ma znaczenie?
Co to za modele? Llama 4 Scout, Maverick i Behemoth
Rodzina Llama 4 to tak naprawdę trzy różne modele, które różnią się wielkością, przeznaczeniem i możliwościami. Ich nazwy – Scout, Maverick i Behemoth – nie są przypadkowe. Meta postawiła na podejście, w którym każdy model pełni określoną rolę w ekosystemie AI.
Llama 4 Scout
Llama 4 Scout to najmniejszy i najlżejszy z udostępnionych modeli. Został zaprojektowany z myślą o zadaniach, które wymagają szybkości, niskich opóźnień i efektywności energetycznej. To idealne rozwiązanie do aplikacji działających na urządzeniach brzegowych (edge). Co więcej także do integracji w telefonach, przeglądarkach czy lokalnych usługach AI. Scout mimo swoich niewielkich rozmiarów (kilka miliardów parametrów) potrafi naprawdę sporo. Przewyższa chociażby jakością wcześniejsze modele Llama 2 i 3, a jego zoptymalizowana architektura czyni go wyjątkowo wydajnym.
Llama 4 Maverick
Llama 4 Maverick to złoty środek – model średniej wielkości (ok. 25 miliardów parametrów), który świetnie sprawdza się w bardziej złożonych zastosowaniach. Na przykład jako silnik chatbota, asystenta kodowania czy w analizie danych. Jest na tyle lekki, by dało się go uruchomić lokalnie (na odpowiednio mocnym sprzęcie). Jednocześnie oferuje bardzo wysoką jakość odpowiedzi, zbliżoną do tej, jaką znamy z topowych modeli zamkniętych, jak GPT-4 Turbo.
Llama 4 Behemoth
I wreszcie – Llama 4 Behemoth. Tego modelu jeszcze nie możemy przetestować, bo wciąż trwa jego trening, ale sama zapowiedź budzi emocje. Behemoth ma być pełnowymiarowym modelem klasy GPT-4. Ponadto trenowanym na setkach miliardów tokenów, z użyciem potężnej infrastruktury obliczeniowej (ponad 10 000 GPU). Co ważne, od samego początku będzie to model multimodalny – czyli potrafiący jednocześnie analizować tekst i obrazy. To odpowiedź Mety na GPT-4o od OpenAI i Gemini 1.5 od Google.
Wszystkie trzy modele bazują na nowoczesnej architekturze Mixture-of-Experts (MoE). Architektura ta pozwala modelowi dynamicznie „dobierać” tylko niektóre części swojej struktury do przetwarzania konkretnego zadania. Dzięki temu mogą być znacznie większe (i mądrzejsze), nie tracąc przy tym na szybkości działania.
Jak powstały nowe modele Mety? Wyciek, licencje i etyka
Trening modeli językowych na poziomie Llama 4 to operacja na skalę przemysłową. Wymaga bowiem setek tysięcy GPU-godzin, tysięcy terabajtów danych i całego zespołu inżynierów, badaczy i specjalistów od etyki. Meta, w przeciwieństwie do wielu firm rozwijających sztuczną inteligencję, postanowiła zachować w tym procesie względną przejrzystość – przynajmniej na poziomie technicznym.
Wiemy, że Llama 4 trenowano na ogromnym korpusie danych obejmującym teksty z internetu, książki, kody źródłowe. A według nieoficjalnych informacji – także dane multimedialne, w tym obrazy. Meta twierdzi, że skupiła się na jakości i różnorodności danych, unikając treści niskiej jakości, toksycznych czy naruszających prywatność. To jednak nie przeszkodziło kontrowersjom. Szczególnie w kontekście rzekomego wykorzystania danych z Reddita czy X (dawnego Twittera) bez jasnej zgody właścicieli.
Co ciekawe, jeszcze przed oficjalną premierą Llama 4 do sieci trafiły niektóre szczegóły modelu. Stało się to najpewniej w wyniku kontrolowanego (albo przypadkowego) przecieku. Widzieliśmy benchmarki, nazwę „Behemoth”, a nawet informacje o nowej architekturze i liczbie aktywnych ekspertek w MoE. Dla społeczności open source był to sygnał, że coś dużego się zbliża – i że Meta może znów udostępnić coś, co pozwoli niezależnym twórcom nadążyć za tempem rozwoju AI.
Podobnie jak w przypadku Llama 2 i 3, nowe modele objęte są licencją otwartą, ale z pewnymi ograniczeniami. Nie można bowiem np. używać ich w produktach konkurencyjnych wobec Mety (czytaj: TikTok) ani przekraczać określonego limitu użytkowników bez dodatkowej zgody. To nie jest czysty open source w stylu GPL czy MIT. Nadal – jak na standardy AI – to jeden z najbardziej otwartych modeli tej klasy na rynku.
I choć Meta chwali się „odpowiedzialnym podejściem” do trenowania AI, nie wszyscy są zachwyceni. Krytycy podkreślają brak pełnej przejrzystości, niejasne źródła danych treningowych i fakt, że decyzje etyczne podejmowano za zamkniętymi drzwiami. Z drugiej strony, społeczność naukowa docenia wysiłki Mety, by dzielić się wynikami badań i wspierać rozwój narzędzi dla programistów i badaczy.
Co potrafi Llama 4 i jakie są jego ograniczenia?
Llama 4 to model, który śmiało można zaliczyć do ligii największych graczy – obok GPT-4, Claude 3 czy Gemini 1.5. W wersji najpełniejszej (Llama 4-405B) Meta zdecydowała się na architekturę typu Mixture of Experts (MoE), w której tylko część parametrów jest aktywna przy każdym zapytaniu. To pozwala na łączenie ogromnej mocy obliczeniowej z efektywnością działania, bo choć model ma 405 miliardów parametrów, podczas działania korzysta zaledwie z ułamka tej liczby.
W praktyce oznacza to, że Llama 4 potrafi bardzo wiele: rozumie i generuje teksty na poziomie niemal nieodróżnialnym od ludzkiego, radzi sobie z kodowaniem w różnych językach programowania, analizą danych, odpowiadaniem na pytania w stylu egzaminacyjnym, a nawet rozwiązywaniem złożonych problemów matematycznych. Co więcej – podobnie jak GPT-4 czy Claude – posiada wersję multimodalną, czyli potrafi analizować obrazy i teksty jednocześnie, co otwiera zupełnie nowe możliwości.
Testy modelu
Model w testach benchmarkowych wypada bardzo dobrze – choć nie zawsze wygrywa z konkurencją, to często różnice są kosmetyczne. W testach reasoningowych (np. MMLU, GPQA czy HumanEval) Llama 4 jest w ścisłej czołówce. W zadaniach typu code generation osiąga wyniki porównywalne z GPT-4 Turbo, a w testach związanych z multimodalnością wypada lepiej niż wcześniejsze modele OpenAI.
Ale – i to ważne – Llama 4 nie jest magiczny. Nadal ma ograniczenia znane z wcześniejszych LLM-ów. Czyli potrafi halucynować fakty, bywa nadmiernie pewny siebie, czasem nie rozumie kontekstu rozmowy w dłuższych interakcjach. W trybie czysto tekstowym bywa też nieco mniej „kreatywny” niż GPT-4. Może to być zaletą (większa precyzja) albo wadą (mniej zaskakujących odpowiedzi), w zależności od zastosowania.
Nie bez znaczenia jest też fakt, że pełna wersja Llama 4 – ta naprawdę mocna – nie została jeszcze oficjalnie wydana. Meta udostępniła jedynie mniejsze warianty (np. Llama 3.8B i 70B), a wersja 405B, z którą eksperymentuje w ramach Meta AI Assistant, nadal pozostaje zamknięta dla ogółu. Deweloperzy czekają więc na ruch, który może naprawdę zmienić układ sił w świecie open source’owych modeli językowych.
Jak Llama 4 wypada na tle konkurencji?
W świecie dużych modeli językowych konkurencja jest coraz bardziej zacięta – OpenAI ze swoim GPT-4, Anthropic z Claude 3, Google z Gemini 1.5 oraz Mistral i Cohere w świecie open source. Gdzie w tym wszystkim plasuje się Llama 4?
Jakość modelu
Zacznijmy od jakości. Choć Meta nie opublikowała jeszcze pełnej dokumentacji modelu, z dotychczasowych przecieków i benchmarków wiadomo, że Llama 4 wypada bardzo dobrze – często na poziomie GPT-4 Turbo, a czasem nawet lepiej. W testach takich jak MMLU (rozumienie tekstu), HumanEval (generowanie kodu) czy DROP (rozumowanie liczbowe), Llama 4 osiąga wyniki zbliżone do najlepszych dostępnych modeli. Również w testach multimodalnych (np. rozumienie obrazów) wypada świetnie, choć tu ustępuje nieco Claude 3 Opus, który nadal króluje, jeśli chodzi o precyzję i interpretację złożonych danych wizualnych.
Open source
Czym Llama 4 wyróżnia się najbardziej? Przede wszystkim tym, że – zgodnie z zapowiedziami Mety – będzie dostępny w modelu open source. To oznacza, że każdy, kto ma odpowiednie zasoby, będzie mógł go uruchomić lokalnie, dostosować do własnych potrzeb, a nawet używać komercyjnie – coś, co w przypadku zamkniętych modeli jak GPT-4 czy Claude 3 jest poza zasięgiem. Dla firm, które chcą pełnej kontroli nad danymi i modelem, to ogromna zaleta.
Wydajność
Llama 4 wypada również bardzo dobrze pod względem wydajności. Dzięki architekturze Mixture of Experts model jest w stanie oferować wysoką jakość odpowiedzi przy relatywnie niskich kosztach obliczeniowych. To może przełożyć się na mniejsze zużycie zasobów, niż ma to miejsce w przypadku monolitycznych modeli takich jak GPT-4.
Co dalej?
Warto zaznaczyć, że na ten moment pełna wersja Llama 4 nie została jeszcze udostępniona. Najpewniej jednak publikacja nowej rodziny modeli może zmienić układ sił – zwłaszcza jeśli Meta zdecyduje się na równie otwartą licencję, jak w poprzednich modelach.
Podsumowując: Llama 4 zapowiada się na poważnego konkurenta zarówno dla komercyjnych gigantów, jak i dla open source’owych projektów. Może nie wygrywa wszystkiego, ale gra w tej samej lidze.
