OpenAI pokazało pierwsze wyniki Jalapeño, własnego układu zaprojektowanego do inferencji modeli AI. W testach GPT-OSS 120B, DeepSeek R1 i Kimi K2.5 firma deklaruje od 1,5 do 1,9 raza większą szczytową przepustowość na kilowat oraz wyraźnie niższe opóźnienia niż w porównywanych konfiguracjach Nvidia GB200 i GB300. To mocny debiut, ale jeszcze nie niezależny dowód, że Jalapeño jest uniwersalnie szybsze lub tańsze.
Najważniejsze ograniczenie kryje się w metodologii. Wyniki pochodzą z publicznego zestawu InferenceX, lecz test niedostępnego na rynku układu przeprowadziło OpenAI. Efektywność energetyczną w głównym porównaniu policzono na podstawie znamionowej mocy pakietów, a nie całkowitego poboru energii przez serwery. Dlatego liczby mówią dużo o konkretnym punkcie pracy, ale nie odpowiadają jeszcze na wszystkie pytania o koszty produkcyjnego centrum danych.
Jalapeño w skrócie
- To pierwszy własny chip OpenAI przeznaczony do inferencji, czyli uruchamiania już wytrenowanych modeli.
- Firma porównała go z Nvidia GB200 i GB300 na trzech dużych modelach: GPT-OSS 120B, DeepSeek R1 670B i Kimi K2.5 1T.
- OpenAI deklaruje 1,5–1,9 raza więcej pracy AI na wat przy szczytowej przepustowości oraz 1,7–3,6 raza niższe opóźnienie end-to-end.
- Układ ma trafić do wewnętrznej infrastruktury OpenAI do końca 2026 roku. Nie ogłoszono sprzedaży, publicznej usługi ani cennika.
- Nie ujawniono procesu technologicznego, liczby tranzystorów, konfiguracji pamięci ani kosztu produkcji.
Po co OpenAI własny chip do inferencji
Trening dużego modelu przyciąga najwięcej uwagi, lecz po premierze to inferencja staje się powtarzalnym kosztem. Każde pytanie użytkownika uruchamia obliczenia, przesyłanie danych z pamięci i komunikację między akceleratorami. Przy milionach zapytań różnica w opóźnieniu oraz liczbie tokenów uzyskanych z jednostki energii bezpośrednio wpływa na pojemność usługi i jej ekonomię.
OpenAI opisuje Jalapeño nie jako samodzielny procesor, lecz jako zintegrowany system obejmujący układ, pamięć, sieć i oprogramowanie. Projekt uwzględnia dwa odmienne etapy inferencji. Prefill, czyli przetworzenie promptu i zbudowanie stanu modelu, wymaga dużej mocy obliczeniowej. Decode, a więc generowanie kolejnych tokenów, jest częściej ograniczony przepustowością pamięci.
Jednym z ważnych elementów ma być jawne rozmieszczanie pamięci podręcznej KV. To zapis informacji o wcześniej przetworzonych tokenach, dzięki któremu model nie liczy wszystkiego od początku przy każdym kolejnym słowie. OpenAI chce kontrolować, gdzie ten stan znajduje się w połączonym systemie, zamiast pozostawiać decyzję ogólnemu stosowi sprzętowo-programowemu. Takie podejście jest logiczną odpowiedzią na ograniczenia inferencji dużych modeli językowych.
Co pokazują opublikowane wyniki
Testy wykonano w InferenceX przy nominalnej sekwencji 8 tys. tokenów wejścia i 1 tys. tokenów wyjścia. Główne porównanie korzysta z generowania jednego tokenu w każdym kroku, czyli single-token prediction. Poniższe dane są wynikami opublikowanymi przez OpenAI 25 sierpnia 2026 roku, a nie pomiarami AIOAI.pl ani niezależnego laboratorium.
| Model i rywal | Szczytowa przepustowość Jalapeño | Szczytowa przepustowość GPU | Opóźnienie E2E: Jalapeño / GPU | Minimalny TBT: Jalapeño / GPU |
|---|---|---|---|---|
| GPT-OSS 120B vs GB200 | 85 448 tok./s/kW | 44 960 tok./s/kW | 1,03 s / 1,80 s | 0,69 ms / 1,87 ms |
| DeepSeek R1 670B vs GB300 | 19 641 tok./s/kW | 11 781 tok./s/kW | 1,65 s / 5,99 s | 1,43 ms / 5,90 ms |
| Kimi K2.5 1T vs GB300 | 18 195 tok./s/kW | 11 862 tok./s/kW | 1,56 s / 5,31 s | 1,44 ms / 5,48 ms |
W przypadku GPT-OSS 120B daje to około 1,9 raza większą szczytową przepustowość na kW niż GB200. Dla DeepSeek R1 przewaga nad GB300 wynosi około 1,7 raza, a dla Kimi K2.5 około 1,5 raza. Różnice w minimalnym czasie pomiędzy tokenami są większe: od około 2,7 raza dla GPT-OSS do 4,1 raza dla DeepSeek R1.
TBT, czyli time between tokens, opisuje rytm generowania po rozpoczęciu odpowiedzi. Niski wynik jest istotny w rozmowie na żywo, kodowaniu z agentem czy obsłudze głosowej, bo użytkownik widzi kolejne fragmenty odpowiedzi szybciej. Opóźnienie end-to-end obejmuje natomiast wykonanie całego zadania w założonych warunkach. Nie należy mieszać obu miar ani sprowadzać ich do jednego hasła „szybszy chip”.
Dlaczego spektakularne mnożniki wymagają kontekstu
W tabelach OpenAI pojawiają się również przewagi przekraczające 50, a nawet 100 razy. Dotyczą one przepustowości przy narzuconym czasie między tokenami odpowiadającym poprzedniej generacji układu. W tym konkretnym punkcie konfiguracja GPU trafia na stromy fragment krzywej wydajności, dlatego jej przepustowość gwałtownie spada. To cenna informacja o zachowaniu pod rygorystycznym limitem opóźnienia, ale nie ogólny mnożnik szybkości Jalapeño.
Najbardziej porównywalnym skrótem pozostaje więc zakres 1,5–1,9 raza przy szczytowej przepustowości na kW. Nawet on wymaga przypisu: OpenAI normalizuje wyniki według opublikowanej mocy pakietu. Dla Jalapeño przyjęto 700 W, dla GB200 1200 W, a dla GB300 1400 W. Firma podaje też, że zmierzone, utrzymywane zużycie Jalapeño nie przekraczało 550 W, jednak w głównej tabeli konsekwentnie użyła wartości znamionowej 700 W.
To nie jest to samo co energia pobierana przez kompletny serwer z procesorami, pamięcią, siecią, chłodzeniem i stratami zasilania. Na przykład procedury energetyczne MLCommons rozróżniają znamionową moc komponentu od walidowanego pomiaru całego systemu po stronie zasilania AC. Bez takiego pomiaru nie da się z samych TPS/kW wyprowadzić rachunku za energię ani całkowitego kosztu obsługi zapytania.
Publiczny benchmark, ale układ nadal zamknięty
InferenceX publikuje kod, dane, receptury uruchomień, logi i artefakty. Każdy punkt ma prowadzić do konkretnego zadania w GitHub Actions. To znacznie lepsza sytuacja niż wykres bez metodologii, bo można sprawdzić długość sekwencji, sposób grupowania zapytań i definicje metryk.
Przejrzystość frameworka nie oznacza jednak niezależnej replikacji sprzętu. Jalapeño nie jest dostępne zewnętrznym laboratoriom, a pomiary wykonano z udziałem inżynierów OpenAI w infrastrukturze firmy. SemiAnalysis deklaruje niezależność benchmarku, ale wymienia też OpenAI, Nvidię i innych producentów jako podmioty wspierające jego rozwój. Najuczciwsze określenie brzmi zatem: wyniki producenta uzyskane według publicznej metodologii.
Porównanie obejmuje ponadto określone wersje modeli, stosy oprogramowania i single-token prediction. Nie pokazuje wszystkich sposobów, w jakie operator może zoptymalizować GPU. Nie obejmuje też nowszej platformy Vera Rubin, o której pisaliśmy w kontekście kolejnej generacji chipów Nvidia do AI. Jalapeño rozwiązuje problem zaprojektowany pod obciążenia OpenAI; nie musi być najlepszym wyborem dla każdego modelu i każdej organizacji.
AI pomagała projektować chip i jego oprogramowanie
Drugim ciekawym wątkiem jest sposób powstania platformy. OpenAI twierdzi, że narzędzia AI pomogły przejść do tape-outu — wysłania finalnego projektu do produkcji — w dziewięć miesięcy. Firma nie podała klasycznej osi czasu projektu bez udziału AI, dlatego tej liczby nie można zamienić w dokładny procent oszczędności.
Jeszcze konkretniejszy przykład dotyczy oprogramowania. Codex i wewnętrzny system GPT-Astra miały w dwa miesiące dostosować trzy otwarte modele do nowej architektury. W wybranych blokach attention i mixture-of-experts dla GPT-OSS implementacje stworzone z pomocą modeli osiągnęły 1,5–1,8 raza większą wydajność niż wersje napisane ręcznie. To wynik dla wskazanych fragmentów kodu, nie przyspieszenie całej inferencji o ten sam współczynnik.
Jeżeli proces okaże się powtarzalny, może zmienić tempo współprojektowania sprzętu i modeli. Własny akcelerator przestaje być wtedy statycznym produktem odświeżanym co kilka lat, a staje się częścią pętli: profil obciążenia wskazuje wąskie gardło, architektura je usuwa, a narzędzia AI szybciej dostosowują kompilator i jądra. To potencjalnie ważniejsza przewaga niż pojedynczy rekord benchmarku.
Kiedy Jalapeño trafi do użytkowników
Na razie nie bezpośrednio. OpenAI zapowiada wdrożenie pierwszej generacji we własnych centrach danych do końca 2026 roku. Firma nie ogłosiła sprzedaży kart, dostępu do sprzętu w chmurze ani osobnej pozycji w cenniku API. Dla użytkownika zmiana może być pośrednia: większa pojemność usługi, niższe opóźnienia albo lepsza ekonomika niektórych modeli. Żadnego z tych efektów nie obiecano jednak w formie konkretnej ceny czy poziomu SLA.
Projekt potwierdza kierunek, o którym AIOAI.pl pisało już przy wcześniejszych planach własnych chipów OpenAI i analizie zależności firmy od Nvidii. Jalapeño nie kończy tej zależności. Trening, obsługa wielu modeli i rozbudowa centrów danych nadal wymagają szerokiego ekosystemu. Daje jednak OpenAI dodatkowe narzędzie do optymalizacji najbardziej powtarzalnej części działalności.
Co naprawdę zmienia premiera
Jalapeño wygląda na technicznie udany pierwszy krok: wynik powtarza się na trzech dużych modelach, metodologia jest opisana, a przewaga dotyczy zarówno przepustowości, jak i opóźnienia. Najważniejsze pytania pozostają jednak otwarte. Potrzebne są pomiary całego systemu, niezależna replikacja, porównanie na szerszym zestawie modeli i dane o koszcie wdrożenia.
Do tego czasu rozsądny wniosek jest węższy niż nagłówek o „pokonaniu Nvidii”. OpenAI zbudowało specjalizowaną platformę, która w opublikowanych warunkach InferenceX wykonuje inferencję efektywniej od wskazanych konfiguracji GB200 i GB300. Jeśli utrzyma tę przewagę w produkcji i przełoży ją na usługi, Jalapeño może ograniczyć koszt oraz opóźnienie działania modeli OpenAI. Pierwszy benchmark pokazuje potencjał; o realnej przewadze rynkowej zdecyduje dopiero skala wdrożenia.
Częste pytania
Jakie są główne zalety układu Jalapeño w porównaniu do Nvidia GB200 i GB300?
Jalapeño oferuje od 1,5 do 1,9 raza większą szczytową przepustowość na kilowat oraz 1,7–3,6 raza niższe opóźnienie end-to-end w porównaniu do układów Nvidia. To oznacza, że Jalapeño może efektywniej obsługiwać zapytania użytkowników, co jest kluczowe w kontekście inferencji modeli AI.
Dlaczego wyniki testów Jalapeño wymagają kontekstu?
Wyniki testów Jalapeño mogą być mylące, ponieważ nie uwzględniają całkowitego poboru energii przez serwery, a jedynie znamionową moc pakietów. To oznacza, że liczby dotyczące wydajności mogą nie oddawać rzeczywistych kosztów operacyjnych w produkcyjnym centrum danych.
Kiedy Jalapeño ma trafić do wewnętrznej infrastruktury OpenAI?
OpenAI planuje wprowadzenie układu Jalapeño do swojej wewnętrznej infrastruktury do końca 2026 roku. Na razie nie ogłoszono sprzedaży ani publicznej usługi związanej z tym chipem.
Jakie są różnice w opóźnieniach między Jalapeño a konkurencyjnymi układami?
Jalapeño wykazuje znacznie niższe opóźnienia end-to-end w porównaniu do Nvidia, osiągając minimalny czas między tokenami od około 2,7 raza dla GPT-OSS do 4,1 raza dla DeepSeek R1. Niskie opóźnienia są kluczowe dla aplikacji wymagających szybkiej interakcji, takich jak rozmowy na żywo.
W jaki sposób AI przyczyniła się do rozwoju chipu Jalapeño?
OpenAI wykorzystało narzędzia AI do przyspieszenia procesu projektowania chipu Jalapeño, co pozwoliło na przejście do etapu tape-out w zaledwie dziewięć miesięcy. Dodatkowo, AI pomogła w dostosowaniu modeli do nowej architektury, osiągając lepszą wydajność niż tradycyjne metody programowania.
