OpenAI znacznie przyspieszyło działanie agentów AI, zmieniając sposób, w jaki model komunikuje się z narzędziami i użytkownikiem. Zamiast czekać na pełną odpowiedź, agent może teraz reagować niemal na bieżąco. Klucz tkwi w technologii, która od lat napędza czaty online i gry multiplayer: WebSockets.
Co się właściwie zmieniło w agentach AI
W klasycznym podejściu agent wysyła zapytanie, czeka na odpowiedź serwera, przetwarza ją, a potem wykonuje kolejny krok. Każda taka wymiana to osobne połączenie HTTP, a razem z nim narzut czasu – zestawienie sesji, uwierzytelnienie, transfer nagłówków. Kiedy agent wykonuje kilkanaście akcji pod rząd (np. przeszukuje dokumenty, woła API, pisze kod), te drobne opóźnienia sumują się w sekundy, a czasem minuty.
OpenAI opisuje nowe podejście w notatce technicznej Speeding up agentic workflows with WebSockets. Zamiast otwierać i zamykać połączenie przy każdej akcji, agent utrzymuje jedno, stałe połączenie dwukierunkowe. Dane płyną w obie strony bez procedury powitania za każdym razem.
Dlaczego WebSockets robią różnicę
WebSockets to standard komunikacji opisany w RFC 6455. Pozwala on na trwałe, pełno-dupleksowe połączenie między klientem a serwerem przez pojedyncze gniazdo TCP. W praktyce oznacza to, że serwer może pchać dane do klienta w dowolnym momencie, a klient nie musi pytać: „czy już gotowe?”.
Wyobraź sobie rozmowę telefoniczną zamiast wymiany listów. W listach każda wiadomość wymaga koperty, znaczka i drogi na pocztę. W telefonie obie strony słyszą się od razu i mogą wchodzić sobie w słowo. Dokładnie tak zachowuje się agent korzystający z WebSockets w porównaniu do klasycznego REST.
Jak OpenAI przyspieszyło działanie agentów AI w praktyce
W agentowych workflow bottleneckiem rzadko jest sam model. Najwięcej czasu zabiera krążenie danych pomiędzy modelem, narzędziami (tool calls), bazami wiedzy i interfejsem użytkownika. OpenAI podaje, że dzięki przejściu na WebSockets udało się wyraźnie obniżyć opóźnienia w pętli „model – narzędzie – model”, szczególnie przy długich sesjach, w których agent wykonuje dziesiątki kroków.
Kluczowe usprawnienia to strumieniowanie tokenów w czasie rzeczywistym, równoległe wywołania narzędzi bez potrzeby zamykania połączenia oraz szybsza obsługa przerwań, gdy użytkownik chce zmienić zdanie w trakcie działania agenta. Taka architektura jest też przyjaźniejsza dla trybu głosowego – opóźnienie poniżej pewnego progu jest różnicą między naturalną rozmową a niezgrabnym przerzucaniem się zdaniami.
Jeśli interesuje Cię szerszy kontekst tego, jak budowane są dziś autonomiczne systemy, warto zajrzeć do naszego wpisu o orkiestracji AI, gdzie pokazujemy typowe schematy działania.
Co to oznacza dla deweloperów
Z punktu widzenia programisty zmiana jest konkretna: zamiast składać aplikację z serii zapytań HTTP, utrzymuje się jedno długie połączenie. API Realtime od OpenAI, opisane w oficjalnej dokumentacji, pokazuje, jak wysyłać zdarzenia i odbierać strumień odpowiedzi modelu wraz z wywołaniami funkcji.
W materiale OpenAI pada trafne podsumowanie: „WebSockets pozwalają agentom działać z opóźnieniami bliskimi interaktywnym” (OpenAI). W praktyce oznacza to, że asystent odpowiadający na pytanie o pogodę czy rezerwujący stolik nie musi już sprawiać wrażenia, że „się zastanawia”.
Trzeba jednak pamiętać o nowych wyzwaniach. Trwałe połączenia wymagają przemyślanej obsługi błędów, ponownego łączenia po zerwaniu sieci i limitów zasobów po stronie serwera. Inaczej rozkłada się też koszt infrastruktury – zamiast krótkich, tanich żądań mamy długie sesje, które trzeba monitorować.
Szerszy obraz: agenci stają się użyteczni
Przez ostatnie dwa lata agenci AI częściej budzili rozczarowanie niż zachwyt. Demonstracje wyglądały świetnie, ale w realnych zastosowaniach były zbyt wolne albo zbyt kruche. Przyspieszenie komunikacji to mniej efektowna zmiana niż nowy model, lecz to właśnie takie detale decydują o tym, czy z agenta da się codziennie korzystać.
Jeśli chcesz zobaczyć, jak takie usprawnienia wpływają na praktyczne narzędzia, polecamy naszą sekcję aktualności o sztucznej inteligencji, gdzie regularnie opisujemy nowości od największych laboratoriów.
Wniosek jest prosty: im mniej czasu tracimy na transport danych, tym więcej zostaje na faktyczne rozumowanie modelu. A to oznacza, że agenci AI powoli przestają być demem konferencyjnym, a zaczynają być narzędziem, które można wpiąć w realną pracę.
