Czy zdarzyło wam się obserwować agenta AI przy pracy, śledzić kolejne kroki i wpisywane komendy aż nagle dotarło do was, że nie macie zielonego pojęcia, co on właściwie robi… choć chwilę później zadanie było już wykonane? Być może właśnie w takim punkcie znalazły się dziś laboratoria rozwijające najbardziej zaawansowane modele AI: widzą, że systemy osiągają wyznaczone cele, ale coraz trudniej im w pełni zrozumieć, w jaki sposób dochodzą do rezultatów i przewidzieć, co zrobią, gdy staną się jeszcze bardziej autonomiczne.
29 lipca 2026 roku pod deklaracją „Pacing the Frontier” widniało 1178 podpisów pracowników laboratoriów rozwijających najbardziej zaawansowane modele sztucznej inteligencji. Wśród sygnatariuszy znaleźli się liderzy OpenAI, Anthropica, Google DeepMind i Meta AI, a także dwaj wpływowi Polacy: Jakub Pachocki oraz Wojciech Zaremba.
Autorzy apelu nie żądają natychmiastowego zatrzymania prac nad AI. Chcą, aby rząd Stanów Zjednoczonych wsparł międzynarodową inicjatywę służącą stworzeniu technicznych i prawnych narzędzi, dzięki którym w przyszłości można byłoby świadomie zwolnić rozwój systemów frontier. Kluczowe słowo brzmi jednak „międzynarodową”. Żadne laboratorium ani państwo nie chce zahamować jako pierwsze, jeśli konkurenci nadal będą przyspieszać.
Czego domagają się autorzy „Pacing the Frontier”?
Deklaracja „Pacing the Frontier” jest krótka, ale dotyka jednego z najważniejszych problemów współczesnej sztucznej inteligencji. Jej autorzy wskazują, że czołowe firmy mogą zbliżać się do automatyzacji badań nad samą AI. Model nie służyłby już wyłącznie do pisania tekstu czy kodu dla klientów. Pomagałby projektować eksperymenty, ulepszać metody treningu i budować swojego następcę.
Jeśli taki mechanizm okaże się skuteczny, tempo rozwoju może gwałtownie wzrosnąć. Kolejne generacje modeli będą pomagały tworzyć jeszcze lepsze generacje, skracając cykl badań z miesięcy do tygodni lub dni. Sygnatariusze ostrzegają, że możliwości systemów mogą wtedy rosnąć szybciej niż zdolność społeczeństwa do ich rozumienia, kontrolowania i regulowania.
Dlatego proszą o przygotowanie narzędzi, które pozwoliłyby „kupić czas”: wzmocnić zabezpieczenia, opracować nadzór i reagować na nowe ryzyka. Nie przedstawiają jednak gotowego moratorium, limitu mocy obliczeniowej ani daty zatrzymania treningów. Apel dotyczy zbudowania hamulca, zanim pojawi się sytuacja, w której będzie on naprawdę potrzebny.
Jakub Pachocki i Wojciech Zaremba wśród sygnatariuszy
Polski wątek jest szczególnie istotny, ponieważ nie chodzi o osoby stojące na obrzeżach OpenAI. Jakub Pachocki figuruje na liście jako Chief Scientist OpenAI. Odpowiada za naukowy kierunek jednej z najważniejszych firm AI na świecie i należy do osób mających bezpośredni wpływ na rozwój jej najbardziej zaawansowanych modeli. Więcej o jego drodze naukowej i roli w firmie pisaliśmy w tekście „Jakub Pachocki: polski Chief Scientist OpenAI”.
Wojciech Zaremba, współzałożyciel OpenAI, został przedstawiony jako Head of AI Resilience w OpenAI Foundation. Jego podpis jest ważny również symbolicznie: pochodzi od człowieka, który od początku uczestniczył w budowaniu organizacji mającej rozwijać zaawansowaną AI, a dziś zajmuje się odpornością i bezpieczeństwem tych systemów. Jego sylwetkę opisaliśmy w artykule „Wojciech Zaremba: Polak, który współtworzył OpenAI”.
Na liście są też m.in. Mark Chen, Chief Research Officer OpenAI, badacz Boaz Barak oraz pracownicy zespołów bezpieczeństwa i technicznych OpenAI. Po stronie Anthropica podpisali się CEO Dario Amodei, współzałożyciele Jared Kaplan, Jack Clark i Benjamin Mann, a także badacze Chris Olah oraz Jan Leike. Obok nich widnieją przedstawiciele Google, Google DeepMind i Meta AI.
Według strony inicjatywy podpisy są weryfikowane za pomocą firmowych adresów e-mail lub innego dowodu zatrudnienia. Deklarację opublikowali pracownicy firm frontier AI przy wsparciu dwóch niezależnych organizacji: Guidelight AI Standards i Encode AI. Nie należy więc przedstawiać jej jako formalnego, wspólnego stanowiska wszystkich wymienionych korporacji. Firma Anthropic publicznie poparła jednak inicjatywę, a jej CEO i kilku współzałożycieli podpisało ją osobiście.
Dlaczego laboratoria zaczęły mówić o hamowaniu?
Bezpośrednim tłem apelu jest możliwość rekurencyjnego samodoskonalenia AI. Chodzi o sytuację, w której modele w coraz większym stopniu automatyzują badania potrzebne do stworzenia swoich mocniejszych następców.
Anthropic opisał ten proces w analizie „When AI builds itself”. Firma podaje, że jej inżynierowie wytwarzają obecnie średnio osiem razy więcej kodu na kwartał niż w latach 2021–2025. W wewnętrznej ankiecie pracownicy zespołów badawczych ocenili natomiast, że dzięki zaawansowanym modelom osiągają około czterokrotnie większą produktywność przy wykonywaniu typowych projektów.
Nie oznacza to jeszcze, że AI potrafi samodzielnie zaprojektować i wytrenować swojego następcę. Anthropic przyznaje, że modele znacznie lepiej wykonują dobrze zdefiniowane eksperymenty, niż samodzielnie wybierają właściwe kierunki badań. Trend jest jednak wystarczająco silny, aby laboratoria zaczęły rozważać scenariusz nagłego przyspieszenia.
Nikt nie chce zatrzymać się jako pierwszy
Największą wartością deklaracji jest to, że otwarcie opisuje konflikt interesów. Każda firma może uznać, że tempo rozwoju staje się ryzykowne, ale jednostronne zwolnienie oznacza oddanie przewagi konkurentom.
Dotyczy to także rywalizacji OpenAI z Anthropic. Trudno oczekiwać, że jedna z firm dobrowolnie zamrozi prace w chwili, gdy znajduje się tuż za konkurentem w rankingach lub przygotowuje model, który może zapewnić jej prowadzenie. Nie ma dowodów, że OpenAI uzależnia ewentualne zwolnienie od wyprzedzenia Anthropica. Mechanika wyścigu sprawia jednak, że każda firma ma silną zachętę, aby wykonać jeszcze jeden krok przed uruchomieniem wspólnych ograniczeń.
Właśnie dlatego apel nie wzywa pojedynczego laboratorium do rezygnacji z kolejnego modelu. Próbuje stworzyć podstawy mechanizmu, który obejmowałby wszystkich najważniejszych graczy jednocześnie.
A co zrobią Chiny?
To najtrudniejsze pytanie, na które sama deklaracja nie udziela konkretnej odpowiedzi. Autorzy mówią o wysiłku międzynarodowym, lecz nie przedstawiają sposobu włączenia Chin, zasad kontroli ani konsekwencji potajemnego prowadzenia dalszych prac.
Porozumienie obejmujące wyłącznie firmy amerykańskie mogłoby spowolnić OpenAI, Anthropica, Google i Metę, jednocześnie zostawiając chińskim laboratoriom przestrzeń do nadrobienia dystansu. W takiej sytuacji presja polityczna i biznesowa szybko podważyłaby trwałość ograniczeń. Z drugiej strony Chiny również nie mają interesu w niekontrolowanym rozwoju systemów, które mogłyby zagrozić bezpieczeństwu państwa lub wymknąć się spod kontroli ich twórców.
Problemem pozostaje weryfikacja. Trening dużego modelu łatwiej ukryć niż test rakiety czy budowę silosu nuklearnego. Te same centra danych mogą obsługiwać usługi chmurowe, badania naukowe i trening AI. Wiarygodny system musiałby pozwalać sprawdzić, czy konkurenci faktycznie zwolnili, nie ujawniając przy tym wszystkich tajemnic technologicznych i danych.
Co może wyniknąć z petycji?
W krótkiej perspektywie najbardziej prawdopodobny nie jest zakaz trenowania nowych modeli, lecz praca nad infrastrukturą przyszłej koordynacji. Mogłaby ona obejmować:
- wspólne testy mierzące zdolność modeli do automatyzowania badań nad AI,
- progi bezpieczeństwa uruchamiające dodatkowy nadzór,
- monitorowanie największych treningów i wykorzystywanej mocy obliczeniowej,
- procedury szybkiego informowania innych laboratoriów o niebezpiecznych możliwościach,
- uzgodnione warunki rozpoczęcia, kontrolowania i zakończenia czasowego spowolnienia,
- międzynarodowy system weryfikacji obejmujący także państwa spoza zachodniego ekosystemu AI.
„Pacing the Frontier” nie rozwiązuje żadnego z tych problemów. Pokazuje jednak, że obawa przed gwałtownym przyspieszeniem nie jest już wyłącznie tematem zewnętrznych krytyków AI. Pod deklaracją podpisali się ludzie kierujący badaniami w firmach, które są najbliżej technologicznego frontu. Oni wiedzą więcej.
Najważniejsze pytanie brzmi zatem nie tyle, czy laboratoria potrafią zbudować hamulec. Chodzi o to, czy zgodzą się go użyć w tym samym momencie zanim każda z nich spróbuje jeszcze po raz ostatni wyprzedzić pozostałe.
Częste pytania
Jakie cele stawiają sobie sygnatariusze deklaracji „Pacing the Frontier”?
Sygnatariusze deklaracji „Pacing the Frontier” domagają się wsparcia rządu Stanów Zjednoczonych w stworzeniu międzynarodowych narzędzi technicznych i prawnych, które pozwolą na świadome zwolnienie rozwoju systemów AI w przyszłości. Chcą, aby wzmocniono zabezpieczenia i opracowano nadzór nad rozwojem AI.
Dlaczego laboratoria AI obawiają się przyspieszenia rozwoju technologii?
Laboratoria AI obawiają się, że zbliżają się do momentu, w którym modele AI mogą automatyzować badania nad swoimi następcami, co może prowadzić do gwałtownego wzrostu tempa rozwoju. Istnieje ryzyko, że możliwości systemów rozwiną się szybciej niż zdolność społeczeństwa do ich zrozumienia i regulacji.
Kto podpisał deklarację „Pacing the Frontier”?
Deklarację „Pacing the Frontier” podpisało 1178 pracowników laboratoriów AI, w tym liderzy OpenAI, Anthropica, Google DeepMind i Meta AI. Wśród sygnatariuszy znajdują się również Polacy, Jakub Pachocki i Wojciech Zaremba.
Jakie są obawy dotyczące współpracy międzynarodowej w kontekście AI?
Obawy dotyczące współpracy międzynarodowej w kontekście AI koncentrują się na tym, że porozumienie ograniczające rozwój AI wyłącznie wśród firm amerykańskich mogłoby dać chińskim laboratoriom przewagę. Istnieje również problem weryfikacji, ponieważ trening dużego modelu AI jest trudniejszy do ukrycia niż inne technologie.
Co może wyniknąć z inicjatywy „Pacing the Frontier”?
Inicjatywa „Pacing the Frontier” może prowadzić do prac nad infrastrukturą przyszłej koordynacji, obejmującą wspólne testy, progi bezpieczeństwa, monitorowanie treningów oraz międzynarodowy system weryfikacji. Nie rozwiązuje ona jednak wszystkich problemów związanych z rozwojem AI.
