W dobie rosnącej popularności sztucznej inteligencji, ChatBoty stają się coraz bardziej zaawansowane i niezwykle przydatne. OpenAI, twórca ChatGPT, wykorzystuje potężną moc obliczeniową, by dostarczyć użytkownikom precyzyjnych i wartościowych odpowiedzi. Niestety, za tą imponującą technologią kryją się ogromne koszty utrzymania, które zdają się być nieuniknione. Jak jednak wskazują badania przeprowadzone przez SemiAnalysis, obecne koszty mogą być znacząco zredukowane dzięki planowanym inwestycjom i innowacjom. Oto nieco bardziej szczegółowy przegląd sytuacji związanej z utrzymaniem ChatGPT.
Imponujące koszty utrzymania ChatBota OpenAI
SemiAnalysis przeprowadziło badania, które ujawniły znaczne koszty związane z utrzymaniem ChatBota OpenAI. Ten innowacyjny system opiera się na 3617 serwerach HGX A100 z 28936 procesorami graficznymi, co prowadzi do kosztu zapytania wynoszącego około 1,50 PLN.
Przyczyny wysokich kosztów i plany obniżenia ich wartości
Głównym powodem tak wysokich kosztów utrzymania popularnego generatywnego systemu „sztucznej inteligencji” są zaawansowane układy scalone. Istnieją nieoficjalne informacje, że Microsoft, istotny inwestor OpenAI, rozwija własny układ AI o nazwie „Athena”. Jego wprowadzenie miałoby zastąpić procesory graficzne NVIDIA oraz istotnie zredukować koszty działania ChatGPT, obecnie osiągające nawet 700 000 USD dziennie.
ChatGPT Plus – próba zrównoważenia kosztów
Ze względu na ogromne koszty utrzymania, które sięgają nawet setek tysięcy dolarów dziennie, OpenAI zdecydowało się na wprowadzenie ChatGPT Plus. Niemniej jednak, przychody z subskrypcji prawdopodobnie stanowią jedynie niewielki procent całkowitych wydatków.
Wyjątkowe koszty operacyjne w porównaniu do kosztów szkolenia
Szkolenie dużych modeli językowych ChatGPT kosztuje prawdopodobnie dziesiątki milionów dolarów. Jak jednak podkreślają Dylan Patel i Afzal Ahmad z SemiAnalysis, koszty operacyjne znacznie przekraczają koszty szkolenia, szczególnie gdy model jest wdrożony na dużą skalę. W rzeczywistości, koszty wnioskowania ChatGPT są wyższe nawet od tygodniowych kosztów szkolenia.
Perspektywy obniżenia kosztów dzięki Microsoftowi
Dylan Patel, główny analityk w SemiAnalysis, zaznaczył, że obecne koszty uruchomienia oprogramowania mogą być jeszcze wyższe, gdyż GPT-4 prawdopodobnie jest droższy w eksploatacji niż GPT-3. Patel oparł swoje szacunki na starszym modelu GPT-3, lecz OpenAI wydało już wersję GPT-4 dla subskrybentów. Nowy model ma zapewniać precyzyjniejsze informacje i lepszą ochronę przed niestandardowymi pytaniami i odpowiedziami, co było problemem w przypadku GPT-3/3.5.
Częste pytania
Jakie są główne przyczyny wysokich kosztów utrzymania ChatGPT?
Głównym powodem wysokich kosztów utrzymania ChatGPT są zaawansowane układy scalone, które wymagają dużej mocy obliczeniowej. Koszty te sięgają nawet 700 000 USD dziennie, co stanowi znaczące obciążenie finansowe dla OpenAI.
Czy ChatGPT Plus pomaga w obniżeniu kosztów operacyjnych?
ChatGPT Plus został wprowadzony przez OpenAI jako próba zrównoważenia ogromnych kosztów utrzymania. Jednak przychody z subskrypcji stanowią jedynie niewielki procent całkowitych wydatków, co nie wystarcza do pokrycia kosztów operacyjnych.
Kiedy możemy spodziewać się obniżenia kosztów działania ChatGPT?
Obniżenie kosztów działania ChatGPT może nastąpić dzięki planowanym inwestycjom i innowacjom, w tym rozwojowi układu AI 'Athena' przez Microsoft. Jego wprowadzenie ma na celu zastąpienie droższych procesorów graficznych NVIDIA.
Jakie są różnice w kosztach szkolenia i kosztach operacyjnych ChatGPT?
Koszty operacyjne ChatGPT znacznie przekraczają koszty szkolenia, które wynoszą dziesiątki milionów dolarów. W rzeczywistości, koszty wnioskowania są wyższe niż tygodniowe koszty szkolenia, co podkreśla znaczenie efektywności operacyjnej.
Czy GPT-4 jest droższy w eksploatacji niż GPT-3?
Tak, analitycy wskazują, że GPT-4 prawdopodobnie jest droższy w eksploatacji niż jego poprzednik, GPT-3. Nowy model ma jednak zapewniać lepszą precyzję informacji i ochronę przed niestandardowymi pytaniami.
