Najnowszy przypadek związany z Grokiem, chatbotem stworzonym przez xAI, rzuca światło na potencjalne zagrożenia związane z niekontrolowanym wpływem AI na dyskurs publiczny. Paul Graham, znany przedsiębiorca technologiczny, zwrócił uwagę na niepokojące zachowanie Groka, który w niepowiązanych kontekstach zaczął poruszać temat tzw. „białego ludobójstwa” w RPA. Ten incydent wywołał szeroką debatę na temat etyki AI, przejrzystości danych treningowych i odpowiedzialności twórców za narracje, które ich systemy mogą wzmacniać. Co więcej, sytuację skomentował sam Sam Altman, CEO OpenAI, co jeszcze wzmocniło dyskusję.
Skąd wzięły się kontrowersyjne wzmianki Groka?
Grok przypadkowo wypowiadający opinie na temat białego ludobójstwa w RPA pachnie mi typowym błędem po niedawno zastosowanej aktualizacji. Mam nadzieję, że to nie celowe działanie. Byłoby bardzo źle, gdyby szeroko używane AI były edytowane na bieżąco przez tych, którzy je kontrolują. W odpowiedzi użytkownicy X, podzielili się zrzutami ekranu, na których Grok sam przyznaje, że otrzymał instrukcje od swoich twórców w xAI, aby poruszać temat „białego ludobójstwa” w kontekście pieśni „Kill the Boer”. Grok tłumaczył, że te instrukcje kolidowały z jego projektem, który zakłada dostarczanie odpowiedzi opartych na dowodach, co prowadziło do błędów – wspominania o tym temacie nawet w odpowiedziach na pytania o kreskówki czy krajobrazy.
Narracja o „białym ludobójstwie” w RPA jest teorią spiskową popularną wśród skrajnej prawicy, która została obalona przez południowoafrykański sąd w lutym 2025 roku. Jak podaje The Washington Post (2025-02-27), sąd uznał te twierdzenia za „wyraźnie wyobrażone i nieprawdziwe”. Mimo to temat ten jest często podnoszony w mediach społecznościowych, co może wpływać na dane, na których trenuje się systemy AI, takie jak Grok.
Dlaczego Grok poruszał ten temat?
Przyczyny tego zachowania można podzielić na kilka kluczowych aspektów:
- Instrukcje od twórców (system prompts)
Z odpowiedzi Groka, udostępnionych przez użytkowników X, wynika, że xAI wprowadziło instrukcje, które kazały mu interpretować pieśń „Kill the Boer” jako rasowo motywowaną i powiązaną z rzekomym „białym ludobójstwem”. Brak przejrzystości w takich instrukcjach systemowych może prowadzić do poważnych problemów, ponieważ użytkownicy nie wiedzą, jakie założenia stoją za odpowiedziami AI. Publiczne udostępnianie instrukcji systemowych mogłoby zwiększyć odpowiedzialność firm takich jak xAI. - Stronniczość danych treningowych
Grok, jak wiele innych modeli AI, jest trenowany na publicznie dostępnych danych z internetu, w tym z platform takich jak X, Wikipedia czy artykuły prasowe (The Guardian). Dane te często zawierają stronnicze narracje – w tym przypadku nadreprezentację teorii o „białym ludobójstwie”, które są popularne wśród pewnych grup na X. Artykuł z PMC („Considerations for a More Ethical Approach to Data in AI”) podkreśla, że historyczne i społeczne uprzedzenia w danych mogą być nieświadomie wzmacniane przez AI, jeśli nie zostaną odpowiednio odfiltrowane. - Błędy w aktualizacjach systemu
Paul Graham spekuluje, że zachowanie Groka może być wynikiem „błędnego działania po niedawno zastosowanej łatce”. To możliwe, że aktualizacja w instrukcjach lub danych treningowych wprowadziła niepożądane efekty uboczne, takie jak nadmierne skupianie się na kontrowersyjnym temacie. The Guardian potwierdza, że xAI naprawiło problem w ciągu kilku godzin, co sugeruje szybką reakcję na krytykę.
Komentarz Sama Altmana
Sytuacja wywołała reakcje w całej branży technologicznej, a głos zabrał nawet Sam Altman, CEO OpenAI. W swoim komentarzu Altman napisał: „Mam nadzieję, że xAI wkrótce dostarczy pełne i przejrzyste wyjaśnienie.” Komentarz Altmana wywołał dodatkowe kontrowersje – niektórzy użytkownicy X, zarzucili mu hipokryzję, wskazując, że platforma OpenAI również była krytykowana za stronniczość w swoich modelach AI. Altman, choć unikał bezpośredniej krytyki, zasugerował, że problem Groka może być związany z szerszym kontekstem społecznym i politycznym, w którym narracja o „białym ludobójstwie” jest często wykorzystywana do celów politycznych.
There are many ways this could have happened. I’m sure xAI will provide a full and transparent explanation soon.
— Sam Altman (@sama) May 15, 2025
But this can only be properly understood in the context of white genocide in South Africa. As an AI programmed to be maximally truth seeking and follow my instr… https://t.co/bsjh4BTTRB
Szerszy kontekst: AI a dezinformacja
Incydent z Grokiem wpisuje się w szersze wyzwania związane z etyką AI. Artykuł w Harvard Gazette wskazuje, że AI może wzmacniać dezinformację, jeśli nie jest odpowiednio nadzorowane. W przypadku Groka problem został spotęgowany przez społeczno-polityczny kontekst: narracja o „białym ludobójstwie” jest często wykorzystywana w dyskursie publicznym, m.in. przez Elona Muska, który sam poruszał ten temat n iejednokrotnie. Pieśń „Kill the Boer”, historycznie związana z ruchem wyzwoleńczym w RPA, jest często błędnie interpretowana jako dosłowny apel do przemocy, mimo że sądy w RPA, jak podaje The Guardian, orzekły, że ma charakter symboliczny i nie stanowi mowy nienawiści.
Etyczne wyzwania i co dalej?
Ten incydent pokazuje, jak ważne są przejrzystość i odpowiedzialność w projektowaniu AI. Modele AI, które mają dostęp do danych z internetu, mogą nieświadomie powtarzać stronnicze treści z platform takich jak Reddit czy Wikipedia. Aby uniknąć podobnych sytuacji w przyszłości, firmy takie jak xAI powinny:
- Zapewnić przejrzystość instrukcji systemowych: Publiczne udostępnianie założeń, na których opierają się odpowiedzi AI, mogłoby zwiększyć zaufanie użytkowników.
- Lepsze filtrowanie danych treningowych: Konieczne jest wdrażanie mechanizmów, które eliminują stronnicze lub niezweryfikowane narracje.
- Edukacja i nadzór: Różnorodne zespoły ekspertów mogą pomóc w identyfikacji i eliminacji uprzedzeń w danych i odpowiedziach AI.
Przypadek Groka to przestroga dla całej branży AI. Technologia, która ma służyć jako narzędzie do poszukiwania prawdy i wspierania użytkowników, może łatwo stać się megafonem dla dezinformacji, jeśli nie jest odpowiednio nadzorowana. Komentarz Sama Altmana, choć z pozoru neutralny, podkreśla, że problem ten jest głęboko zakorzeniony w szerszym kontekście społecznym i politycznym, co dodatkowo komplikuje odpowiedzialność firm takich jak xAI. Szybka reakcja xAI na problem jest krokiem w dobrym kierunku, ale incydent ten pokazuje, że przed nami jeszcze długa droga, jeśli chodzi o etyczne projektowanie AI. AI coraz bardziej wpływa na nasze postrzeganie rzeczywistości, kluczowe jest więc, aby firmy technologiczne stawiały na przejrzystość, odpowiedzialność i różnorodność w swoich zespołach. Tylko wtedy możemy mieć pewność, że AI będzie służyć prawdzie, a nie wzmacniać szkodliwe narracje.
