Sztuczna inteligencja, w postaci detektorów tekstu AI, może dyskryminować osoby, które angielski traktują jako język obcy. Badacze wykazują, że takie programy często fałszywie etykietują teksty autorów niewładających płynnie językiem angielskim jako generowane przez AI. Istotne jest zatem zachowanie ostrożności przy korzystaniu z tych narzędzi.
Kontrowersyjna rola detektorów AI
Powszechne stosowanie detektorów tekstu AI w procesie oceny prac szkolnych, esejów rekrutacyjnych, czy aplikacji o pracę może prowadzić do niekorzystnych konsekwencji. Według głównego autora badania opublikowanego w Cell, Jamesa Zou z Uniwersytetu Stanforda, powinniśmy unikać ich użycia.
Sztuczna inteligencja vs. autorzy niewładający językiem angielskim
Sztuczna inteligencja, jak np. chatbot ChatGPT stworzony przez OpenAI, potrafi tworzyć eseje, rozwiązywać problemy matematyczne i generować kod. Jednak wyniki testów detektorów GPT sugerują, że te narzędzia fałszywie identyfikują teksty autorów nieznających angielskiego jako generowane przez AI. W badaniu oceniono wiarygodność siedmiu powszechnie używanych detektorów GPT na 91 esejach TOEFL (Test of English as a Foreign Language) i 88 esejach amerykańskich uczniów ósmej klasy. Detektory prawidłowo sklasyfikowały eseje amerykańskich uczniów. Jednak błędnie oznaczyły ponad połowę esejów TOEFL jako „generowane przez AI”.
Wykrywanie tekstu: człowiek czy sztuczna inteligencja?
Metoda, jaką detektory AI stosują do oceny tekstów, polega na ocenie złożoności tekstu ocenianego prez pryzmat stopnia zaskoczenia wynikającego z wyboru słów. Co ciekawe, im prościej autor się wyraża, tym większe jest ryzyko, że jego tekst zostanie oznaczony jako wygenerowany przez AI. Proste wybory językowe często podejmowane przez osoby niewładające językiem angielskim mogą prowadzić do oznaczenia ich prac jako wygenerowanych przez AI. To może mieć poważne konsekwencje, zwłaszcza w stosunku do osób uczących się angielskiego jako drugiego języka.
Konsekwencje stosowania detektorów AI
Detektory tekstu AI mogą dyskryminować nie tylko w edukacji. Przykładowo, wyszukiwarki takie jak Google obniżają wartość treści generowanych przez AI, co może nieumyślnie krzywdzić osoby niewładające biegle językiem angielskim.
Poprawa detektorów AI
Badania podkreślają potrzebę skupienia się na sprawiedliwości i solidności detektorów GPT, ponieważ niedocenianie ich uprzedzeń może prowadzić do niezamierzonych konsekwencji, takich jak marginalizacja osób, których język ojczysty nie jest angielskim, w kontekstach oceny i edukacji. Niezawodność detektorów tekstu AI powinna być dalej doskonalona. Według Zou, trening tych algorytmów z wykorzystaniem bardziej zróżnicowanych typów pisania może być jednym ze sposobów na ich poprawę.
