Naukowcy z University of Kansas dokonali przełomu. Rozwinęli oni narzędzie, które z niezwykłą precyzją potrafi odróżnić teksty pisane przez człowieka od tych wygenerowanych przez AI. To odpowiedź na rosnące obawy związane z AI-generowanymi esejami, które mogą zatruwać naukowy dyskurs nieprawdziwymi informacjami.
Skupienie na chemii: Detektor Profesor Desaire
Profesor Heather Desaire i jej zespół skoncentrowali się na opracowaniu detektora, który z niezachwianą dokładnością analizuje prace naukowe z dziedziny chemii. W przeciwieństwie do istniejących już detektorów, które działają z różnym skutkiem w różnych dziedzinach, narzędzie z Kansas wykazuje niemal stuprocentową skuteczność. Jego działanie zostało potwierdzone w badaniach, gdzie z łatwością identyfikowało teksty pisane ręką naukowców.
Jak działa Detektor?
Detektor został „wytrenowany” na podstawie publikacji American Chemical Society, gdzie naukowcy zgromadzili setki profesjonalnie napisanych wstępów. Następnie, wykorzystując ChatGPT, stworzyli sztuczne wprowadzenia bazujące na abstraktach oraz samych tytułach prac. Efekty były zdumiewające – ludzkie teksty zostały rozpoznane w każdym przypadku, a te wygenerowane przez AI z tytułów raportów – z identyfikacją na poziomie 100%. Nawet kiedy AI bazowało na wstępach, skuteczność wynosiła imponujące 98%.
Konkurencja na tle Detektora
To istotne, ponieważ konkurencyjne systemy, takie jak ZeroGPT, które generalnie wykazują wysoką skuteczność, w przypadku specjalistycznych tekstów naukowych o chemii zawodziły, osiągając zaledwie 37% skuteczności. OpenAI, inny znany gracz na rynku, również nie sprostał zadaniu, błędnie identyfikując autorstwo esejów w 80% przypadków.
Obawy i optymizm Profesor Desaire
Desaire podkreśla, że nadużywanie AI w naukowych publikacjach może prowadzić do zalewu prac o wątpliwej wartości i przekłamania obrazu aktualnych badań naukowych. Co więcej, AI ma tendencję do tworzenia „halucynacji”, czyli prezentowania nieprawdziwych faktów, co w świecie nauki może mieć katastrofalne skutki. Mimo tych obaw, profesor Desaire jest optymistką. Uważa, że rozwój narzędzi takich jak to z University of Kansas jest kluczowy w utrzymaniu czystości i autentyczności naukowego dyskursu. Redaktorzy i wydawcy czasopism naukowych muszą być czujni i nieustannie weryfikować autentyczność nadsyłanych prac.
To narzędzie nie tylko strzeże prawdy w nauce. To również ostrzeżenie dla świata akademickiego, by nieustannie dążyć do utrzymania integralności naukowej w obliczu narastającej obecności sztucznej inteligencji. Stanowi krok do przodu w wyścigu zbrojeń między ludzkim intelektem a uczeniem maszynowym. Praca zespołu z Kansas pokazuje, że w tym wyścigu ludzie wciąż mogą odnosić zwycięstwa.
