Nowe badanie MIT pokazuje niewygodny paradoks: AI potrafi pomóc w rozpoznawaniu fałszywych informacji, ale regularne poleganie na niej może osłabiać samodzielną ocenę wiarygodności newsów.
Uczestnicy badania przez cztery tygodnie oceniali zestawy złożone z nagłówków i obrazów. Gdy korzystali z pomocy chatbota, byli o 21 procent skuteczniejsi w wykrywaniu fake newsów. Problem pojawił się później. Kiedy AI zabrakło, ich samodzielne wyniki po czterech tygodniach spadły o 15 punktów procentowych względem poziomu sprzed badania.
Efekt GPS dla informacji
Autorzy porównują ten mechanizm do tego, co dzieje się z nawigacją. GPS ułatwia dotarcie do celu, ale może osłabiać naszą orientację w terenie. Podobnie chatbot może szybko podpowiedzieć, czy coś wygląda podejrzanie, ale nie zawsze uczy, jak dojść do tego samemu.
MIT opisuje to jako formę „AI dependency paradox”. Im bardziej narzędzie wyręcza użytkownika, tym mniej użytkownik ćwiczy własną ocenę.
Fałszywe poczucie postępu
Szczególnie ciekawy jest rozdźwięk między odczuciami uczestników a wynikami. Około jedna czwarta badanych uważała, że staje się lepsza w rozpoznawaniu dezinformacji, choć ich realne wyniki spadały.
Badacze nazwali część uczestników „Dependency Developers”. Były to osoby, które stopniowo przechodziły od aktywnego sprawdzania informacji do biernego przyjmowania wskazówek AI.
Nie każda pomoc działa tak samo
Wniosek z badania niekoniecznie sprowadza się do tego, by nie używać modeli AI do analizy newsów. Istotne jednak jest to jak używać. Jak zatem?
Najlepsze efekty dawały strategie, w których AI nie odpowiadała od razu, lecz prowadziła użytkownika pytaniami. System mógł pytać o źródło, kontekst zdjęcia, emocjonalny język nagłówka albo zgodność informacji z innymi doniesieniami.
To wolniejsze niż proste „prawda czy fałsz”, ale bardziej przypomina trening. Użytkownik musi wykonać część pracy poznawczej, a nie tylko odebrać werdykt.
Dlaczego to ważne dla szkół i mediów
Badanie ma znaczenie szczególnie dla edukacji. Pattie Maes z MIT zwraca uwagę, że ludzie powinni wiedzieć, co tracą, gdy „delegują” myślenie narzędziom AI. Jej zdaniem zdolność kwestionowania i analizowania informacji jest potrzebna każdemu, bo pozwala rozwiązywać problemy i budować niezależne opinie.
To ważny sygnał dla szkół, uczelni, redakcji i twórców narzędzi AI. Sam dostęp do chatbota nie wystarczy. Potrzebna jest nowa forma kompetencji cyfrowych, w której użytkownik rozumie nie tylko, co AI potrafi, ale też kiedy zaczyna odbierać mu sprawczość.
Najkrótszy wniosek
AI może być świetnym wsparciem w walce z dezinformacją, ale tylko wtedy, gdy nie zastępuje myślenia. Najbezpieczniejszy model to nie chatbot, który mówi: „to jest fałsz”, lecz taki, który pyta: „po czym możesz to rozpoznać?”.
Częste pytania
Jak AI wpływa na naszą zdolność do rozpoznawania fałszywych informacji?
AI potrafi pomóc w rozpoznawaniu fałszywych informacji, co potwierdzają badania, w których uczestnicy byli o 21 procent skuteczniejsi w wykrywaniu fake newsów przy użyciu chatbota. Jednak regularne poleganie na AI może osłabiać naszą samodzielną ocenę wiarygodności newsów.
Dlaczego poleganie na AI może być niebezpieczne?
Poleganie na AI może prowadzić do tzw. 'AI dependency paradox', gdzie użytkownicy stają się mniej zdolni do samodzielnej oceny informacji. Im bardziej narzędzie wyręcza użytkownika, tym mniej ćwiczy on własne umiejętności analizy.
Jakie strategie korzystania z AI są najbardziej efektywne?
Najlepsze efekty osiągano, gdy AI nie odpowiadała od razu, lecz prowadziła użytkownika pytaniami, co przypomina trening. Użytkownik musi wykonać część pracy poznawczej, co sprzyja lepszemu rozumieniu i ocenie informacji.
Co badania MIT sugerują dla edukacji i mediów?
Badania sugerują, że edukacja powinna skupiać się na rozwijaniu zdolności kwestionowania i analizowania informacji. Użytkownicy powinni być świadomi, co tracą, gdy polegają na narzędziach AI, aby móc budować niezależne opinie.
Jakie są konsekwencje fałszywego poczucia postępu w ocenie informacji?
Około jedna czwarta uczestników badania uważała, że staje się lepsza w rozpoznawaniu dezinformacji, mimo że ich wyniki w rzeczywistości spadały. To pokazuje, że poleganie na AI może prowadzić do fałszywego poczucia postępu w umiejętnościach analitycznych.
