AI w nauce Artykuły Narzędzia AI Tekstowe

Detektory tekstu AI – czy to działa?

detektory AI

Wiele szkół i uczelni nie ma jeszcze odpowiednich przepisów dotyczących korzystania ze Sztucznej Inteligencji AI. Zauważono, że niektórzy uczniowie mogli korzystać z takich narzędzi przy tworzeniu prac domowych, nie informując o tym. Takie działania mogą naruszać nie tylko szkolne kodeksy, ale także regulaminy platform, z których korzystają. Na przykład, aby korzystać z chatGPT, użytkownik musi mieć co najmniej 13 lat. Osoby w wieku 13-18 lat potrzebują zgody rodziców. Na pomoc miały przyjść detektory AI.

Różne placówki edukacyjne zaczynają wprowadzać nowe zasady dotyczące treści tworzonych przez AI. Dlatego warto, aby nauczyciele samodzielnie zgłębiali temat i wybierali najlepsze dla siebie rozwiązania.

Czy detektory AI działają?

Krótko mówiąc, nie. Podczas gdy niektórzy (w tym OpenAI) wydali narzędzia, które rzekomo wykrywają treści generowane przez sztuczną inteligencję, żadne z nich nie udowodniło, że niezawodnie odróżnia treści generowane przez sztuczną inteligencję od treści generowanych przez ludzi.

Co więcej, nawet ChatGPT, jeden z modeli sztucznej inteligencji stworzonych przez OpenAI, nie posiada wewnętrznej „wiedzy” o tym, które treści mogłyby być generowane przez AI. Na pytania dotyczące pochodzenia treści odpowiada w sposób losowy, nie opierając się na faktach. Tak samo działa większość detektorów treści AI.

Kiedy w OpenAI próbowaliśmy wytrenować detektor treści generowanych przez sztuczną inteligencję, odkryliśmy, że oznaczał on tekst napisany przez człowieka, taki jak Szekspir i Deklaracja Niepodległości, jako wygenerowany przez sztuczną inteligencję.

Open AI

Mimo że detektory AI mają potencjał do identyfikacji treści generowanych przez sztuczną inteligencję, obecnie nie działają one na tyle precyzyjnie. To może prowadzić do fałszywych oskarżeń, których nie sposób udowodnić. Pisaliśmy również o problemie dyskryminacji detektorów w jednym z poprzednich artykułów. Nawet jeśli detektory treści osiągną większą dokładność, istnieje ryzyko, że ludzie będą w stanie dokonywać drobnych modyfikacji w treści, aby uniknąć wykrycia.

W związku z tym, zamiast polegać wyłącznie na technologii, ważne jest, aby kształcić ludzi w zakresie krytycznego myślenia i analizy treści, które napotykają w sieci. Tylko wtedy będziemy mogli skutecznie rozróżniać prawdę od fikcji w erze cyfrowej.

Lista detektorów treści AI’

Przeprowadziliśmy trzy krótkie testy niestety ze słabym skutkiem.

  1. Cudekai (wynik testu nieprawidłowy)
  2. Corrector.app (wynik testu nieprawidłowy, reklamy i długi czas oczekiwania)
  3. Smodin (wynik testu nieprawidłowy)

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *