Naukowcy wykorzystują uczenie maszynowe do wykrywania mowy nienawiści z 88-procentową dokładnością.
Zespół badaczy opracował nową metodę uczenia maszynowego, która wykrywa mowę nienawiści na platformach społecznościowych z 88-procentową dokładnością, oszczędzając pracownikom setki godzin emocjonalnie obciążającej pracy.
Zespół badaczy z Uniwersytetu w Waterloo opracował nową metodę uczenia maszynowego, która wykrywa mowę nienawiści na platformach społecznościowych z 88-procentową dokładnością, oszczędzając pracownikom setki godzin emocjonalnie obciążającej pracy.
Metoda, nazwana Multi-Modal Discussion Transformer (mDT), potrafi zrozumieć związek między tekstem a obrazami oraz umieszczać komentarze w szerszym kontekście, co odróżnia ją od wcześniejszych metod wykrywania mowy nienawiści. Jest to szczególnie pomocne w zmniejszaniu liczby fałszywych pozytywów, które często są błędnie oznaczane jako mowa nienawiści z powodu kulturowo wrażliwego języka.
„Naprawdę mamy nadzieję, że ta technologia pomoże zmniejszyć emocjonalny koszt ręcznego przeszukiwania mowy nienawiści przez ludzi,” powiedział Liam Hebert, doktorant informatyki z Waterloo i pierwszy autor badania. „Wierzymy, że poprzez podejście skoncentrowane na społeczności w naszych zastosowaniach AI, możemy pomóc stworzyć bezpieczniejsze przestrzenie online dla wszystkich.”
Naukowcy od wielu lat budują modele do analizowania znaczenia ludzkich rozmów, ale te modele miały historycznie trudności z rozumieniem subtelnych rozmów lub kontekstualnych wypowiedzi. Wcześniejsze modele były w stanie zidentyfikować mowę nienawiści z dokładnością do 74 procent, co jest wynikiem znacznie niższym niż osiągnęli badacze z Waterloo.
„Kontekst jest bardzo ważny przy rozumieniu mowy nienawiści,” powiedział Hebert. „Na przykład komentarz ’To obrzydliwe!’ może być niewinny sam w sobie, ale jego znaczenie zmienia się dramatycznie, jeśli jest odpowiedzią na zdjęcie pizzy z ananasem w porównaniu do osoby z grupy marginalizowanej.
„Zrozumienie tej różnicy jest łatwe dla ludzi, ale nauczenie modelu rozumienia kontekstualnych powiązań w dyskusji, w tym uwzględnienie obrazów i innych elementów multimedialnych, jest bardzo trudnym zadaniem.”
W przeciwieństwie do wcześniejszych prób, zespół z Waterloo zbudował i wytrenował swój model na zbiorze danych zawierającym nie tylko izolowane nienawistne komentarze, ale także kontekst tych komentarzy. Model został wytrenowany na 8 266 dyskusjach z Reddita zawierających 18 359 oznakowanych komentarzy z 850 społeczności.
„Ponad trzy miliardy ludzi korzysta codziennie z mediów społecznościowych,” powiedział Hebert. „Wpływ tych platform społecznościowych osiągnął niespotykany dotąd poziom. Istnieje ogromna potrzeba wykrywania mowy nienawiści na dużą skalę, aby budować przestrzenie, w których każdy jest szanowany i bezpieczny.„
Badanie, Multi-Modal Discussion Transformer: Integrating Text, Images and Graph Transformers to Detect Hate Speech on Social Media, zostało niedawno opublikowane w materiałach konferencji Thirty-Eighth AAAI Conference on Artificial Intelligence.
Częste pytania
Jakie są możliwości nowej metody uczenia maszynowego w wykrywaniu mowy nienawiści?
Nowa metoda uczenia maszynowego, nazwana Multi-Modal Discussion Transformer, wykrywa mowę nienawiści na platformach społecznościowych z 88-procentową dokładnością. Dzięki temu oszczędza pracownikom setki godzin emocjonalnie obciążającej pracy.
Dlaczego kontekst jest ważny w wykrywaniu mowy nienawiści?
Kontekst jest kluczowy w zrozumieniu mowy nienawiści, ponieważ znaczenie komentarzy może się drastycznie zmieniać w zależności od sytuacji. Na przykład, komentarz 'To obrzydliwe!' może być niewinny lub obraźliwy w zależności od kontekstu, w którym został użyty.
Jakie dane były używane do trenowania modelu wykrywania mowy nienawiści?
Model został wytrenowany na zbiorze danych zawierającym 8 266 dyskusji z Reddita, które obejmowały 18 359 oznakowanych komentarzy z 850 społeczności. Taki zbiór danych pozwolił na lepsze zrozumienie kontekstualnych powiązań w dyskusjach.
Jakie są różnice między nowym modelem a wcześniejszymi próbami wykrywania mowy nienawiści?
W przeciwieństwie do wcześniejszych modeli, które osiągały dokładność do 74 procent, nowy model z Waterloo potrafi zrozumieć związek między tekstem a obrazami, co pozwala na zmniejszenie liczby fałszywych pozytywów.
Jakie są potencjalne korzyści z zastosowania tej technologii w mediach społecznościowych?
Zastosowanie tej technologii ma na celu stworzenie bezpieczniejszych przestrzeni online, w których każdy jest szanowany. Dzięki skutecznemu wykrywaniu mowy nienawiści, można zmniejszyć emocjonalny koszt ręcznego przeszukiwania treści przez ludzi.
