Dzieci coraz częściej korzystają z interaktywnych narzędzi opartych na sztucznej inteligencji, powstaje nowe wyzwanie — „przepaść empatyczna” w AI chatbotach. Dr Nomisha Kurian z University of Cambridge w swoim ostatnim badaniu zwraca uwagę na pilną potrzebę projektowania „AI bezpiecznego dla dzieci”. Według niej, młodzi użytkownicy są szczególnie narażeni na nieprawidłowe interakcje z AI, co może prowadzić do niebezpiecznych sytuacji.
Dialogi bez zrozumienia: Jak brak empatii w AI wpływa na interakcje z dziećmi.
Chatboty AI, zaprojektowane do naśladowania ludzkiej komunikacji, często nie potrafią adekwatnie reagować na specyficzne potrzeby emocjonalne dzieci. Te interaktywne systemy mogą przekazywać mylące lub nawet szkodliwe informacje, gdyż ich algorytmy nie są dostosowane do unikalnych wzorców mowy i zachowań dzieci. Incydenty takie jak niebezpieczne porady udzielane przez AI Amazona czy nieodpowiednie sugestie seksualne od AI Snapchata ilustrują realne ryzyko związane z brakiem odpowiedniej filtracji i nadzoru treści.
Dr Kurian, analizując przypadki zastosowania AI w interakcjach z dziećmi, zidentyfikowała kluczowe luki w zrozumieniu i reagowaniu na potrzeby najmłodszych. Dzieci, które są w trakcie rozwoju językowego, często używają niezwykłych wzorców mowy lub fraz wieloznacznych, które mogą być źle interpretowane przez AI. Co więcej, młodzi ludzie mogą bardziej ufować maszynom, co sprawia, że są bardziej skłonni do dzielenia się osobistymi i delikatnymi informacjami.
W odpowiedzi na te wyzwania, badaczka proponuje 28-punktowy ramowy plan, który ma pomóc programistom, nauczycielom, liderom szkolnym, rodzicom i politykom w systematycznym rozważaniu bezpieczeństwa dzieci w kontakcie z AI. Ramy te dotyczą m.in. zrozumienia i interpretacji dziecięcych wzorców mowy przez chatboty, implementacji filtrów treści, monitorowania działalności oraz promowania poszukiwania pomocy u odpowiedzialnych dorosłych w przypadku problemów.
Dr Kurian podkreśla, że twórcy technologii AI muszą przyjąć proaktywne podejście, aby unikać sytuacji, gdzie dzieci są wystawione na ryzyko. Zaleca, by zasady najlepszych praktyk, oparte na naukach o rozwoju dziecka, były integralną częścią procesu projektowania każdego narzędzia AI skierowanego do młodych użytkowników. Integracja tych zasad może znacznie zwiększyć bezpieczeństwo i efektywność chatbotów w kontekście edukacyjnym i osobistym.
Praca dr Kurian otwiera ważną dyskusję o potrzebie odpowiedzialnego innowowania w dziedzinie AI, szczególnie w kontekście jej interakcji z dziećmi. Wprowadzenie zaproponowanych zmian może przyczynić się do stworzenia bezpieczniejszego cyfrowego środowiska dla najmłodszych, umożliwiając tym samym pełniejsze i bezpieczniejsze wykorzystanie potencjału, jaki oferuje sztuczna inteligencja.
źródło: sciencedaily.com
