Czym jest Wyjaśnialna sztuczna inteligencja (Explainable artificial intelligence)?
Wyjaśnialna sztuczna inteligencja, w skrócie XAI, to dziedzina badająca metody konstruowania modeli uczenia maszynowego tak, aby ich decyzje były przejrzyste dla człowieka. Głównym celem XAI jest dostarczenie wiarygodnych wyjaśnień wskazujących, dlaczego system zaproponował dane rozstrzygnięcie, jakie cechy wejściowe miały największy wpływ oraz jakie są granice zaufania do wygenerowanej odpowiedzi.
Geneza i kontekst historyczny
Pierwsze wzmianki o potrzebie zrozumiałych systemów sięgają lat 70. XX w., gdy twórcy systemów ekspertowych, tacy jak Bruce Buchanan i Edward Shortliffe, wprowadzali moduły wyjaśniające w projektach MYCIN czy DENDRAL. Jednak dopiero gwałtowny rozwój złożonych sieci neuronowych w połowie lat 2010 skłonił instytucje badawcze, m.in. DARPA, do uruchomienia programów badawczych nad XAI. Od tamtej pory ukazało się wiele prac na konferencjach NeurIPS, ICML czy ICLR, a organizacje standaryzujące, takie jak ISO czy IEEE, rozpoczęły prace nad formalnymi ramami oceny wyjaśnialności.
Jak dokładnie działa Wyjaśnialna sztuczna inteligencja (Explainable artificial intelligence)
Techniki XAI można podzielić na dwie szerokie kategorie. Do pierwszej należą metody model-intrinsic, w których przejrzystość wynika z samej architektury, np. drzewa decyzyjne czy regresja liniowa. Druga grupa to techniki post-hoc, stosowane, gdy model jest z natury nieprzejrzysty, jak głębokie sieci neuronowe. Najpopularniejsze narzędzia post-hoc to LIME, SHAP oraz zmapowane gradienty wizyjne. Działanie tych metod sprowadza się do lokalnej lub globalnej analizy wpływu cech wejściowych na wynik prognozy, często przy użyciu perturbacji danych lub aproksymacji liniowej.
Zastosowania w praktyce
System kredytowy wykrywający oszustwa stanowi dobry przykład: bank korzystający z sieci neuronowych może za pomocą SHAP wygenerować wykres wskazujący, że odrzucenie wniosku wynika głównie z nieregularności spłat w ciągu ostatnich sześciu miesięcy oraz nietypowej geolokalizacji transakcji. Takie wyjaśnienie jest zrozumiałe dla analityka ryzyka i pozwala podjąć świadomą decyzję zgodną z regulacjami prawnymi.
Zalety i ograniczenia
XAI zwiększa zaufanie użytkowników, ułatwia audyty, wspiera zgodność z przepisami takimi jak RODO oraz poprawia jakość modeli poprzez diagnozowanie błędnych zależności. Ograniczenia wynikają z faktu, że wyjaśnienia są często przybliżeniem. Nie ma gwarancji, że lokalne wyjaśnienie odwzorowuje pełny tok rozumowania modelu, co może prowadzić do niezamierzonych uproszczeń. Dodatkowo brak jednolitego sposobu walidacji jakości wyjaśnień utrudnia porównywanie narzędzi.
Na co uważać?
Praktycy powinni kontrolować spójność wyjaśnień w czasie, ponieważ drobne zmiany w danych mogą znacząco zmienić wygenerowane uzasadnienia. Warto też unikać ślepego zaufania do pojedynczych metod post-hoc i stosować kilka technik równolegle. Kluczowe jest również zachowanie równowagi między przejrzystością a ochroną danych wrażliwych.
Dodatkowe źródła
Monografię dziedzinową stanowi artykuł „Explainable Artificial Intelligence: A Survey” dostępny w serwisie arXiv. Dobrym punktem startu jest także opracowanie Wikipedia. W kontekście regulacyjnym przydatne mogą być wytyczne High-Level Expert Group on AI.
