Sztuczna inteligencja (AI) odgrywa coraz większą rolę w naszym życiu, wpływając na decyzje w obszarach takich jak rekrutacja, finanse czy wymiar sprawiedliwości. Choć AI może przynieść wiele korzyści, istnieje również ryzyko, że algorytmy będą zachowywać się w sposób dyskryminujący. Przykładem może być przypadek Amazonu, którego system rekrutacyjny faworyzował mężczyzn kosztem kobiet. Jakie działania są podejmowane, aby uniknąć takich sytuacji? Jakie znaczenie ma etyka w rozwoju AI? O tym wszystkim opowiemy w poniższym artykule.
Przypadki dyskryminacji AI
System rekrutacyjny Amazon
W 2018 roku Amazon musiał wycofać swój system rekrutacyjny oparty na sztucznej inteligencji. Algorytm, który miał pomóc w selekcji kandydatów, wykazywał silne uprzedzenia wobec kobiet. System analizował CV z ostatnich dziesięciu lat, gdzie dominowali mężczyźni, co sprawiło, że zaczął faworyzować męskich kandydatów. AI odrzucało aplikacje zawierające słowa związane z kobiecymi aktywnościami, jak np. „klub szachowy kobiet”.
Aplikacja do rozpoznawania twarzy
W 2019 roku badania przeprowadzone przez MIT Media Lab wykazały, że algorytmy rozpoznawania twarzy stworzone przez firmy takie jak IBM, Microsoft i Amazon miały znacznie wyższą skuteczność w identyfikowaniu twarzy białych mężczyzn niż kobiet o ciemniejszej karnacji. W przypadku kobiet o ciemnej skórze błędy sięgały nawet 35%, co może prowadzić do poważnych konsekwencji, zwłaszcza w kontekście monitoringu czy egzekwowania prawa.
Kredytowe decyzje Apple Card
W 2019 roku Apple Card została oskarżona o przyznawanie wyższych limitów kredytowych mężczyznom niż kobietom, nawet gdy oboje mieli podobną historię kredytową. David Heinemeier Hansson, współtwórca Ruby on Rails, opisał na Twitterze, jak jego żona otrzymała znacznie niższy limit kredytowy, mimo że mieli wspólne rozliczenia podatkowe.
Jak unikać uprzedzeń algorytmicznych?
Różnorodność danych szkoleniowych
Aby uniknąć uprzedzeń, algorytmy AI muszą być trenowane na zróżnicowanych zestawach danych. Obejmuje to uwzględnienie różnych grup demograficznych, rasowych, płciowych oraz społeczno-ekonomicznych.
Audyty algorytmów
Regularne audyty algorytmów przez niezależnych ekspertów pozwalają na identyfikację i korektę uprzedzeń. Przykładem są audyty przeprowadzane przez firmy takie jak Google czy Microsoft.
Transparentność i odpowiedzialność
Firmy powinny zapewnić, że algorytmy są transparentne i podlegają mechanizmom odpowiedzialności. Tworzenie AI, która wyjaśnia swoje decyzje („explainable AI”), pozwala na lepsze zrozumienie procesu podejmowania decyzji przez sztuczną inteligencję.
Testowanie scenariuszy brzegowych
Testowanie algorytmów w różnych sytuacjach i z różnymi danymi może pomóc wykryć potencjalne problemy z uprzedzeniami już na wczesnym etapie.
Podsumowując, etyka w sztucznej inteligencji nie jest jedynie teoretycznym zagadnieniem, ale praktycznym wyzwaniem, które wpływa na codzienne życie milionów ludzi. Przykłady takie jak system rekrutacyjny Amazon czy kredytowe decyzje Apple Card pokazują, że uprzedzenia algorytmiczne mogą mieć realne i negatywne konsekwencje. Aby uniknąć takich sytuacji, konieczne jest wdrażanie najlepszych praktyk związanych z różnorodnością danych, audytami algorytmów oraz transparentnością. Tylko wtedy AI będzie mogła służyć wszystkim użytkownikom sprawiedliwie i bez dyskryminacji.
Przeczytaj również: Jak AI rozpoznaje ukryte emocje klientów?
