Sztuczna inteligencja (AI) przynosi wiele korzyści. Ale czy zawsze możemy jej zaufać? Badacze z University of Notre Dame stawiają to pytanie. Pracują nad tworzeniem AI, której możemy zaufać.
Godna zaufania sztuczna inteligencja: Co to jest?
Projekt badaczy nosi nazwę „Trusted AI”. Tworzą oni systematyczne podejście do tworzenia godnej zaufania AI. Współpracują z ekspertami technologicznymi z amerykańskiego wojska oraz z badaczami z Indiana University – Purdue University Indianapolis (IUPUI) i Indiana University.
Sześć wymiarów godnej zaufania sztucznej inteligencji
Badacze zidentyfikowali sześć wartości dla godnej zaufania AI. Nazywają je „wymiarami Trusted AI”. Wymiary te to:
- Wyjaśnialność – Czy możemy wyjaśnić, jak AI dochodzi do wniosków?
- Bezpieczeństwo i niezawodność – Czy AI działa zgodnie z oczekiwaniami?
- Sprawiedliwość – Czy AI nie odtwarza wzorców uprzedzeń i dyskryminacji?
- Prywatność – Czy dane, których AI używa, są przechowywane bezpiecznie?
- Dobrobyt środowiskowy – Czy AI szkoli się z minimalnym wpływem na środowisko?
- Odpowiedzialność i możliwość audytu – Czy możemy zidentyfikować, kto jest odpowiedzialny za AI?
Łańcuch zaufania w sztucznej inteligencji
Kluczowym wyzwaniem jest zapewnienie „łańcucha zaufania”. Każdy z wymiarów musi informować o każdym etapie procesu. Od zbierania danych do wyniku, który dostarcza AI. Tylko wtedy możemy być pewni, że wynik jest godny zaufania.
Rozwój godnej zaufania sztucznej inteligencji to proces
Christopher Sweet, główny badacz projektu, podkreśla, że rozwijanie Trusted AI to proces. Technologie i dane, na których polegają, są stale ewoluujące. Tak samo jak konteksty społeczne, w których są używane. Trusted AI to ciągła praktyka, która wymaga zaangażowania wszystkich zainteresowanych stron.
Godna zaufania sztuczna inteligencja w praktyce
Zespół badaczy pracuje nad różnymi aspektami Trusted AI. Od tworzenia narzędzi do rozpoznawania fałszywych obrazów, po rozwijanie technologii dla amerykańskiej marynarki wojennej. Wszystko to z myślą o tworzeniu AI, której możemy zaufać.
Godna zaufania sztuczna inteligencja: przyszłość
Badacze z University of Notre Dame są optymistyczni. Wierzą, że rozwijają nowe podejście do AI, które jest pilnie potrzebne. Pracują nad kształtowaniem przyszłości – przyszłych oficerów wojskowych, naukowców i liderów branży technologicznej. Wszyscy oni pomogą uczynić godną zaufania AI rzeczywistością.
Projekt Trusted AI jest częścią programu rozwoju siły roboczej Scalable Asymmetric Lifecycle Engagement (SCALE). Jest finansowany przez Office of the Undersecretary of Defense for Research and Engineering Trusted & Assured Microelectronics program.
