Sztuczna inteligencja (AI) przynosi wiele korzyści. Ale czy zawsze możemy jej zaufać? Badacze z University of Notre Dame stawiają to pytanie. Pracują nad tworzeniem AI, której możemy zaufać.
Godna zaufania sztuczna inteligencja: Co to jest?
Projekt badaczy nosi nazwę „Trusted AI”. Tworzą oni systematyczne podejście do tworzenia godnej zaufania AI. Współpracują z ekspertami technologicznymi z amerykańskiego wojska oraz z badaczami z Indiana University – Purdue University Indianapolis (IUPUI) i Indiana University.
Sześć wymiarów godnej zaufania sztucznej inteligencji
Badacze zidentyfikowali sześć wartości dla godnej zaufania AI. Nazywają je „wymiarami Trusted AI”. Wymiary te to:
- Wyjaśnialność – Czy możemy wyjaśnić, jak AI dochodzi do wniosków?
- Bezpieczeństwo i niezawodność – Czy AI działa zgodnie z oczekiwaniami?
- Sprawiedliwość – Czy AI nie odtwarza wzorców uprzedzeń i dyskryminacji?
- Prywatność – Czy dane, których AI używa, są przechowywane bezpiecznie?
- Dobrobyt środowiskowy – Czy AI szkoli się z minimalnym wpływem na środowisko?
- Odpowiedzialność i możliwość audytu – Czy możemy zidentyfikować, kto jest odpowiedzialny za AI?
Łańcuch zaufania w sztucznej inteligencji
Kluczowym wyzwaniem jest zapewnienie „łańcucha zaufania”. Każdy z wymiarów musi informować o każdym etapie procesu. Od zbierania danych do wyniku, który dostarcza AI. Tylko wtedy możemy być pewni, że wynik jest godny zaufania.
Rozwój godnej zaufania sztucznej inteligencji to proces
Christopher Sweet, główny badacz projektu, podkreśla, że rozwijanie Trusted AI to proces. Technologie i dane, na których polegają, są stale ewoluujące. Tak samo jak konteksty społeczne, w których są używane. Trusted AI to ciągła praktyka, która wymaga zaangażowania wszystkich zainteresowanych stron.
Godna zaufania sztuczna inteligencja w praktyce
Zespół badaczy pracuje nad różnymi aspektami Trusted AI. Od tworzenia narzędzi do rozpoznawania fałszywych obrazów, po rozwijanie technologii dla amerykańskiej marynarki wojennej. Wszystko to z myślą o tworzeniu AI, której możemy zaufać.
Godna zaufania sztuczna inteligencja: przyszłość
Badacze z University of Notre Dame są optymistyczni. Wierzą, że rozwijają nowe podejście do AI, które jest pilnie potrzebne. Pracują nad kształtowaniem przyszłości – przyszłych oficerów wojskowych, naukowców i liderów branży technologicznej. Wszyscy oni pomogą uczynić godną zaufania AI rzeczywistością.
Projekt Trusted AI jest częścią programu rozwoju siły roboczej Scalable Asymmetric Lifecycle Engagement (SCALE). Jest finansowany przez Office of the Undersecretary of Defense for Research and Engineering Trusted & Assured Microelectronics program.
Częste pytania
Jakie są sześć wymiarów godnej zaufania sztucznej inteligencji?
Sześć wymiarów godnej zaufania sztucznej inteligencji to: wyjaśnialność, bezpieczeństwo i niezawodność, sprawiedliwość, prywatność, dobrobyt środowiskowy oraz odpowiedzialność i możliwość audytu.
Dlaczego rozwój godnej zaufania sztucznej inteligencji to proces?
Rozwój godnej zaufania sztucznej inteligencji to proces, ponieważ technologie i dane, na których polegają, są stale ewoluujące. Konteksty społeczne, w których są używane, również się zmieniają, co wymaga ciągłego zaangażowania wszystkich zainteresowanych stron.
Kiedy możemy być pewni, że wynik AI jest godny zaufania?
Możemy być pewni, że wynik AI jest godny zaufania, gdy każdy z wymiarów godnej zaufania AI informuje o każdym etapie procesu, od zbierania danych do dostarczania wyników.
Czy badacze z University of Notre Dame pracują nad praktycznymi zastosowaniami Trusted AI?
Tak, zespół badaczy pracuje nad różnymi aspektami Trusted AI, w tym nad narzędziami do rozpoznawania fałszywych obrazów oraz technologiami dla amerykańskiej marynarki wojennej.
Które instytucje współpracują nad projektem Trusted AI?
Projekt Trusted AI jest realizowany przez badaczy z University of Notre Dame we współpracy z ekspertami technologicznymi z amerykańskiego wojska oraz z badaczami z Indiana University – Purdue University Indianapolis (IUPUI) i Indiana University.
