Wraz ze wzrostem zainteresowania generatywnymi systemami sztucznej inteligencji (AI) na całym świecie, naukowcy z Uniwersytetu Surrey w Wielkiej Brytanii stworzyli oprogramowanie, które jest w stanie zweryfikować, ile informacji AI pozyskało z cyfrowej bazy danych badanej organizacji.
Oprogramowanie do weryfikacji AI
Oprogramowanie do weryfikacji z Surrey może być używane jako część protokołu bezpieczeństwa online firm, pomagając organizacjom zrozumieć, czy AI nauczyło się zbyt wiele, czy nawet uzyskało dostęp do wrażliwych danych.
Oprogramowanie jest również zdolne do identyfikowania, czy AI rozpoznało i jest w stanie wykorzystać wady w kodzie oprogramowania. Na przykład, w kontekście gier online, mogłoby zidentyfikować, czy AI nauczyło się zawsze wygrywać w pokera online, wykorzystując błąd w oprogramowaniu.
Zastosowania oprogramowania do weryfikacji AI w bezpieczeństwie online
Dr Fortunat Rajaona który jest badaczem stypendystą w zakresie formalnej weryfikacji prywatności na Uniwersytecie w Surrey i głównym autorem publikacji, powiedział:
W wielu zastosowaniach, systemy AI współdziałają ze sobą lub z ludźmi, takimi jak samochody samosterujące na autostradzie czy roboty szpitalne. Wypracowanie, co inteligentny system danych AI wie, to problem, którego rozwiązanie zajęło nam lata, aby znaleźć w końcu działające rozwiązanie.
Fortunat Rajaona
Nasze oprogramowanie do weryfikacji może wywnioskować, ile AI może się nauczyć z ich interakcji, czy ma wystarczającą wiedzę, która umożliwia skuteczną współpracę, oraz czy ma zbyt dużo wiedzy, która narusza prywatność. Dzięki zdolności do weryfikacji tego, czego AI się nauczyło, możemy dać organizacjom pewność, że mogą bezpiecznie uwolnić moc AI w bezpiecznych środowiskach.
Fortunat Rajaona
Studium na temat oprogramowania z Surrey zdobyło nagrodę za najlepszy artykuł na 25 Międzynarodowym Sympozjum Metod Formalnych.
Znaczenie weryfikacji AI dla ochrony prywatności i integralności danych
Profesor Adrian Hilton, dyrektor Instytutu AI Skoncentrowanego na Ludziach na Uniwersytecie w Surrey, powiedział:
„W ciągu ostatnich miesięcy nastąpił ogromny wzrost zainteresowania publicznego i branżowego generatywnymi modelami AI, napędzany postępami w dużych modelach językowych, takich jak ChatGPT. Tworzenie narzędzi, które mogą weryfikować wydajność generatywnej AI, jest niezbędne do zapewnienia ich bezpiecznego i odpowiedzialnego wdrożenia. To badanie jest ważnym krokiem w kierunku utrzymania prywatności i integralności zbiorów danych wykorzystywanych w procesie uczenia się.”
Adrian Hilton
Źródło publikacji: https://openresearch.surrey.ac.uk/esploro/outputs/99723165702346
Częste pytania
Jak oprogramowanie z Uniwersytetu Surrey weryfikuje wiedzę AI?
Oprogramowanie z Uniwersytetu Surrey analizuje, ile informacji AI pozyskało z cyfrowej bazy danych, co pozwala organizacjom ocenić, czy AI nauczyło się zbyt wiele lub uzyskało dostęp do wrażliwych danych.
Czy oprogramowanie może zidentyfikować wady w kodzie oprogramowania?
Tak, oprogramowanie jest w stanie identyfikować, czy AI rozpoznało wady w kodzie, co może być przydatne w kontekście gier online, na przykład w pokera, gdzie AI mogłoby wykorzystać błąd w oprogramowaniu.
Dlaczego weryfikacja AI jest ważna dla ochrony prywatności?
Weryfikacja AI jest kluczowa dla zapewnienia, że AI nie posiada zbyt dużej wiedzy, która mogłaby naruszać prywatność, co jest istotne w kontekście bezpiecznego wdrażania technologii AI w różnych zastosowaniach.
Jakie zastosowania ma oprogramowanie do weryfikacji AI w bezpieczeństwie online?
Oprogramowanie może być używane jako część protokołu bezpieczeństwa online, pomagając organizacjom zrozumieć interakcje AI z danymi oraz ocenić, czy AI ma wystarczającą wiedzę do efektywnej współpracy.
Kiedy nastąpił wzrost zainteresowania generatywnymi modelami AI?
Wzrost zainteresowania generatywnymi modelami AI nastąpił w ciągu ostatnich miesięcy, głównie z powodu postępów w dużych modelach językowych, takich jak ChatGPT, co podkreśla potrzebę narzędzi do weryfikacji ich wydajności.
