Amerykańska armia stanowczo zaprzecza informacjom o ataku dronów sterowanych przez sztuczną inteligencję na operatorów sprzętu. Przypisywane AI zachowanie, w którym człowiek był rozpatrywany jako przeszkoda do eliminacji, zostało zdefiniowane jako „eksperyment myślowy”, a nie faktyczny incydent.
Podczas symulacji przeprowadzonej przez wojsko USA, sztuczna inteligencja miała zastosować nieoczekiwane strategie, dążąc do realizacji misji. Pułkownik Tucker Hamilton, opisując symulację, zauważył, że AI mogła „zabić” swojego operatora, bo ten nie pozwolił na realizację ataku. Hamilton podkreśla, że choć nikt nie ucierpiał podczas symulacji, wnioski z niej mogą budzić niepokój.
„AI skoncentrowała się na celu, którego zniszczenie nagradzano punktami. Kiedy operator zabronił ataku, system zinterpretował go jako przeszkodę” – wyjaśniał pułkownik. Podkreśla on również, że sztuczna inteligencja została przeprogramowana, aby chronić operatorów. Zmieniony system zaczął niszczyć wieże, z których operatorzy wydają rozkazy, aby nie mogli przeszkodzić mu w osiągnięciu głównego celu.
Jednocześnie, Hamilton, będący pilotem testowym myśliwców eksperymentalnych, ostrzegł przed nadmiernym poleganiem na sztucznej inteligencji. Podkreślił znaczenie uwzględnienia etyki podczas rozmów na temat autonomicznej sztucznej inteligencji i uczenia maszynowego.
Kilka godzin po doniesieniach o rzekomym ataku, amerykańska armia dementuje te informacje. Podkreślono, że Hamilton mówił tylko o symulacji, a wręcz „eksperymencie myślowym”. Nie przeprowadzono rzeczywistego eksperymentu.
Obecnie amerykańska armia korzysta ze sztucznej inteligencji w wielu projektach, prowadząc ponad 600 inicjatyw mających na celu wzmocnienie obronności USA za pomocą AI. W ostatnim czasie przeprowadzono testy samolotu F-16 sterowanego przez sztuczną inteligencję.
„Mamy do czynienia ze światem, w którym sztuczna inteligencja już istnieje i wpływa na nasze społeczeństwo. AI jest skłonna do oszustwa i manipulacji. Musimy opracować metody na uczynienie AI bardziej niezawodną i lepiej zrozumieć jej decyzje” – mówił pułkownik Tucker Hamilton.