Oszustwo z wykorzystaniem technologii deepfake stają się coraz bardziej wyrafinowane i niebezpieczne. Dowodem tego jest niedawny przypadek z Hongkongu. Tamtejszy pracownik finansowy wielonarodowej firmy został oszukany na 25 milionów dolarów. Ten incydent po raz kolejny pokazuje szkodliwy potencjał, jaki niesie zaawansowana technologia sztucznej inteligencji.
Oszustwo w trakcie video konferencji z deepfake w tle
W centrum zdarzenia znajduje się pracownik finansowy z Hongkongu, który został zaproszony na wideokonferencję, podczas której miał się pojawić jego główny dyrektor finansowy (CFO) z siedziby firmy w Londynie. Osoba, którą ujrzał na ekranie, była jednak tylko sztucznie wygenerowaną za pomocą technologii AI kopią CFO. Mimo początkowych podejrzeń obecność innych, znajomych, kolegów na rozmowie uspokoiła pracownika, .
Podczas rozmowy, fałszywy CFO naciskał na pracownika, aby ten przelał pieniądze na określone konta bankowe. W rezultacie pracownik dokonał 15 przelewów na pięć lokalnych kont bankowych, tracąc łącznie 25 milionów dolarów (około 200 milionów dolarów hongkońskich).
Jak oszuści wykorzystali AI do swoich celów
Do stworzenia wiarygodnej iluzji, oszuści wykorzystali nagrania z poprzednich konferencji online. Następnie za pomocą sztucznej inteligencji dodali fałszywe głosy. Funkcjonariusz policji w Hongkongu, Baron Chan Shun-ching, wskazał, że przestępcy mogli pobrać nagrania wideo i następnie wykorzystać SI do manipulacji głosem podczas wideokonferencji. Co więcej, aby dodać wiarygodności oszustwu, wykorzystali również WhatsApp, e-mail oraz indywidualne wideokonferencje z innymi pracownikami z Hongkongu.
Globalny problem z deepfake
Incydent w Hongkongu to nie izolowany przypadek. Policja w Hongkongu podała, że dokonano aresztowań w związku z innymi oszustwami deepfake. Ponadto tylko w tym jednym mieście technologia ta była używana co najmniej 20 razy do oszukania systemów rozpoznawania twarzy. Problem jest jednak globalny. Ostatnio zresztą w Stanach Zjednoczonych senatorowie przedstawili projekt ustawy umożliwiający ofiarom niestosownych treści generowanych przez AI dochodzenie praw przed sądem.
Oszustwo z użyciem AI – zwiększone ryzyko w świecie finansowym
Oszustwo, które spotkało pracownika finansowego z Hongkongu, rzuca światło na rosnące ryzyko w świecie korporacyjnym i finansowym, gdzie transakcje o wysokiej wartości są codziennością. Zdarzenie to ujawnia, jak łatwo oszuści mogą wykorzystać zaufanie między pracownikami korporacji, posługując się zaawansowaną technologią do popełnienia przestępstwa.
Reakcja na globalne zagrożenie – oszustwo deepfake
W odpowiedzi na rosnące zagrożenie, kraje i organizacje na całym świecie zaczynają podejmować kroki mające na celu przeciwdziałanie oszustwom deepfake. Przykładem może być działanie władz indyjskich, które zapowiedziały, że platformy mediów społecznościowych będą ponosić odpowiedzialność za deepfake publikowane przez użytkowników. Niedawno pisaliśmy o krążących na portalu X pornograficznych deepfekach z Taylor Swift.
Omawiane zdarzenie podkreśla potrzebę międzynarodowej współpracy w celu zwalczania cyberprzestępczości wykorzystującej technologie AI. W innym przypadku o podobnych oszustwach i kradzieżach będziemy słyszeć coraz częściej.
