Oszustwo z wykorzystaniem technologii deepfake stają się coraz bardziej wyrafinowane i niebezpieczne. Dowodem tego jest niedawny przypadek z Hongkongu. Tamtejszy pracownik finansowy wielonarodowej firmy został oszukany na 25 milionów dolarów. Ten incydent po raz kolejny pokazuje szkodliwy potencjał, jaki niesie zaawansowana technologia sztucznej inteligencji.
Oszustwo w trakcie video konferencji z deepfake w tle
W centrum zdarzenia znajduje się pracownik finansowy z Hongkongu, który został zaproszony na wideokonferencję, podczas której miał się pojawić jego główny dyrektor finansowy (CFO) z siedziby firmy w Londynie. Osoba, którą ujrzał na ekranie, była jednak tylko sztucznie wygenerowaną za pomocą technologii AI kopią CFO. Mimo początkowych podejrzeń obecność innych, znajomych, kolegów na rozmowie uspokoiła pracownika, .
Podczas rozmowy, fałszywy CFO naciskał na pracownika, aby ten przelał pieniądze na określone konta bankowe. W rezultacie pracownik dokonał 15 przelewów na pięć lokalnych kont bankowych, tracąc łącznie 25 milionów dolarów (około 200 milionów dolarów hongkońskich).
Jak oszuści wykorzystali AI do swoich celów
Do stworzenia wiarygodnej iluzji, oszuści wykorzystali nagrania z poprzednich konferencji online. Następnie za pomocą sztucznej inteligencji dodali fałszywe głosy. Funkcjonariusz policji w Hongkongu, Baron Chan Shun-ching, wskazał, że przestępcy mogli pobrać nagrania wideo i następnie wykorzystać SI do manipulacji głosem podczas wideokonferencji. Co więcej, aby dodać wiarygodności oszustwu, wykorzystali również WhatsApp, e-mail oraz indywidualne wideokonferencje z innymi pracownikami z Hongkongu.
Globalny problem z deepfake
Incydent w Hongkongu to nie izolowany przypadek. Policja w Hongkongu podała, że dokonano aresztowań w związku z innymi oszustwami deepfake. Ponadto tylko w tym jednym mieście technologia ta była używana co najmniej 20 razy do oszukania systemów rozpoznawania twarzy. Problem jest jednak globalny. Ostatnio zresztą w Stanach Zjednoczonych senatorowie przedstawili projekt ustawy umożliwiający ofiarom niestosownych treści generowanych przez AI dochodzenie praw przed sądem.
Oszustwo z użyciem AI – zwiększone ryzyko w świecie finansowym
Oszustwo, które spotkało pracownika finansowego z Hongkongu, rzuca światło na rosnące ryzyko w świecie korporacyjnym i finansowym, gdzie transakcje o wysokiej wartości są codziennością. Zdarzenie to ujawnia, jak łatwo oszuści mogą wykorzystać zaufanie między pracownikami korporacji, posługując się zaawansowaną technologią do popełnienia przestępstwa.
Reakcja na globalne zagrożenie – oszustwo deepfake
W odpowiedzi na rosnące zagrożenie, kraje i organizacje na całym świecie zaczynają podejmować kroki mające na celu przeciwdziałanie oszustwom deepfake. Przykładem może być działanie władz indyjskich, które zapowiedziały, że platformy mediów społecznościowych będą ponosić odpowiedzialność za deepfake publikowane przez użytkowników. Niedawno pisaliśmy o krążących na portalu X pornograficznych deepfekach z Taylor Swift.
Omawiane zdarzenie podkreśla potrzebę międzynarodowej współpracy w celu zwalczania cyberprzestępczości wykorzystującej technologie AI. W innym przypadku o podobnych oszustwach i kradzieżach będziemy słyszeć coraz częściej.
Częste pytania
Jak oszuści wykorzystali technologię deepfake w Hongkongu?
Oszuści stworzyli wiarygodną iluzję, wykorzystując nagrania z poprzednich wideokonferencji oraz sztuczną inteligencję do manipulacji głosem. Dzięki temu mogli oszukać pracownika finansowego, który uwierzył, że rozmawia z prawdziwym dyrektorem finansowym.
Jakie były konsekwencje oszustwa z użyciem AI w Hongkongu?
Pracownik finansowy stracił 25 milionów dolarów w wyniku oszustwa, dokonując 15 przelewów na fałszywe konta bankowe. Incydent ten ujawnia poważne zagrożenie dla bezpieczeństwa finansowego w korporacjach.
Czy incydent w Hongkongu jest jedynym przypadkiem oszustwa deepfake?
Nie, incydent w Hongkongu nie jest izolowanym przypadkiem. Policja w tym mieście odnotowała inne oszustwa z użyciem technologii deepfake, a problem ten ma zasięg globalny.
Jakie kroki są podejmowane w odpowiedzi na oszustwa deepfake?
Kraje i organizacje na całym świecie zaczynają wprowadzać regulacje, aby przeciwdziałać oszustwom deepfake. Na przykład, władze indyjskie zapowiedziały, że platformy mediów społecznościowych będą odpowiedzialne za publikowane treści deepfake.
Dlaczego oszustwa z wykorzystaniem AI są niebezpieczne w świecie finansowym?
Oszustwa z użyciem AI, takie jak to w Hongkongu, pokazują, jak łatwo można wykorzystać zaufanie między pracownikami w korporacjach. W świecie finansowym, gdzie transakcje o wysokiej wartości są powszechne, takie oszustwa mogą prowadzić do ogromnych strat.
