Firmy po celom svete už prišli o milióny dolárov kvôli podvodom označovaným ako deepfakes a odborníci na bezpečnosť v kybernetickom priestore upozorňujú, že situácia sa bude ďalej zhoršovať.
Video: Čo sú deepfaky a prečo sú nebezpečné?
Zločinci totiž čoraz viac zneužívajú generatívnu umelú inteligenciu, informuje portál televízie CNBC. Ako deepfake sa označuje technológia, ktorá v digitálnom prostredí umožňuje podvodníkom vytvárať falošný obsah, napríklad aj pozmenením tváre iných ľudí.
Na nerozoznanie od reality
Deepfake, voľne preložené ako hlboký falzifikát, môže byť video, zvuk, prípadne fotografie skutočnej osoby, ktoré boli digitálne upravené a zmanipulované, často prostredníctvom umelej inteligencie. Cieľom je presvedčivo ich skresať, aby vyvolali dojem, že ide o realitu.
V jednom z najväčších známych prípadov tohto druhu, ktorý sa odohral v tomto roku, bol podvedený pracovník jedného finančného oddelenia v Hongkongu.
Previedol takto viac ako 25 miliónov dolárov podvodníkom využívajúcim technológiu deepfake, ktorí pri videohovore svoj vlastný obraz pozmenili tak, že pracovník bol presvedčený, že pred sebou na monitore vidí svojich kolegov.
Minulý týždeň britská strojárska spoločnosť Arup portálu CNBC potvrdila, že je to ona, kto je do tohto prípadu zapojený, ale že kvôli pokračujúcemu vyšetrovaniu nemôže byť v tejto záležitosti konkrétnejšia.
Podobné hrozby narastajú v dôsledku popularizácie chatovacieho programu Chat GPT od americkej spoločnosti OpenAI. Tá ho sprístupnila v roku 2022 a odvtedy sa medzi ľuďmi prudko zvýšil záujem o technológiu generatívnej AI.
Zločincom aj bez znalostí
"Verejná dostupnosť týchto služieb znížila bariéru vstupu pre kybernetických zločincov - tí už nemusia mať špeciálne technologické zručnosti," povedal David Fairman zo spoločnosti Netskope, ktorá sa špecializuje na bezpečnosť v kybernetickom priestore. Objem a sofistikovanosť podvodov sa podľa neho rozšírili s tým, ako sa technológia AI neustále vyvíja.
Rôzne služby generatívnej AI možno využiť na vytváranie textového či obrazového obsahu, ako aj videá, ktoré vyzerajú, ako keby ich vytvoril človek alebo ako keby na nich bol skutočný človek zobrazený. Môžu tak fungovať ako pomocné nástroje pre zločincov, ktorí sa snažia digitálne manipulovať a pretvárať obraz reálnych osôb.
"Tak ako v mnohých iných firmách po celom svete, aj naše aktivity sú vystavené pravidelným útokom, vrátane podvodov s faktúrami, phishingových podvodov, falšovania hlasu cez WhatsApp a deepfakes," povedal hovorca firmy Arup.
V prípade pracovníka finančného oddelenia, ktorého podvodníci pripravili o milióny dolárov, išlo o to, že sa tento pracovník zúčastnil údajne klasického videohovoru.
Falošné videohovory
Na druhej strane boli ľudia, ktorých tento pracovník považoval za finančného riaditeľa spoločnosti a za ďalších zamestnancov podniku. Pracovník bol požiadaný o prevod peňazí, ale zvyšok účastníkov stretnutia bol deepfake - boli to digitálne upravené obrazy ľudí, ktorí so skutočnými zamestnancami podniku nemali nič spoločné.
Spoločnosť Arup uviedla, že pri incidente boli použité falošné hlasy a obrazy. Upozornila pritom, že počet a sofistikovanosť týchto útokov v posledných mesiacoch prudko narastá.
Čínske štátne médiá tento rok informovali o podobnom prípade v provincii Šan-si. Týkal sa zamestnankyne finančného oddelenia, ktorá bola na základe zmanipulovaných pokynov vyzvaná na prevod 1,86 milióna jüanov na účet podvodníka.
Stalo sa to aj pri videohovore s človekom, o ktorom sa zamestnankyňa domnievala, že je to jej šéf. V skutočnosti išlo o deepfake a osoba na druhej strane mala iba podobu jej šéfa.
Podobné prípady však nie sú tak úplne nové. V roku 2019 generálny riaditeľ jednej britskej energetickej spoločnosti podľa médií previedol 220-tisíc eur podvodníkovi, ktorý digitálne napodobnil vzozretie šéfa materskej spoločnosti a telefonicky požiadal generálneho riaditeľa o prevod peňazí údajnému dodávateľovi.
Výskumníci spoločnosť Mandiant, ktorá sa venuje bezpečnosti v kybernetickom priestore a ktorú vlastní americká internetová spoločnosť Google, vlani v auguste zdokumentovali mnoho podobných prípadov.
Zločinci pri nich tiež využívali najmä umelú inteligenciu a technológiu deepfake na phishingové podvody, dezinformácie a ďalšie nezákonné účely. Firma vtedy uviedla, že použitie technológie pre takéto aktivity je obmedzené, ale že rastúca dostupnosť nových nástrojov generatívnej AI urýchli jej využitie ľuďmi so zlými úmyslami.