Tehnologia deepfake — folosită de aplicații precum FaceApp — folosește inteligența artificială (AI) pentru a edita fotografiile sau vocile utilizatorilor astfel încât să modifice anumite trăsături. Însă în afară de partea distractivă, această tehnologia poate fi folosită și în alte scopuri: directorul unei companii energetie din Marea Britanie a fost convins să trimită 200.000 de euro către un furnizor din Ungaria, deoarece credea că șeful său îl pune să facă asta.
The Wall Street Journal scrie că firma de asigurări a companiei de energie, Euler Hermes Group, a descoperit că un infractor inteligent, cunoscător al tehnologiei AI, folosea un software de tip deepfake pentru a imita vocea șefului și a solicita plata.
„Software-ul a putut imita vocea, dar nu numai: tonalitatea, punctuația, accentul german”, a declarat un purtător de cuvânt al Euler Hermes pentru The Washington Post.
Banii au dispărut, fiind mutați prin conturi din Ungaria și Mexic și apoi dispersați în conturi din întreaga lume, scrie The Verge. Euler Hermes a refuzat să numească firma de energie sau compania sa mamă din Germania.
Este posibil să nu fie prima dată când s-a întâmplat acest lucru. Potrivit Washington Post, firma de securitate cibernetică Symantec susține că a întâlnit cel puțin trei cazuri de fraudă realizată cu ajutorul tehnologiei deepfake, folosită pentru a păcăli companiile să trimită bani în conturile infractorilor. Reprezentanții Symantec spun că cel puțin unul dintre cazuri a avut ca rezultat pierderi de milioane de dolari.
Nicio companie mare din Silicon Valley cu resurse de cercetare a inteligenței artificiale nu dezvoltă în mod deschis (open-source) software-uri deepfake.
Printre serviciile audio care folosesc această tehnologie se numără controversatul serviciu Duplex al Google, care folosește inteligența artificială pentru a imita vocea unei ființe umane reale, astfel încât să poată face apeluri telefonice în numele unui utilizator.