Dieven gebruikten deepfake-spraaktechnologie om een ​​bankoverval van $ 35 miljoen te plegen

0
72
Elnur/Shutterstock

Dieven gebruikten deepfake-audiotechnologie om de stem van een zakenman te klonen en een overschrijving van $ 35 miljoen naar buitenlandse rekeningen te bestellen, volgens een gerechtelijk document dat door Forbes is verkregen. Het is de meest succesvolle "deep voice" overval tot nu toe, hoewel het misschien maar een klein deel is van een groeiende trend.

Deepfake-technologie is op dit moment redelijk bekend. Kortom, mensen trainen een AI om iemands gezicht na te bootsen, meestal het gezicht van een acteur of een ander bekend persoon. De AI kan dit gezicht vervolgens animeren en plakken op een referentievideo, waardoor het gekloonde onderwerp in een scène wordt ingevoegd.

Maar je kunt iemand niet zomaar in een video stoppen zonder zijn stem opnieuw te creëren. En dat is waar audiodeepfakes in het spel komen: je traint een AI om iemands stem te repliceren en vertelt de AI wat hij moet zeggen met de stem van die persoon.

Zodra deepfake-technologie een bepaald niveau van realisme bereikt, geloven experts dat dit een nieuw tijdperk van verkeerde informatie, intimidatie en waardeloze herstart van films zal veroorzaken. Maar het lijkt erop dat die “diepe stem” tech heeft de top al bereikt.

In 2020 was een bankmanager in de V.A.E. kreeg een telefoontje van de directeur van een groot bedrijf. Volgens de directeur was er een grote overname in de maak, dus hij had de bank nodig om $ 35 miljoen aan overschrijvingen naar verschillende Amerikaanse rekeningen te autoriseren. De directeur verwees naar e-mails van een advocaat om de overdracht te bevestigen, en aangezien alles er legitiem uitzag, zette de bankmanager het door.

Maar de “directeur” van dit bedrijf was eigenlijk een “diepe stem” algoritme getraind om te klinken als zijn slachtoffer. De V.A.E. zoekt nu Amerikaanse hulp bij het terughalen van het verloren geld, dat door een groep van 17 of meer dieven naar rekeningen over de hele wereld is gesmokkeld.

Dit is niet de eerste audio-deepfake-overval, maar nogmaals, het is 8217 ;s de meest succesvolle tot nu toe. Soortgelijke operaties zullen in de toekomst plaatsvinden, waarschijnlijk op veel grotere schaal. Dus wat kunnen bedrijven en overheden doen om de dreiging te verminderen? Nou, het is moeilijk te zeggen.

Omdat deepfakes voortdurend verbeteren, zullen ze uiteindelijk te overtuigend worden voor mensen om goed te identificeren. Maar getrainde AI kan deepfakes herkennen, aangezien gekloonde gezichten en stemmen vaak kleine artefacten en fouten bevatten, zoals digitale ruis of kleine geluiden die mensen onmogelijk kunnen maken.

Bron: Forbes