Tjuvar använde Deepfake -röstteknologi för att ta bort en bankstörning på 35 miljoner dollar

0
66
Elnur/Shutterstock

Tjuvar använde djupfake -teknik för ljud för att klona en affärsman röst och beställa en överföring på 35 miljoner dollar till utländska konton, enligt ett domstolsdokument som Forbes erhållit. Det är den mest framgångsrika “ djupa rösten ” heist hittills, även om det kanske bara är en liten del av en växande trend.

Deepfake-teknik är ganska välkänd vid denna tidpunkt. I grund och botten tränar människor en AI för att återskapa någons ansikte, vanligtvis ansiktet på en skådespelare eller annan välkänd individ. AI kan sedan animera och klistra in detta ansikte på en referensvideo och därigenom infoga det klonade ämnet i en scen.

Men du kan inte bara hålla någon i en video utan att återskapa rösten. Och det är där ljuddjupfakes spelar in & du tränar en AI för att replikera någons röst och sedan berätta för AI vad du ska säga med den personens röst.

När deepfake -tekniken når en viss nivå av realism tror experter att den kommer att driva en ny era av desinformation, trakasserier och skitfilm omstart. Men det verkar som att “ djup röst ” tekniken har redan nått den stora tiden.

Tillbaka 2020, en bankchef i U.A.E. fick ett telefonsamtal från chefen för ett stort företag. Ett stort förvärv var på gång, enligt direktören, så han behövde banken för att godkänna 35 miljoner dollar i överföringar till flera amerikanska konton. Direktören pekade på e -postmeddelanden från en advokat för att bekräfta överföringen, och eftersom allt såg lagligt ut tog bankchefen igenom det.

Men “ direktören ” av detta företag var faktiskt en “ djup röst ” algoritm utbildad för att låta som sitt offer. U.A.E. söker nu amerikansk hjälp för att hämta de förlorade medlen, som smugglades till konton runt om i världen av en grupp på 17 eller fler tjuvar.

Detta är inte den första ljuddjupstacken, men igen, det &#8217 ; är den mest framgångsrika hittills. Liknande operationer kommer att ske i framtiden, troligen i mycket större skala. Så vad kan företag och regeringar göra för att mildra hotet? Tja, det är svårt att säga.

Eftersom djupa förfalskningar ständigt förbättras kommer de så småningom att bli för övertygande för att människor ska kunna identifiera dem ordentligt. Men tränad AI kanske kan upptäcka djupt falska, eftersom klonade ansikten och röster ofta innehåller små artefakter och misstag, till exempel digitalt brus eller små ljud som är omöjliga för människor att göra.

Källa: Forbes