I ladri hanno utilizzato la tecnologia audio deepfake per clonare la voce di un uomo d'affari e ordinare un trasferimento di 35 milioni di dollari su conti esteri, secondo un documento del tribunale ottenuto da Forbes. È la “voce profonda” di maggior successo. rapina finora, anche se potrebbe essere solo una piccola parte di una tendenza in crescita.
La tecnologia Deepfake è abbastanza nota a questo punto. Fondamentalmente, le persone addestrano un'intelligenza artificiale a ricreare il volto di qualcuno, di solito il volto di un attore o di un altro individuo noto. L'intelligenza artificiale può quindi animare e incollare questa faccia su un video di riferimento, inserendo così il soggetto clonato in una scena.
Ma non puoi semplicemente inserire qualcuno in un video senza ricreare la sua voce. Ed è qui che entrano in gioco i deepfake audio: si addestra un'intelligenza artificiale a replicare la voce di qualcuno, quindi si dice all'intelligenza artificiale cosa dire con la voce di quella persona.
Una volta che la tecnologia deepfake raggiunge un certo livello di realismo, gli esperti ritengono che guiderà una nuova era di disinformazione, molestie e reboot di film di merda. Ma sembra che “voce profonda” la tecnologia ha già raggiunto il successo.
Nel 2020, un direttore di banca negli Emirati Arabi Uniti. ricevuto una telefonata dal direttore di una grande azienda. Secondo il regista era in corso una grande acquisizione, quindi aveva bisogno che la banca autorizzasse 35 milioni di dollari in trasferimenti su diversi conti statunitensi. Il direttore ha indicato le e-mail di un avvocato per confermare il trasferimento e, poiché tutto sembrava legittimo, il direttore della banca l'ha fatto passare.
Ma il “direttore” di questa compagnia era in realtà una “voce profonda” algoritmo addestrato per sembrare la sua vittima. Gli Emirati Arabi Uniti sta ora cercando l'assistenza degli Stati Uniti per recuperare i fondi perduti, che sono stati portati di nascosto su conti in tutto il mondo da un gruppo di 17 o più ladri.
Questa non è la prima rapina audio deepfake, ma ancora una volta è 8217 ;s il maggior successo finora. Operazioni simili si verificheranno in futuro, probabilmente su scala molto più ampia. Quindi cosa possono fare aziende e governi per mitigare la minaccia? Beh, è difficile da dire.
Poiché i deepfake sono in costante miglioramento, alla fine diventeranno troppo convincenti per essere identificati correttamente dagli umani. Ma l'intelligenza artificiale addestrata potrebbe essere in grado di individuare i deepfake, poiché i volti e le voci clonati contengono spesso piccoli artefatti ed errori, come rumore digitale o piccoli suoni impossibili da produrre per gli umani.
Fonte: Forbes