Che cosa È un Deepfake, e dovrei Essere Preoccupato?

meyer_solutions/Shutterstock

Tendiamo a fiducia il contenuto del video e registrazioni audio. Ma con AI, chiunque faccia o la voce può essere ricreato con accuratezza. Il prodotto è un deepfake, di una rappresentazione che può essere utilizzato per meme, la disinformazione, o porno.

Uno sguardo alla Nicholas Cage deepfakes o Jordan Peele del deepfake PSA rende chiaro che abbiamo a che fare con strani nuova tecnologia. Questi esempi, mentre relativamente innocuo, sollevare domande circa il futuro. Possiamo fidarci di video e audio? Possiamo tenere le persone responsabili per le loro azioni sullo schermo? Siamo pronti per deepfakes?

Deepfakes Sono Nuovo, Facile da Fare e di Crescere più Velocemente

Deepfake la tecnologia è solo un po ‘ di anni, ma è già esplosa in qualcosa che sia accattivante e sconvolgente. Il termine “deepfake”, che è stato coniato in un thread Reddit nel 2017, è usato per descrivere la ricreazione di un umano, l’aspetto o la voce, grazie all’intelligenza artificiale. Sorprendentemente, appena circa chiunque può creare un deepfake con un pessimo PC, alcuni software, e poche ore di lavoro.

Ci crediate o no, l’immagine a sinistra è il deepfake. Profondo Omaggio/Bob Thornton

Come con qualsiasi nuova tecnologia, c’è una certa confusione che circonda deepfakes. Il “ubriaco Pelosi” il video è un ottimo esempio di questa confusione. Deepfakes sono costruiti dalla IA, e sono fatti per rappresentare la gente. “Dunk Pelosi video, che è stato indicato come un deepfake, in realtà è solo un video di Nancy Pelosi che ha rallentato il passo corretto per aggiungere una difficoltà-speech effetto.

Questo è anche ciò che rende deepfakery diversa, ad esempio, la CGI Carrie Fisher in Star Wars: Rogue Uno. Mentre la Disney ha speso un sacco di soldi studiare Carrie Fisher viso e ricreare a mano, un nerd con alcuni deepfake software può fare lo stesso lavoro in un solo giorno. AI rende il processo incredibilmente semplice, a basso costo, e convincente.

Come Fare un Deepfake

Come uno studente in una classe, l’AI deve “imparare” come eseguire il suo compito previsto. E lo fa attraverso un processo di tipo “brute force” per prova ed errore, di solito indicato come il machine learning o apprendimento profondo. Un’intelligenza artificiale che è stato progettato per completare il primo livello di Super Mario Bros, per esempio, si gioca il gioco più e più volte fino a quando si capisce il modo migliore per vincere. Il responsabile della progettazione AI bisogni di fornire alcuni dati per ottenere le cose iniziate, insieme ad alcune “regole” quando le cose vanno male lungo la strada. A parte questo, l’IA fa tutto il lavoro.

Lo stesso vale per deepfake viso di ricreazione. Ma, naturalmente, ricreando le facce non è lo stesso come battere un video gioco. Se dovessimo creare un deepfake di Nicholas Cage hosting the Wendy Williams show, ecco di cosa abbiamo bisogno:

• Una Destinazione Video: Come di adesso, deepfakes funzionano meglio con chiara destinazione video. Ecco perché alcuni dei più convincente deepfakes sono dei politici; essi tendono a stare in piedi ancora un podio sotto coerente di illuminazione. Così, abbiamo solo bisogno di un video di Wendy seduta ancora a parlare.
• Due set di dati: Per la bocca e i movimenti della testa per look accurato, abbiamo bisogno di un set di dati di Wendy Williams viso e un set di dati di Nicholas Cage in faccia. Se Wendy guarda a destra, abbiamo bisogno di una foto di Nicholas Cage guardando a destra. Se Wendy apre la bocca, abbiamo bisogno di una foto della Gabbia di aprire la bocca.

Dopo di che, lasciare che l’IA fare il suo lavoro. Prova a creare i deepfake più e più volte, imparare dai suoi errori lungo il percorso. Semplice, giusto? Beh, un video di Gabbia faccia Wendy William corpo non ha intenzione di ingannare nessuno, così come possiamo andare un po ‘ oltre?

People Magazine/La Rivista Time

Il più convincente (e potenzialmente pericolosi) deepfakes sono di tutti-out imitazioni. Il popolare Obama deepfake da Jordan Peele è un buon esempio. Così facciamo una di queste imitazioni. Proviamo a creare un deepfake di Mark Zuckerberg, che dichiara il suo odio per le formiche—che suona convincente, giusto? Ecco cosa abbiamo bisogno:

• Una Destinazione Video: Questo potrebbe essere un video di Zuckerberg stesso o di un attore che è simile a Zuckerberg. Se la nostra destinazione, il video è di un attore, ti basta semplicemente incollare Zuckerberg viso dell’attore.
• I Dati della foto: Abbiamo bisogno di foto di Zuckerberg parlando, lampeggiante, e muovendo la testa intorno. Se siamo sovrapporre il suo volto su un attore, avremo anche bisogno di un set di dati di attore movimenti facciali.
• Il Zuck Voce: il Nostro deepfake esigenze di suono, come Il Zuck. Siamo in grado di fare questo, tramite la registrazione di un sosia, o ricreando Zuckerberg con la voce AI. Per ricreare la sua voce, abbiamo semplicemente eseguire i campioni audio di Zuckerberg attraverso una IA come la Lira, e quindi digitare ciò che vogliamo dire.
• Un Lip-Sync AI: Dal momento che si sta aggiungendo la voce del falso Zuckerberg per il nostro video, un lip-sync AI bisogno di assicurarsi che il deepfake movimenti facciali corrispondono a ciò che viene detto.

Non stiamo cercando di sminuire il lavoro e la competenza che va in deepfakery. Ma rispetto al milioni di dollari CGI lavoro che ha portato Audrey Hepburn indietro dai morti, deepfakes sono una passeggiata nel parco. E mentre noi non siamo caduti per un politico o una celebrità, deepfake appena ancora, anche il crappiest, la più ovvia, deepfakes hanno causato un danno reale.

CORRELATI: Il Problema Con AI: Macchine Stanno Imparando Cose, Ma non riesco a Capire

Deepfakes Hanno Già Causato Nel Mondo Reale Danno

A partire da ora, la maggior parte di deepfakes sono solo Nicholas Cage memi, annunci di servizio pubblico e raccapricciante celebrity porn. Questi punti sono relativamente innocui e facile da identificare, ma in alcuni casi, deepfakes sono utilizzati con successo per diffondere disinformazione e del male la vita degli altri.

In India, deepfakes sono impiegati dai nazionalisti Indù per screditare e incitano la violenza femminile contro i giornalisti. Nel 2018, un giornalista di nome Rana Ayyub cadde vittima di una campagna di disinformazione, che comprendeva un deepfake video del suo viso, sovrapposto ad un video pornografico. Questo ha portato ad altre forme di molestie online e la minaccia di violenza fisica.

Stateside, deepfake tecnologia viene spesso utilizzato per creare nonconsensual vendetta porno. Come riportato da Vice, molti utenti ormai vietato deepfakes Reddit forum ha chiesto come creare deepfakes di ex-fidanzate, schiaccia, amici e compagni di scuola (sì, figlio porno). Il problema è così grande che Virginia ora fuorilegge tutte le forme di non-consensuale pornografia, tra cui deepfakes.

Come deepfakes diventare sempre più convincente, che la tecnologia sarà senza dubbio essere utilizzato per fini discutibili. Ma c’è una possibilità che stiamo esagerando, giusto? Non è questo il passo naturale dopo con Photoshop?

Deepfakes Sono una Naturale Estensione della Falsificato le Immagini

Anche al livello più elementare, deepfakes sono sconvolgenti. Abbiamo fiducia di video e registrazioni audio per catturare le persone parole e le azioni, senza pregiudizi o disinformazione. Ma in un certo senso, la minaccia di deepfakes non è certo nuova. È esistito da quando abbiamo iniziato ad usare la fotografia.

Prendete, per esempio, poche foto esistenti di Abramo Lincoln. La maggior parte di queste fotografie (tra cui i ritratti su penny e cinque banconote da un dollaro) sono stati manipolati da un fotografo di nome Mathew Brady per migliorare Lincoln affusolata, aspetto (in particolare il suo collo sottile). Alcuni di questi ritratti sono stati editati in un modo che ricorda di deepfakes, con Lincoln testa sovrapposta i corpi di “forte” uomini come Calhoun (l’esempio che segue è un’incisione, non una fotografia).

Atlas Obscura/Library of Congress

Questo suona come un bizzarro po ‘ di pubblicità, ma durante il 1860, fotografia portato una certa quantità di “verità” che ora ci riserva per il video e registrazioni audio. Si è ritenuto di essere l’esatto opposto di arte—scienza. Queste foto sono state volutamente manipolata per screditare i giornali, che ha criticato Lincoln, per il suo debole corpo. Alla fine, ha funzionato. Gli americani sono stati colpiti da Lincoln figura, e Lincoln dichiarò che Brady foto “mi ha fatto il presidente.”

La connessione tra deepfakes e 19 ° secolo, l’editing di foto è stranamente confortante. Ci offre il racconto che, mentre questa tecnologia ha gravi conseguenze, non è qualcosa che è completamente fuori dal nostro controllo. Ma, purtroppo, che il racconto non può tenere per molto tempo.

Non saremo in Grado di individuare Deepfakes per Sempre

Siamo abituati a spotting falso immagini e video con i nostri occhi. È facile guardare un Joseph Goebbels ritratto di famiglia e dire, “c’è qualcosa di strano in quel ragazzo in fondo.” Uno sguardo alla corea del Nord di propaganda foto rende evidente che, senza YouTube tutorial, gente aspirare a Photoshop. E impressionante come deepfakes sono, è ancora possibile individuare un deepfake a vista da solo.

Ma non saremo in grado di individuare deepfakes per molto più tempo. Ogni anno, deepfakes diventare sempre più convincente e anche più facile da creare. Si può fare un deepfake con una sola foto, e si può utilizzare come AI Lira per clonare le voci in meno di un minuto. High-tech deepfakes che si fondono falso audio e video sono incredibilmente convincente, anche quando sono fatte per imitare figure riconoscibili come Mark Zuckerberg.

In futuro, si può utilizzare AI, algoritmi, e blockchain tecnologia per combattere contro deepfakes. Teoricamente, l’AI può eseguire la scansione video per cercare deepfake “impronte digitali” e blockchain tech installato su sistemi operativi potrebbe bandiera utenti o i file che hanno toccato deepfake software.

Se questi anti-deepfake metodi suono troppo stupido, allora unisciti al club. Anche AI ricercatori sono dubbi che ci sia una vera soluzione deepfakes. Come software di rilevamento di meglio, così deepfakes. Infine, si raggiunge un punto in cui deepfakes sarà impossibile da rilevare, e ci divertiremo un sacco di più per preoccuparsi di fake celebrity porn, e Nicolas Cage video.

CONTINUA A LEGGERE

• “Come Usare Linux ar Comando per Creare Librerie Statiche
• “Come Velocità Di Internet Prove Di Lavoro? (e Come Precisa Sono?)
• “Come Controllare il Vostro Segnale Wi-Fi Forza
• “Ciò che È “Upscaling” su una TV, e Come Funziona?
• “Come Vedere le Applicazioni che usano la Rete in Windows 10