Non tutte le immagini “realizzate con l'intelligenza artificiale” sono realizzate dall'intelligenza artificiale

Link rapidi

• AI Media è così reale che noi Hai bisogno di aiuto per distinguerlo dalla realtà

• L'etichettatura di Meta raggruppa i grumi generati dall'intelligenza artificiale e quelli generati dall'intelligenza artificiale Assistito insieme

• Esiste una differenza tra generato dall'intelligenza artificiale e assistito dall'intelligenza artificiale?

• L'etichettatura AI di Meta non è infallibile

• Nuovi standard per la fotografia sono all'orizzonte < /li>

Meta ha recentemente lanciato un nuovo programma “Made with AI” tag per aiutare gli utenti a distinguere tra contenuti reali e generati dall'intelligenza artificiale. Il problema è che il tag appare indiscriminatamente sulle immagini create interamente con l’intelligenza artificiale e su quelle semplicemente modificate con l’intelligenza artificiale. Ciò ha acceso un dibattito su quanto l’intelligenza artificiale sia sufficiente per contaminare un’immagine e ha introdotto ancora più confusione su cosa è reale e cosa non lo è.

I media basati sull'intelligenza artificiale sono così reali che abbiamo bisogno di aiuto per distinguerli dalla realtà < /h2>

Ricordi quella foto del Papa con l'elegante piumino? A prima vista sembrava perfettamente normale e pensavamo tutti di aver dormito sul malloppo del papa. Tuttavia, è stato successivamente rivelato che la foto era stata generata dall'intelligenza artificiale.

Ripassandola una seconda volta con un pettine a denti fini, puoi dire che l'immagine è generata dall'intelligenza artificiale, ma è proprio questo il problema—no si sta navigando sul web con la stessa intensità.

Con la proliferazione dei servizi di generazione di immagini basati sull’intelligenza artificiale, ci sono migliaia, se non milioni, di immagini generate dall’intelligenza artificiale che circolano sul web. Facebook è già inondato da tonnellate di immagini generate dall’intelligenza artificiale e altre piattaforme di social media non sono da meno.

La maggior parte delle persone non si accorgerà che queste immagini sono generate dall’intelligenza artificiale e le considererà una rappresentazione accurata della realtà. Con la stagione elettorale alle porte e in un’epoca in cui la disinformazione e le bugie sono così diffuse, la posta in gioco non è mai stata così alta per riuscire a distinguere la fabbricazione dalla realtà.

Con questo in mente, Meta ha iniziato a etichettare le immagini generate dall'intelligenza artificiale caricate su Facebook, Instagram e Threads per aiutare le persone a distinguerle facilmente. Tuttavia, non tutti sono contenti del modo in cui hanno eseguito questo piano.

L'etichettatura di Meta mette insieme i gruppi generati dall'intelligenza artificiale e quelli assistiti dall'intelligenza artificiale

Il tumulto L'etichettatura AI di Meta deriva dal fatto che l'azienda non discrimina tra l'utilizzo dell'intelligenza artificiale per generare immagini fotorealistiche e l'utilizzo di un processo di intelligenza artificiale per modificare una foto. Per quanto riguarda Meta, entrambi rientrano nella stessa categoria.

Molti fotografi offesi si sono rivolti ai social media per condividere esempi di ciò che è accaduto loro. L'ex fotografo della Casa Bianca Pete Souza si è lamentato di non essere riuscito a deselezionare la casella “Made with AI” box quando ha pubblicato una foto scattata a una partita di basket.

Un altro fotografo, Peter Yan, ha fatto taggare la sua immagine del Monte Fuji “Made With AI” perché ha utilizzato uno strumento di intelligenza artificiale generativa per rimuovere un cestino della spazzatura nella foto.

Esiste una differenza tra generato dall'intelligenza artificiale e assistito dall'intelligenza artificiale?

Il punto cruciale del dibattito sul tag AI di Meta è se sia giusto etichettare le immagini come “Made With AI” o meno. anche quando sono stati modificati solo minimamente con strumenti di intelligenza artificiale generativa.

Comprensibilmente, i fotografi che utilizzano strumenti di intelligenza artificiale generativa non vogliono che l'etichetta “Made With AI” venga etichettata come “Made With AI”. ovunque vicino al loro lavoro. Il termine è caricato, suggerendo che la scena è inventata e implicando che stiano traendo profitto dal lavoro di altri, dato che molti programmi di intelligenza artificiale sono addestrati su opere protette da copyright senza consenso. Inoltre, avere il loro lavoro etichettato come “Made With AI” mina lo sforzo e l'abilità coinvolti nella creazione della foto finale.

Dall'altro lato della barricata, coloro che sono a favore dell'etichettatura di Meta sostengono che l'utilizzo di qualsiasi strumento di intelligenza artificiale generativa, non importa quanto piccolo, introduce l'intelligenza artificiale nel mix. Pertanto, la foto non è più una rappresentazione accurata della scena catturata e dovrebbe tecnicamente rientrare nella categoria “Made With AI”.

Gli anti-etichettatori ribattono che le persone modificano le foto da sempre: c'è davvero differenza tra rimuovere lo sfondo di una foto con l'intelligenza artificiale o usare la bacchetta magica? Se Meta si preoccupa così tanto di ritrarre la realtà esattamente così com'è, allora non dovrebbe esserci un tag che identifichi quando una foto è stata alterata in qualche modo?

Continuano sottolineando che gli strumenti di intelligenza artificiale sono ora integrati in qualsiasi cosa, dallo “Space Zoom" sul Galaxy S20 Ultra alle app di fotoritocco standard del settore come il riempimento generativo in Adobe Photoshop. Etichettando le immagini con piccole modifiche all'intelligenza artificiale come “Made With AI”, Meta crea uno scenario “il ragazzo che gridava al lupo” dove le immagini innocenti vengono etichettate come “Made With AI” facendo sì che le persone perdano fiducia nell’etichetta e rendendole più suscettibili all’effettivo contenuto disinformante dell’IA.

Altre persone cercano di trovare una via di mezzo, suggerendo un sistema separato “assistito dall'intelligenza artificiale” tag per le immagini che sono state modificate solo minimamente con l'intelligenza artificiale. Tuttavia, quell’idea incontra immediatamente delle difficoltà. Quante modifiche all'intelligenza artificiale dovrebbero essere consentite affinché una foto venga considerata “Made with AI?” E un sistema del genere servirebbe a qualcosa? Un attore malintenzionato non potrebbe semplicemente alterare una piccola parte di un'immagine con l'intelligenza artificiale per creare una scena fuorviante?

L'etichettatura AI di Meta non è infallibile

L'intero progetto “Made With AI” il dibattito potrebbe comunque essere un punto controverso poiché chiunque lo desideri potrebbe semplicemente evitare del tutto il tag. Meta si basa sulle informazioni contenute nei metadati delle foto per identificare i processi di intelligenza artificiale ed è banalmente facile rimuoverli. PetaPixel ha scoperto nei suoi test che semplicemente copiare e incollare l'immagine in un documento vuoto era sufficiente per aggirare il tag e anche pubblicare uno screenshot dell'immagine evita il tag.

Anche l'affidabilità dell'etichettatura è sospetta, poiché sulle piattaforme di Meta ci sono diverse immagini ovviamente generate dall'intelligenza artificiale senza il tag. Al contrario, altre immagini senza intelligenza artificiale ne vengono colpite.

Nuovi standard per la fotografia sono all'orizzonte

Nonostante l’attuale situazione caotica, c’è speranza all’orizzonte. Molti dei grandi lettori multimediali digitali stanno ripensando foto e video concentrandosi maggiormente sulla loro provenienza e autenticazione. Ho il sospetto che il settore subirà un massiccio cambiamento nei prossimi anni. Esistono già nuove iniziative per l’autenticazione dei media digitali, la più grande delle quali è la Coalition for Content Provenance and Authenticity, o C2PA in breve.

Il C2PA è un progetto congiunto tra grandi aziende tecnologiche come Adobe, Arm, Intel, Microsoft e Google, che mira a fornire contesto e cronologia per tutti i media digitali. L'idea alla base è che dal momento dell'acquisizione, viene creato un record digitale e associato a tutti i media, specificando dove è stato scattato, con quale fotocamera e da chi. Ogni modifica successiva apportata al soggetto viene aggiunta a questo record e tutte queste informazioni vengono quindi fornite allo spettatore finale, assicurandogli di essere sempre a conoscenza della provenienza della foto.

Il C2PA è ancora nelle sue fasi iniziali, ma nuove fotocamere che supportano lo standard sono già in produzione e sospetto che non passerà molto tempo prima che diventi la norma.

Sta diventando più difficile che mai distinguere cosa è reale da cosa è generato dall'intelligenza artificiale, e la nuova etichetta di Meta non aiuta di certo. Iniziative come C2PA sono una luce alla fine di un tunnel buio, ma sono ancora lontane dall'adozione generale.

Spetta a te valutare i media che consumi con occhio critico per assicurarti che ciò che vedi sia autentico. Metti in discussione la fonte, cerca informazioni aggiuntive e ricorda che non tutte le immagini “Made With AI” sono realizzate dall'intelligenza artificiale.