Inte alla “Made With AI”-bilder är gjorda av AI

Snabblänkar

• AI-media är så verklig, vi Behöver hjälp med att skilja det från verkligheten

• Meta’s märkningsklumpar AI-genererade och AI- Assisterade tillsammans

• Finns det någon skillnad mellan AI-genererad och AI-assisterad?

• Meta’s AI-märkning är inte idiotsäker

• Nya standarder för fotografi är på väg < /li>

Meta rullade nyligen ut en ny “Made with AI” tagg för att hjälpa användare att skilja mellan verkligt och AI-genererat innehåll. Problemet är att taggen visas urskillningslöst på bilder skapade helt med AI och de som bara redigeras med AI. Detta har väckt en debatt om hur mycket AI som är tillräckligt för att fläcka en bild och introducerat ännu mer förvirring om vad som är verkligt och vad som inte är det.

AI-media är så verkligt att vi behöver hjälp med att skilja det från verkligheten < /h2>

Kommer du ihåg det där fotot av påven i den snygga pufferjackan? Vid första anblicken verkade det helt normalt, och vi trodde alla att vi precis hade sovit på påvens swag. Det avslöjades dock senare att bilden var AI-genererad.

Om du går igenom det en andra gång med en fintandad kam kan du se att bilden är AI-genererad, men det är precis problemet—nej man surfar på webben med så mycket intensitet.

Med spridningen av AI-bildgenereringstjänster finns det tusentals, om inte miljoner, AI-genererade bilder som cirkulerar på nätet. Facebook är redan översvämmad med massor av AI-genererade bilder, och andra sociala medieplattformar ligger inte långt efter.

De flesta kommer att missa tecknen på att dessa bilder är AI-genererade och ta dem som en korrekt representation av verkligheten. När valsäsongen är på väg och i en tid där desinformation och lögner är så utbredda, har insatserna aldrig varit högre för att kunna skilja påhitt från verkligheten.

Med detta i åtanke har Meta börjat märka AI-genererade bilder som laddats upp till Facebook, Instagram och Threads för att hjälpa människor att enkelt skilja dem åt. Men alla är inte nöjda med hur de har genomfört denna plan.

Meta’s Labeling Lumps AI-genererade och AI-assisterade tillsammans

Uppståndelsen kring Metas AI-märkning härrör från det faktum att företaget inte diskriminerar mellan att använda AI för att generera fotorealistiska bilder och att använda en AI-process för att redigera ett foto. När det gäller Meta faller båda i samma kategori.

Många förolämpade fotografer har tagit till sociala medier för att dela exempel på att detta händer dem. Vita husets före detta fotograf Pete Souza klagade över att han inte kunde avmarkera “Made with AI” box när han lade upp ett foto han tog av en basketmatch.

En annan fotograf, Peter Yan, fick sin bild av berget Fuji taggad “Made With AI”; eftersom han använde ett generativt AI-verktyg för att ta bort en papperskorg på bilden.

Finns det en skillnad mellan AI-genererad och AI-assisterad?

Kärnan i debatten kring Metas AI-tagg är om det är rättvist att märka bilder som “Made With AI” även när de bara har redigerats minimalt med generativa AI-verktyg.

Förståeligt nog vill fotografer som använder generativa AI-verktyg inte ha etiketten “Made With AI” någonstans i närheten av deras arbete. Termen är laddad, vilket tyder på att scenen är tillverkad och antyder att de tjänar på andras arbete, med tanke på att många AI-program tränas på upphovsrättsskyddade verk utan samtycke. Dessutom har deras arbete märkt som "Made With AI" undergräver ansträngningen och skickligheten i att skapa det slutliga fotot.

På andra sidan stängslet hävdar de som är för Metas märkning att användningen av vilket generativt AI-verktyg som helst, oavsett hur litet det är, introducerar AI i mixen. Därför är bilden inte längre en korrekt representation av scenen den fångade och bör tekniskt sett falla i kategorin “Made With AI.”

Anti-etiketterarna motverkar att folk har redigerat foton i evigheter—är det verkligen någon skillnad mellan att ta bort bakgrunden på ett foto med AI och att använda trollstaven? Om Meta bryr sig så mycket om att skildra verkligheten exakt som den är, borde det då inte finnas en tagg som identifierar när ett foto har ändrats på något sätt?

De fortsätter med att påpeka att AI-verktyg nu är inbyggda i allt från “Space Zoom" på Galaxy S20 Ultra till branschstandardfotoredigeringsappar som generativ fyllning i Adobe Photoshop. Genom att märka bilder med mindre AI-justeringar som “Made With AI,” Meta skapar ett “pojke som grät varg-scenario” där oskyldiga bilder får etiketten “Made With AI”,” vilket gör att människor tappar förtroendet för etiketten och gör dem mer mottagliga för det faktiska felaktiga AI-innehållet.

Andra människor försöker hitta en medelväg och föreslår en separat “AI-assisterad” tagg för bilder som endast har ändrats minimalt med AI. Den idén stöter dock genast på svårigheter. Hur mycket AI-modifiering ska tillåtas tills ett foto anses vara “Made with AI?”. Och skulle ett sådant system ens tjäna något syfte? Kunde inte en illvillig skådespelare bara ändra en liten del av en bild med AI för att skapa en missvisande scen?

Meta’s AI-märkning är inte idiotsäker

Hela “Made With AI” debatt kan vara en omtvistad fråga ändå eftersom alla som vill kan helt enkelt undvika taggen. Meta förlitar sig på information i fotometadata för att identifiera AI-processer, och det är trivialt enkelt att ta bort det. PetaPixel fann i sina tester att det räckte att bara kopiera och klistra in bilden i ett tomt dokument för att komma runt taggen, och att lägga upp en skärmdump av bilden undviker också taggen.

Märkningens tillförlitlighet är också misstänkt, eftersom det finns flera uppenbart AI-genererade bilder på Metas plattformar utan taggen. Däremot blir andra bilder utan någon AI smällda med det.

Nya standarder för fotografi är på väg

Trots det nuvarande röriga tillståndet finns det hopp vid horisonten. Många av de stora digitala mediespelarna omprövar foton och videor med ett större fokus på deras ursprung och autentisering. Jag misstänker att fältet kommer att se en massiv skakning under de kommande åren. Redan nu finns det nya initiativ för autentisering av digitala medier, varav den största är Coalition for Content Provenance and Authenticity, eller förkortat C2PA.

C2PA är ett gemensamt projekt mellan stora teknikföretag som Adobe, Arm, Intel, Microsoft och Google, som syftar till att tillhandahålla sammanhang och historia för alla digitala medier. Tanken bakom det är att från och med fångstögonblicket skapas en digital skiva och binds till alla media, med detaljer om var den togs, på vilken kamera och av vem. Varje efterföljande redigering som görs av ämnet läggs också till i denna post, och all denna information ges sedan till slutbetraktaren, vilket säkerställer att de alltid är medvetna om bildens härkomst.

C2PA är fortfarande i ett tidigt skede, men nya kameror som stöder standarden produceras redan, och jag misstänker att det inte kommer att dröja länge innan det blir normen.

Det blir svårare än någonsin att avgöra vad som är verkligt från det som är AI-genererat, och Metas nya etikett hjälper verkligen inte saken. Initiativ som C2PA är ett ljus i slutet av en mörk tunnel, men de är fortfarande ett tag bort från allmän adoption.

Det faller på dig att utvärdera media du konsumerar med ett kritiskt öga för att se till att det du ser är äkta. Fråga källan, sök ytterligare information och kom ihåg att inte alla "Made With AI" bilder är gjorda av AI.