Niet alle “Made With AI”-afbeeldingen zijn gemaakt door AI

Snelle links

• AI-media zijn zo echt, wij Hulp nodig om het van de werkelijkheid te onderscheiden

• Meta's labelklonters AI-gegenereerd en AI- Samen ondersteund

• Is er een verschil tussen AI-gegenereerd en AI-ondersteund?

• Meta's AI-labeling is niet onfeilbaar

• Nieuwe standaarden voor fotografie liggen in het verschiet < /li>

Meta heeft onlangs een nieuwe 'Made with AI'-versie uitgebracht. tag om gebruikers te helpen onderscheid te maken tussen echte en door AI gegenereerde inhoud. Het probleem is dat de tag zonder onderscheid verschijnt op afbeeldingen die volledig met AI zijn gemaakt en op afbeeldingen die alleen met AI zijn bewerkt. Dit heeft geleid tot een debat over de mate waarin AI voldoende is om een ​​imago te bezoedelen, en heeft zelfs nog meer verwarring geïntroduceerd over wat echt is en wat niet.

AI-media zijn zo echt dat we hulp nodig hebben om ze te onderscheiden van de werkelijkheid < /h2>

Herinner je je die foto van de paus in het stijlvolle pufferjack nog? Op het eerste gezicht leek het volkomen normaal, en we dachten allemaal dat we zojuist op de swag van de paus hadden geslapen. Later werd echter onthuld dat de foto door AI was gegenereerd.

Als je er een tweede keer overheen gaat met een kam met fijne tanden, kun je zien dat het beeld door AI is gegenereerd, maar dat is precies het probleem—nee men surft met zoveel intensiteit op internet.

Met de toename van het aantal diensten voor het genereren van AI-beelden circuleren er duizenden, zo niet miljoenen, door AI gegenereerde afbeeldingen op internet. Facebook wordt al overspoeld met tonnen door AI gegenereerde afbeeldingen, en andere sociale-mediaplatforms blijven niet ver achter.

De meeste mensen zullen de tekenen missen dat deze beelden door AI zijn gegenereerd en ze beschouwen als een nauwkeurige weergave van de werkelijkheid. Nu het verkiezingsseizoen voor de deur staat en in een tijdperk waarin desinformatie en leugens zo wijdverspreid zijn, is de inzet nog nooit zo groot geweest om verzinsels los te kunnen zien van de werkelijkheid.

Met dit in gedachten is Meta begonnen met het labelen van door AI gegenereerde afbeeldingen die zijn geüpload naar Facebook, Instagram en Threads, zodat mensen ze gemakkelijk van elkaar kunnen onderscheiden. Niet iedereen is echter tevreden over de manier waarop ze dit plan hebben uitgevoerd.

Meta's Labeling klontert AI-gegenereerd en AI-ondersteund samen

Het tumult rond de AI-labeling van Meta komt voort uit het feit dat het bedrijf geen onderscheid maakt tussen het gebruik van AI om fotorealistische afbeeldingen te genereren en het gebruik van een AI-proces om een ​​foto te bewerken. Wat Meta betreft vallen beide in dezelfde categorie.

Veel benadeelde fotografen zijn naar de sociale media gegaan om voorbeelden te delen waarin dit hen overkomt. Voormalig Witte Huis-fotograaf Pete Souza klaagde dat hij de optie 'Made with AI' niet kon uitschakelen. box bij het plaatsen van een foto die hij maakte van een basketbalwedstrijd.

Een andere fotograaf, Peter Yan, had zijn foto van de berg Fuji voorzien van de tag 'Made With AI'. omdat hij een generatieve AI-tool gebruikte om een ​​prullenbak op de foto te verwijderen.

Is er een verschil tussen door AI gegenereerd en door AI ondersteund?

De kern van het debat rond de AI-tag van Meta is of het eerlijk is om afbeeldingen te bestempelen als 'Made With AI'. zelfs als ze slechts minimaal zijn bewerkt met generatieve AI-tools.

Het is begrijpelijk dat fotografen die generatieve AI-tools gebruiken niet het label 'Made With AI' willen hebben. overal in de buurt van hun werk. De term is geladen, wat suggereert dat de scène verzonnen is en impliceert dat ze profiteren van het werk van anderen, aangezien veel AI-programma's zonder toestemming worden getraind op auteursrechtelijk beschermde werken. Bovendien wordt hun werk bestempeld als 'Made With AI'. ondermijnt de inspanning en vaardigheid die betrokken zijn bij het maken van de uiteindelijke foto.

Aan de andere kant van het hek beweren degenen die voorstander zijn van de etikettering van Meta dat het gebruik van elke generatieve AI-tool, hoe klein ook, AI in de mix introduceert. Daarom is de foto niet langer een nauwkeurige weergave van de scène die hij heeft vastgelegd en zou hij technisch gezien in de categorie 'Made With AI' moeten vallen.

De anti-labelers weerleggen dat mensen voor altijd foto's hebben bewerkt – is er echt een verschil tussen het verwijderen van de achtergrond van een foto met AI versus het gebruik van de toverstaf? Als Meta er zoveel waarde aan hecht om de werkelijkheid precies weer te geven zoals deze is, zou er dan geen tag moeten zijn die aangeeft wanneer een foto op welke manier dan ook is gewijzigd?

Ze wijzen er verder op dat AI-tools nu in alles zijn ingebakken, van de ‘Space Zoom’-technologie. op de Galaxy S20 Ultra tot industriestandaard fotobewerkingsapps zoals generatieve vulling in Adobe Photoshop. Door afbeeldingen met kleine AI-aanpassingen te labelen als ‘Made With AI’, Meta creëert een 'jongen die wolf-scenario riep' waar onschuldige afbeeldingen het label 'Made With AI' krijgen, waardoor mensen het vertrouwen in het label verliezen en ze gevoeliger worden voor de daadwerkelijke verkeerd geïnformeerde AI-inhoud.

Anderen proberen een middenweg te vinden en suggereren een aparte “AI-ondersteunde” tag voor afbeeldingen die slechts minimaal zijn gewijzigd met AI. Dat idee stuit echter direct op problemen. Hoeveel AI-wijzigingen moeten worden toegestaan ​​voordat een foto als “gemaakt met AI” wordt beschouwd? En zou zo'n systeem überhaupt enig doel dienen? Zou een kwaadwillende actor niet gewoon een klein deel van een afbeelding met AI kunnen wijzigen om een ​​misleidende scène te creëren?

Meta’s AI-labeling is niet waterdicht

De volledige 'Made With AI'-versie Het debat kan hoe dan ook een betwistbaar punt zijn, aangezien iedereen die dat wil de tag gewoon volledig kan vermijden. Meta vertrouwt op informatie in de metagegevens van de foto om AI-processen te identificeren, en het is triviaal eenvoudig om deze te verwijderen. PetaPixel ontdekte tijdens zijn tests dat het simpelweg kopiëren en plakken van de afbeelding in een leeg document voldoende was om de tag te omzeilen, en door een screenshot van de afbeelding te plaatsen, werd de tag ook vermeden.

De betrouwbaarheid van de labeling is ook verdacht, aangezien er verschillende duidelijk door AI gegenereerde afbeeldingen op Meta's platforms staan ​​zonder de tag. Daarentegen worden andere afbeeldingen zonder enige AI ermee geslagen.

Nieuwe standaarden voor fotografie liggen in het verschiet

Ondanks de huidige rommelige situatie gloort er hoop aan de horizon. Veel van de grote digitale mediaspelers heroverwegen foto's en video's met een grotere focus op hun herkomst en authenticatie. Ik vermoed dat het veld de komende jaren een enorme opschudding zal meemaken. Er zijn al nieuwe initiatieven voor de authenticatie van digitale media, waarvan de grootste de Coalition for Content Provenance and Authenticity is, kortweg C2PA.

De C2PA is een gezamenlijk project van grote technologiebedrijven als Adobe, Arm, Intel, Microsoft en Google, dat tot doel heeft context en geschiedenis te bieden voor alle digitale media. Het idee hierachter is dat er vanaf het moment van vastleggen een digitaal document wordt gemaakt en aan alle media wordt gekoppeld, met details over waar het is gemaakt, met welke camera en door wie. Elke daaropvolgende bewerking van het onderwerp wordt ook aan dit record toegevoegd en al deze informatie wordt vervolgens aan de eindkijker verstrekt, zodat deze altijd op de hoogte is van de herkomst van de foto.

De C2PA bevindt zich nog in de beginfase, maar er worden al nieuwe camera's geproduceerd die de standaard ondersteunen, en ik vermoed dat het niet lang zal duren voordat dit de norm wordt.

Het wordt moeilijker dan ooit om te onderscheiden wat echt is en wat door AI is gegenereerd, en het nieuwe label van Meta helpt daar zeker niet bij. Initiatieven als de C2PA zijn een licht aan het einde van een donkere tunnel, maar het duurt nog een tijdje voordat ze algemeen aanvaard worden.

Het is aan jou om de media die je consumeert met een kritisch oog te evalueren om er zeker van te zijn dat wat je ziet authentiek is. Stel de bron in vraag, zoek naar aanvullende informatie en onthoud dat niet alle 'Made With AI'-producten goed zijn. afbeeldingen zijn gemaakt door AI.