Snabblänkar
- AI-genererade foton tar över Facebook
- Upptäcka AI-förfalskningarna
- Video kommer nästa
- Det är inte bara ett Facebook-problem
Nyckelalternativ< /h3>
- AI-genererade foton har översvämmat Facebook, och ofta gått obemärkt förbi på grund av förbättrad teknik.
- Alla kan inte upptäcka en AI-genererad bluff, och ankomsten av AI-genererad video kommer att utgöra ett helt nytt problem.
- Falskt AI-genererat innehåll är utbrett på alla sociala nätverk och resurser som Google Image, vilket utgör ett problem över hela webben.
Spridningen av AI-genererat innehåll är en flodvåg som inte kan stoppas, och sociala nätverk som Facebook är fulla av det. Så hur kan du upptäcka detta innehåll, och varför delas det på allvar?
AI-genererade foton tar över Facebook
Det tar sekunder att skapa en bild med hjälp av verktyg som DALL-E eller Midjourney, och dessa verktyg förbättras för varje uppdatering. Medan vissa människor lätt kan upptäcka AI-genererade foton, är andra mindre benägna att ifrågasätta vad de ser visas i deras Facebook-flöden.
“Se är att tro” inte längre är sant. Detta har varit ett problem ända sedan tidiga Photoshop-förfalskningar. Men även om det finns vissa tecken på att en bild har manipulerats för hand, kan det vara mycket svårare att välja ut ett AI-genererat foto.
I början av 2024 slog en våg av bilder upp Facebook som kretsade kring ett udda tema: plastflaskor. Dessa bilder innehöll vanligtvis ett AI-genererat foto av ett föremål som helt var konstruerat av plastflaskor, tillsammans med personen (vanligtvis ett barn) som var ansvarig för dess skapelse.
Denna vurm verkar ha börjat inom Facebook-grupper, och många av statyerna är religiösa till sin natur. Här är ett tidigt exempel:
Men memet slog snart på, med många sidor som publicerade och publicerade samma eller liknande innehåll, till synes på allvar. Dessa bilder åtföljdes ofta av en “min son gjorde den här” stilbild och innehöll kusliga AI-genererade egenskaper (för att lägga till det tvivelaktiga övergripande temat).
Engagemang är den främsta motivationen för att lägga upp dessa bilder. De resonerar med en specifik skara, särskilt de som inte omedelbart ser dem för de falska de är. Människor engagerar sig i innehållet genom att lämna kommentarer eller reaktioner, vilket ökar inläggets räckvidd ytterligare. Facebook är också full av bots, vilket förvärrar problemet.
Detta spelar in i hur innehåll sprids på nätverk som Facebook. Ju mer engagemang ett inlägg får, desto längre sprids det. För vissa sidor representerar denna räckvidd en möjlighet att tjäna pengar med sponsrade inlägg och affiliate-länkar, medan det för andra räcker med att vara i en inflytandeposition.
Upptäcka AI-falskarna
Vi har tidigare täckt grunderna för att upptäcka AI-genererade foton, men det är ingen perfekt vetenskap. Det finns inget enskilt verktyg du kan använda för att “skanna” en bild, och inte alla bilder har kännetecknen för en falsk. Som sagt, det finns några grundläggande saker du kan tänka på.
Med tanke på den nuvarande teknikens tillstånd är AI långt ifrån perfekt. Mycket av tiden är det problem med bilder som har genererats av AI. I synnerhet kan finare detaljer som fingrar, hållna föremål, glasögon och hår ge bort spelet. För livlösa föremål, titta på tunna detaljer som staketstolpar, fönsterramar och hur material korsar varandra.
Som du kan se från några av plastflaskornas styggelser som är prickade i den här artikeln, har många AI-genererade bilder en “look” eller en “aura” för dem är det svårt att placera. Det kan vara en “kuslig dal” effekt där ansikten ser omänskliga ut. Belysningen kan vara platt och inte matcha, motiv kan tyckas glöda som om de var upplysta från en annan källa, och föremål ser inte rätt ut när de placeras bredvid varandra.
När det gäller statyerna av plastflaskor är ingen av logotyperna korrekt utformade. De ser alla ut som vagt igenkännliga varumärken, men inget av dem läser som du förväntar dig. Sättet som flaskorna korsar i skulpturerna är ofta meningslöst. Konstruktion av plastflaskor är en riktig sak (de används ibland för att skapa växthus), och de ser inte ut som den här senaste serien av AI-förfalskningar.
Vi har länge blivit tillsagda att ifrågasätta vad vi läser online, särskilt på Facebook. Vi har kommit att acceptera att det är normalt att ifrågasätta nyheter, förfrågningar om insamlingar, falska jobbannonser, potentiella bedragare och så vidare. Det är dags att utvidga det till visuella medier som helhet och att upprätthålla en sund nivå av skepsis.
Video kommer att bli nästa
Datorgenererade bilder, eller CGI för kort, har fångat människor i årtionden. Det här är effekterna du ser i filmer, handgjorda av människor och blandade med riktiga filmer för att skapa filmisk magi. CGI har också använts flitigt för att skapa övertygande men falska onlinevideor.
strong>
AI-genererad video är lite annorlunda. Den förlitar sig inte på att människor skapar en illusion och blandar den för hand, utan modeller som är tränade på riktiga bilder för att skapa videoklipp från uppmaningar. Även om övertygande AI-genererad video är i sin linda, driver modeller som SORA från OpenAI tekniken framåt i en alarmerande takt.
På plussidan, AI-genererad video kan inte undgå många av problemen som plågar AI-genererad fotografering. Det är möjligt att upptäcka AI-genererad video, men när tekniken förbättras kommer det att bli svårare. Det är också en ny gräns, en som många inte tänker ifrågasätta.
Vi har fotograferat bilder i flera decennier, men video är mycket svårare. Med video kommer det inte bara att vara djur gjorda av plastflaskor och imponerande men osannolika ingenjörskonst, utan riktiga människor, skenande nyhetsrapporter, vilseledande “officiell” tillkännagivanden och mycket mer.
Det kan snart vara dags att gå tillbaka till “Facebook Classic,” där du bara använder nätverket som ett verktyg för att hålla kontakten med människor du faktiskt känner. Snart kanske du inte kan lita på din dagliga dos av roliga, inspirerande eller söta foton och videor. Du hittar det här alternativet under “Feeds” menyn genom att välja “Vänner.”
Det är inte bara ett Facebook-problem
Det känns orättvist att peka ut Facebook, men världens största sociala nätverk råkar bara vara en härd för AI-genererat tomfoolery. Det skulle alltid vara så här, när sidadministratörer letar efter Likes, följare, räckvidd och det där viktiga engagemanget.
Google Bilder översvämmas också av AI-genererade bilder. Konstnärer beklagar förlusten av tillförlitligt referensmaterial sedan en anstormning av AI-genererade bilder slog ut på webben för några år sedan. Hobbyvirkare delar med sig av tips om att undvika vilseledande mönster som inte existerar.
Bloomberg har en historia och frågesport om spridningen av AI-genererade bilder som poserar som riktiga fotografier som visas i Googles resultat. Ibland visas AI-genererade bilder tillsammans med sökningar efter kända personer och händelser, vilket kan förvränga verkligheten.
Vi befinner oss på branten av ett internet som är fullt till brädden av lögner. Detta är ett problem över hela nätet som påverkar alla sociala nätverk och plattformar. Generering av AI-bilder (och snart video) gör det enkelt att skapa innehåll för plattformar som TikTok och Instagram, med naturligt artikulerade text-till-tal-generatorer som påskyndar processen ytterligare.
Det är värt att ta en stund att fundera över vad detta betyder för framtiden för internet. Den döda internetteorin antar att det mesta av innehållet och interaktionerna vi ser online inte längre är mänskliga. Även om detta för närvarande inte är sant, är det inte svårt att föreställa sig en framtid där den är.
För nu kanske det är dags att prata med vänner och familj om du ser dem gilla, kommentera eller dela innehåll som du vet är AI-genererat. Det går inte att stoppa det, men fler människor blir medvetna om problemet och det är ett viktigt första steg.
Om du är en produktiv Facebook-användare, se till att utbilda dig själv om vanliga bedrägerier och tips och tricks på Facebook Marketplace.