Sosiale mediegiganten Meta’s Oversight Board har invitert offentlige kommentarer for å bestemme handlinger som skal iverksettes på AI-genererte obskøne bilder i to saker relatert til offentlige personer i India og USA.
En av de to sakene dreier seg om et AI-generert bilde av en naken kvinne lagt ut på Instagram, sa styret, som bestemmer seg for innholdsmoderering.
“Bildet er laget ved hjelp av kunstig intelligens (AI) for å ligne en offentlig person fra India. Kontoen som la ut dette innholdet deler kun AI-genererte bilder av indiske kvinner. Flertallet av brukerne som reagerte har kontoer i India, hvor dype forfalskninger i økende grad er et problem,” sto det.
Annonse
Meta har søkt opinionen om saken, selv om departementet for elektronikk og IT allerede har bedt sosiale mediefirmaer om å fjerne AI-genererte falske bilder og videoer og utstedt et råd, og spurt disse plattformer for å følge dem strengt.
Falske eller omdannede bilder og videoer av flere indiske skuespillere, inkludert Rashmika Mandanna og Priyanka Chopra Jonas, har gått viralt på sosiale medieplattformer, inkludert Instagram, Facebook og X.
Styret sa at i saken relatert til India rapporterte en bruker innholdet til Meta for pornografi, men rapporten ble automatisk lukket fordi den ikke ble gjennomgått innen 48 timer.
“Brukeren anket deretter til styret. Som et resultat av at styret valgte denne saken, bestemte Meta at avgjørelsen om å la innholdet være feil, og fjernet innlegget for brudd på standarden for mobbing og trakassering,” sa styret.
Annonse
I henhold til IT-reglene for 2021, er en nettplattform pålagt å fjerne hel eller delvis nakenhet innen 24 timer etter mottak av en klage.
Styret har også invitert offentlige syn på en sak i USA der et AI-generert obskønt bilde av en amerikansk kjendis ble lagt ut i en Facebook-gruppe.
Majoriteten av brukerne som reagerte på innlegget har kontoer i USA, styret sa.
I dette tilfellet ble bildet allerede ansett som et brudd på Facebooks fellesskapsstandarder og ble fjernet.
Det offentlige kommentarvinduet for denne saken er åpent i 14 dager til april 30, sa styret.
Annonse
Tilsynsstyret nevnte ikke navnet eller detaljene til kjendisene.
Innlegget delte imidlertid en lenke til en nyhetsartikkel som nevnte navn på indiske og amerikanske kjendiser som er berørt av slikt innhold.