Socialmediagigant Meta’s Oversight Board heeft publieke commentaren uitgenodigd om te beslissen over acties die moeten worden ondernomen tegen door AI gegenereerde obscene beelden in twee zaken die verband houden met publieke figuren in India en de VS.
In een van de twee gevallen gaat het om een door AI gegenereerde afbeelding van een naakte vrouw die op Instagram is geplaatst, aldus het bestuur, dat beslist over de moderatie van de inhoud.
“Het beeld is gemaakt met behulp van kunstmatige intelligentie (AI) om op een publieke figuur uit India te lijken. Het account dat deze inhoud heeft gepost, deelt alleen door AI gegenereerde afbeeldingen van Indiase vrouwen. De meerderheid van de gebruikers die hebben gereageerd, heeft accounts in India, waar deepfakes steeds vaker een probleem vormen.' stond er.
Advertentie
Meta heeft de publieke opinie over deze kwestie gezocht, ook al heeft het Ministerie van Elektronica en IT sociale-mediabedrijven al gevraagd om door AI gegenereerde nepafbeeldingen en -video's te verwijderen en een advies uitgebracht waarin deze wordt gevraagd platforms om zich hier strikt aan te houden.
Valse of vervormde afbeeldingen en video's van verschillende Indiase acteurs, waaronder Rashmika Mandanna en Priyanka Chopra Jonas, zijn viraal gegaan op sociale mediaplatforms, waaronder Instagram, Facebook en X.
Het bestuur zei dat in de zaak met betrekking tot India een gebruiker de inhoud aan Meta had gerapporteerd wegens pornografie, maar het rapport werd automatisch gesloten omdat het niet binnen 48 uur.
“De gebruiker ging vervolgens in beroep bij het bestuur. Nadat het bestuur deze zaak had geselecteerd, stelde Meta vast dat haar beslissing om de inhoud te laten staan ten onrechte was en verwijderde zij het bericht wegens schending van de gemeenschapsnorm voor pesten en intimidatie. aldus het bestuur.
Advertentie
Volgens de IT-regels van 2021 is een online platform vereist om volledige of gedeeltelijke naaktheid te verwijderen binnen 24 uur na ontvangst van een klacht.
Het bestuur heeft ook uitgenodigd publieke opinie over een zaak in de VS waarbij een door AI gegenereerd obsceen beeld van een Amerikaanse beroemdheid in een Facebook-groep werd geplaatst.
De meerderheid van de gebruikers die op het bericht hebben gereageerd, heeft accounts in de VS, zo meldt het bestuur zei.
In dit geval werd de afbeelding al beschouwd als een schending van de communitynormen van Facebook en werd deze verwijderd.
Het openbare commentaarvenster voor deze zaak is 14 dagen geopend tot april 30, aldus het bestuur.
Advertentie
De Oversight Board heeft de naam of details van de beroemdheden niet vermeld.
Het bericht deelde echter een link van een nieuwsartikel waarin de namen van Indiase en Amerikaanse beroemdheden die door dergelijke inhoud worden getroffen.