Von Recherchen im März dieses Jahres bis hin zu Unternehmensmemos aus dem Jahr 2019 – die internen Unternehmensdokumente zu Indien heben Facebooks ständige Bemühungen bei der Unterbindung missbräuchlicher Inhalte auf seinen Plattformen in der größten Demokratie der Welt und dem größten Wachstumsmarkt des Unternehmens. (Datei Foto)
Facebook in Indien war selektiv bei der Eindämmung von Hassreden, Fehlinformationen und aufrührerischen Beiträgen, insbesondere antimuslimischen Inhalten, laut durchgesickerten Dokumenten von The Associated Press, obwohl seine eigenen Mitarbeiter Zweifel an den Motivationen und Interessen des Unternehmens aufkommen ließen.
Von Recherchen im März dieses Jahres bis hin zu Firmenmemos aus dem Jahr 2019 – die internen Unternehmensdokumente zu Indien heben Facebooks ständige Bemühungen hervor, missbräuchliche Inhalte auf seinen Plattformen in der größten Demokratie der Welt und den der größte Wachstumsmarkt des Unternehmens. Kommunale und religiöse Spannungen in Indien haben in den sozialen Medien eine Geschichte, in der sie überhandnehmen und Gewalt schüren.
Die Akten zeigen, dass Facebook sich der Probleme seit Jahren bewusst ist, was die Frage aufwirft, ob es genug getan hat, um diese Probleme anzugehen. Viele Kritiker und Digitalexperten sagen, dass dies nicht gelungen ist, insbesondere in Fällen, in denen Mitglieder der regierenden Bharatiya Janata Party (BJP) von Premierminister Narendra Modi involviert sind.
https://images.indianexpress .com/2020/08/1×1.png Lesen Sie auch |Whatsapp, Facebook nicht berechtigt, die Privatsphäre zu schützen: Center teilt Delhi HC mit
Auf der ganzen Welt hat Facebook in der Politik zunehmend an Bedeutung gewonnen, und Indien ist nicht anders.
Modi wurde zugeschrieben, dass er die Plattform während der Wahlen zum Vorteil seiner Partei genutzt hat, und die Berichterstattung des Wall Street Journal im letzten Jahr ließ Zweifel aufkommen, ob Facebook seine Richtlinien zu Hassreden selektiv durchsetzte, um einen Rückschlag der BJP zu vermeiden. Sowohl Modi als auch der Vorsitzende und CEO von Facebook, Mark Zuckerberg, haben Bonhomie ausgestrahlt, die durch ein Bild aus dem Jahr 2015 erinnert wird, in dem die beiden sich in der Facebook-Zentrale umarmen.
Die durchgesickerten Dokumente enthalten eine Fülle von internen Unternehmensberichten über Hassreden und Fehlinformationen in Indien. In einigen Fällen wurde vieles davon durch eigene “empfohlene” Funktionen und Algorithmen. Dazu gehören aber auch die Mitarbeiter des Unternehmens’ Besorgnis über den falschen Umgang mit diesen Themen und ihre Unzufriedenheit über die virale “Malcontent” auf der Plattform.
Facebook-Vorsitzender und CEO Mark Zuckerberg. REUTERS/Carlos Jasso/Fotodatei
Den Dokumenten zufolge zählte Facebook Indien zu den am stärksten “gefährdeten Ländern” in der Welt und identifizierte sowohl Hindi als auch Bengali als Prioritäten für die “Automatisierung der Verletzung feindseliger Sprache” Facebook hatte jedoch nicht genügend lokale Moderatoren oder Content-Flagging, um Fehlinformationen zu stoppen, die manchmal zu realer Gewalt führten.
In einer Erklärung gegenüber dem AP sagte Facebook, dass es „erheblich in Technologie investiert hat, um Hassreden in verschiedenen Sprachen, darunter Hindi und Bengali, zu finden“. was dazu geführt hat, dass “die Menge an Hassreden, die Menschen sehen, um die Hälfte reduziert wurde” im Jahr 2021.
“Hassreden gegen Randgruppen, einschließlich Muslime, nehmen weltweit zu. Daher verbessern wir die Durchsetzung und verpflichten uns, unsere Richtlinien zu aktualisieren, wenn sich Hassreden im Internet entwickeln.” sagte ein Unternehmenssprecher.
Lesen Sie auch |Erklärt: Warum Facebook sich für das “Metaverse” umbenennen möchte
Diese AP-Geschichte, zusammen mit anderen, die veröffentlicht werden, basiert auf Offenlegungen an die Securities and Exchange Commission und wurde dem Kongress in redigierter Form von der Rechtsberaterin der ehemaligen Facebook-Mitarbeiterin und Whistleblowerin Frances Haugen zur Verfügung gestellt. Die redigierten Versionen wurden von einem Konsortium von Nachrichtenorganisationen, einschließlich der AP, beschafft.
Bereits im Februar 2019 und vor einer Parlamentswahl, als die Besorgnis über Fehlinformationen groß wurde, wollte ein Facebook-Mitarbeiter verstehen, was ein neuer Benutzer im Land in seinem Newsfeed sieht, wenn er nur Seiten und Gruppen folgt, die ausschließlich von der Plattform empfohlen werden. #8217;s selbst.
Der Mitarbeiter erstellte ein Testbenutzerkonto und hielt es drei Wochen lang online, eine Zeit, in der ein außergewöhnliches Ereignis Indien erschütterte _ ein militanter Angriff im umstrittenen Kaschmir hatte über 40 indische Soldaten getötet , was das Land in einen nahen Krieg mit dem Rivalen Pakistan bringt.
In der Notiz mit dem Titel “Der Abstieg eines indischen Testbenutzers in ein Meer polarisierender, nationalistischer Botschaften” der Mitarbeiter, dessen Name geschwärzt ist, sagte, er sei “schockiert” durch den Inhalt, der den Nachrichten-Feed überflutet, der “zu einer nahezu konstanten Flut von polarisierenden nationalistischen Inhalten, Fehlinformationen und Gewalt und Blut geworden ist.”
Scheinbar gutartige und harmlose Gruppen, die von Facebook schnell empfohlen werden verwandelte sich in etwas ganz anderes, wo Hassreden, ungeprüfte Gerüchte und virale Inhalte weit verbreitet waren.
Die empfohlenen Gruppen wurden mit Fake News, antipakistanischer Rhetorik und islamfeindlichen Inhalten überschwemmt. Ein Großteil des Inhalts war extrem grafisch.
Einer enthielt einen Mann, der den blutigen Kopf eines anderen Mannes hielt, der mit einer pakistanischen Flagge bedeckt war, mit einer indischen Flagge anstelle seines Kopfes. Seine “Beliebt auf Facebook” Die Funktion zeigte eine Reihe von unbestätigten Inhalten im Zusammenhang mit den indischen Vergeltungsschlägen in Pakistan nach den Bombenanschlägen, darunter ein Bild einer Napalmbombe aus einem Videospielclip, der von einem der Partner für die Faktenprüfung von Facebook entlarvt wurde.
< p>“Nach dem Newsfeed dieses Testnutzers habe ich in den letzten drei Wochen mehr Bilder von Toten gesehen als in meinem ganzen Leben,” schrieb der Forscher.
Es löste tiefe Besorgnis darüber aus, wozu solch spaltende Inhalte in der realen Welt führen könnten, wo lokale Nachrichten zu dieser Zeit über Kaschmiris berichteten, die bei dem Fallout angegriffen wurden.
“Sollten wir als Unternehmen eine zusätzliche Verantwortung für die Verhinderung von Integritätsschäden tragen, die sich aus empfohlenen Inhalten ergeben?” fragte der Forscher in seiner Schlussfolgerung.
Das Memo, das mit anderen Mitarbeitern verbreitet wurde, beantwortete diese Frage nicht. Aber es enthüllte, wie die eigenen Algorithmen oder Standardeinstellungen der Plattform dazu beigetragen haben, solche Unzufriedenheit zu fördern. Der Mitarbeiter stellte fest, dass es klare “blinde Flecken” insbesondere in “lokalen Sprachinhalten” Sie sagten, sie hofften, dass diese Ergebnisse Gespräche über die Vermeidung solcher “Integritätsschäden” insbesondere für diejenigen, die sich “deutlich unterscheiden” von einem typischen US-Benutzer.
Obwohl die Untersuchung über drei Wochen durchgeführt wurde, die keine durchschnittliche Darstellung waren, räumten sie ein, dass sie zeigten, wie solche “unmoderierten” und problematischer Inhalt “könnte völlig übernehmen” während “einem großen Krisenereignis.”
Der Facebook-Sprecher sagte, die Teststudie habe “eine tiefere, strengere Analyse inspiriert” seiner Empfehlungssysteme verbessert und “zu Produktänderungen beigetragen, um sie zu verbessern.”
„Unsere Arbeit zur Eindämmung von Hassreden geht weiter und wir haben unsere Hassklassifizierer weiter gestärkt, um vier einzuschließen Indische Sprachen,” sagte der Sprecher.
- Die Indian Express-Website wurde wurde von Newsguard, einem globalen Dienst, der Nachrichtenquellen nach ihren journalistischen Standards bewertet, für seine Glaubwürdigkeit und Vertrauenswürdigkeit mit GRÜN bewertet.
