„Man ist im öffentlichen Raum kein Privatbürger mehr“: Die für den Women’s Prize 2024 nominierte Autorin Madhumita Murgia

Code Dependent (699 Rupien, Pan Macmillan) der Tech-Journalistin Madhumita Murgia, das kürzlich für den Women’s Prize 2024 nominiert wurde, sammelt Reportagen aus der ganzen Welt darüber, wie maschinelles Lernen und statistische Software – heute als KI vermarktet – bereits Leben und Lebensunterhalt beeinflussen, und das nicht immer zum Besseren. In diesem Interview spricht sie über die Machtasymmetrie in der künstlichen Intelligenz (KI), ihre Auswirkungen auf Beziehungen und warum es so etwas wie Anonymität nicht mehr gibt.

Auszüge:

Hätten wir die öffentliche Wahrnehmung von KI mit einer anderen Bezeichnung ändern können? In dem Buch zitiert der Autor Ted Chiang einen Tweet, in dem es heißt, KI sei „eine schlechte Wortwahl, die wir 1954 verwendet haben“.

Es gibt eine lange Geschichte darüber, warum es „KI“ heißt. Bei einem wissenschaftlichen Treffen in Boston war offenbar „Kybernetik“ die andere Option, aber die Leute mochten den Typen nicht, der das vorschlug. Also wählten sie die Alternative.

Anzeige

Das Wort Intelligenz bezeichnet etwas Bewusstes, Empfindungsfähiges, mit einer gewissen Fähigkeit zum Denken. Bislang haben wir nichts davon. Dies ist im Wesentlichen eine sehr ausgefeilte statistische Software. Sie kann einige erstaunliche Dinge, wie zum Beispiel riesige Datenmengen durchforsten und Gedichte und Musik generieren. Aber sie ist nicht intelligent genug, um menschliche Entscheidungen zu treffen. Bei menschlicher Intelligenz geht es nicht nur um Mustererkennung. Es gibt emotionale Intelligenz, soziale Intelligenz und all diese anderen Dinge, die wir beim Schreiben oder als Arzt oder in der Sozialarbeit verwenden. Es betrifft nicht nur das Individuum, sondern das Kollektiv. KI ist aufgrund der Daten, mit denen sie trainiert wird, oder aufgrund der Entscheidungen, die beim Erstellen getroffen werden, voreingenommen. Es wäre gut, ihr einen direkteren, beschreibenderen Namen zu geben, der vielleicht langweiliger, aber präziser ist.

Ich war beeindruckt, wie sehr KI Ärzten an Orten mit unzureichender Ausstattung helfen kann. Wie sehen Sie den Übergang dieser Technologie vom privaten in den öffentlichen Sektor?

Ich schreibe über ein Tuberkulose-Diagnosetool von Qure.ai. Sie haben auch ein COVID-KI-Diagnosetool in Dharavi, Maharashtra, eingeführt, als es keine andere Möglichkeit für Tests gab. Google hat daran gearbeitet, diabetische Retinopathie mithilfe von KI und Patientendaten zu diagnostizieren. Sie wollen uns beim Lernen helfen, aber es ist ein privates Unternehmen und muss damit Geld verdienen. Wer wird also einspringen? Werden Regierungen das finanzieren? Denn die Menschen, die sich keine normale Gesundheitsversorgung leisten können, können sich auch keine KI-Gesundheitsversorgung leisten. Sie muss subventioniert und in großem Maßstab eingeführt werden.

Eine weitere Herausforderung ist: Wird dies zu mehr Gerechtigkeit führen? Oder wird es ein Klassensystem geben? Wird ein fehlerhaftes KI-System bei Menschen eingesetzt, die sich keine Gesundheitsversorgung leisten können, und Fehler machen, die zu Todesfällen oder Fehldiagnosen führen können? Werden die Menschen für die menschliche Versorgung bezahlen, die sich als komplexer herausstellen kann?

Anzeige

Sie schreiben über Datenlabeler in Entwicklungsländern, die für weit entfernte amerikanische Unternehmen arbeiten, kleine Teile eines riesigen KI-Trainingsbetriebs sind, unterbezahlt und sich ihrer Rolle nicht bewusst. Hat die Big Tech versucht, diese Machtasymmetrie zu verbessern?

Es gab nicht genug Druck auf die Big Tech, sich zu ändern. Wenn es keinen Druck gibt, warum sollten sie es dann tun? Wenn sie Zehntausende von Menschen für diese Arbeit brauchen und es billiger ist, sie in Kenia, Indien oder Bangladesch zu erledigen, warum sollten sie dann nicht weitermachen? Die Big Tech kann sagen, wir geben den Menschen Jobs, die sie sonst nicht gehabt hätten, wir befreien die Menschen aus der Armut, wir erzielen einen positiven Nettogewinn für die Gesellschaft.

Madhumita Murgias Code Dependent (Quelle: Pan Macmillan)

Viele Menschen können nicht darüber sprechen, weil sie mit ihrem Job ihre Familien ernähren und sie nichts anstellen wollen. Aber jetzt sehen wir Menschen, die mutig genug sind, darüber zu sprechen. In meinem Buch erwähne ich Daniel Motong, einen südafrikanischen Migranten in Kenia, der einen dieser Jobs macht. Er hat einige der schlimmsten Inhalte in den sozialen Medien gesehen – Gewalt, Terrorismus, Übergriffe, einfach das Schlimmste im Internet –, die er sich ansehen und kennzeichnen und markieren musste, was ihm eine dauerhafte posttraumatische Belastungsstörung bescherte. Er verklagt jetzt sowohl Meta als auch Sama wegen der Auswirkungen dieses Jobs.

Mit der Medienberichterstattung wird es Veränderungen geben, insbesondere in Bezug auf die Arbeitsbedingungen, etwa mehr Pausen, mehr Unterstützung und keine Geheimhaltungsvereinbarungen mehr unterzeichnen zu müssen.

Anzeige

Sie schreiben über die öffentliche Überwachung, die marginalisierte Gemeinschaften und Protestierende gegen den Staat überproportional schädigt. Wie wirkt sich dies in einem Land wie Indien auf einen Laien aus, der wenig über KI weiß?

Massenüberwachung wird zu einer Art Rasterfahndung. Man identifiziert eine ganze Reihe von Menschen, von denen einige nur ganz normale Menschen sind, die ihrer Arbeit nachgehen. Das Argument ist nicht so sehr, dass ich nichts zu verbergen habe und deshalb auch nichts zu befürchten habe. Was, wenn man eines Tages zu einer verfolgten Minderheit wird? Diese Definitionen ändern sich ständig. In meinem Buch betrachte ich eine Diktatur im Lateinamerika der 1970er Jahre, in der das Sammeln von Daten zu einer Waffe wurde. Die Definition eines Staatsfeindes war extrem weit gefasst. Als Staatsfeind galt jeder, der religiös oder gebildet war oder von dem man glaubte, er könne die Diktatur bedrohen. Zu anderen Zeiten hätte man als Universitätsdozent nichts zu befürchten gehabt. Unter verschiedenen Regierungen ändern sich die Dinge. Als Bürger eines Landes ist man im öffentlichen Raum kein Privatbürger mehr. Es gibt keine Anonymität in einer Menschenmenge mehr.

Wie können wir Gespräche über Kreativität voranbringen, die normalerweise mit der Frage beginnen und enden: „Wir können Texte erstellen, sodass wir keine Autoren brauchen, wir können Designs erstellen, sodass wir keine Designer brauchen?“

Ein Großteil der Gespräche dreht sich um die Frage: Ist das gut genug für den Job? So verkaufen es die Technologieunternehmen. Es ist gut genug für die Büroarbeit, zum Schreiben von E-Mails, für Paarprogramme und zum Golfspielen. Es geht um Komfort.

Anzeige

Aber der nächste Schritt ist: Was, wenn wir nicht einfach nur gut genug sein wollen? Was ist mit dem Besten in etwas? Der Freude daran, etwas zu tun? Wollen wir Bücher lesen, die von einer KI geschrieben wurden? Wir lesen Bücher, um eine Verbindung zur Stimme des Autors herzustellen, um etwas von uns selbst darin zu sehen. KI hat das nicht.

Die Science-Fiction hat vernichtende Aussagen darüber zu machen, wie wir Technologie nutzen, um soziale Probleme wie Einsamkeit zu lösen. Wie sehen Sie die Zukunft davon?

KI wird unsere Art zu kommunizieren verändern. Ich habe über Renata Naira geschrieben, die ehemalige CEO von Tinder, und wie desillusioniert sie war, dass die App menschliche Beziehungen verändert. Jetzt arbeitet sie an einem Sprachmodell-Bot, der Beziehungsratschläge anbietet. Sie glaubt, dass er jungen Menschen helfen könnte, wieder Kontakte zu knüpfen, indem er das Risiko verringert, sich in der Öffentlichkeit zu offenbaren.

Aber ich habe auch mit dem Forscher Ron Ivy gesprochen, der sagt, dass die Technologie uns in Zyklen gefangen halten wird, in denen wir die ganze Zeit nur mit der Technik reden wollen und einander nicht vertrauen. Das wird die Situation von Menschen mit extremem Verhalten verschlimmern, wie etwa jenen, die Terroranschläge begehen, weil sie einsam und von der Welt abgeschottet sind. Es wird definitiv Veränderungen geben. Ich bin nicht ganz überzeugt, dass sie positiv sein werden. Ich bin gespannt, wohin es geht.

Weitere Premium-Storys

Naveen Patnaiks Abschied: Selfies und eine aufmunternde AnspracheNur für Abonnenten

MF Husain bis Manu Parekh, Indien glänzt in VenedigNur für Abonnenten

Blackout-Kritik: Der Film mit Vikrant Massey ist mehr als furchtbar

Biopeculiar: Gigi Gangulys Klima-Science-Fiction ehrt die NaturNur für Abonnenten

Im Bericht des Historikers Janaki Bakhle erhält Savarkar ein neues GesichtNur für Abonnenten

Der Karakal von Dharmendra Kandal und Ishan DharNur für Abonnenten

Resul Pookutty über die Bedeutung des großen Sieges Indiens beiNur für Abonnenten

Teenager organisierten einen Kunsttherapie-Workshop beim Soft Launch ihres Nur für Abonnenten

Vögel, die in Städten besser gedeihen als im Hinterland Nur für Abonnenten

© The Indian Express Pvt Ltd