‘Je bent niet langer een privéburger in de openbare ruimte’: genomineerde schrijfster voor de Vrouwenprijs 2024 Madhumita Murgia

Techjournaliste Madhumita Murgia's Code Dependent (Rs 699, Pan Macmillan), onlangs genomineerd voor de Women's Prize 2024, verzamelt reportages van over de hele wereld over hoe machine learning en statistische software – vandaag de dag op de markt gebracht als AI – al een impact hebben op levens en middelen van bestaan, en niet altijd ten goede. In dit interview spreekt ze over de machtsasymmetrie in kunstmatige intelligentie (AI), de impact ervan op relaties en waarom er zoiets als anoniem zijn niet meer bestaat.

Fragmenten:

Hadden we de publieke perceptie van AI kunnen veranderen met een ander label? In het boek citeert schrijver Ted Chiang een tweet waarin staat dat AI ‘een slechte woordkeuze is die we in 1954 gebruikten’.

Er is veel geschiedenis rond waarom het ‘AI’ wordt genoemd. Blijkbaar was ‘cybernetica’ op een wetenschappelijke bijeenkomst in Boston de andere optie, maar de mensen hielden niet van de man die dit voorstelde. Dus kozen ze voor het alternatief.

Advertentie

Het woord intelligentie duidt op iets bewusts, bewust, met enig vermogen tot redeneren. Tot nu toe hebben we daar niets van. Dit is in wezen een zeer geavanceerde statistische software. Het doet een aantal verbazingwekkende dingen, zoals het doorzoeken van enorme hoeveelheden gegevens en het genereren van poëzie en muziek. Maar het is niet intelligent genoeg om menselijke beslissingen te nemen. Menselijke intelligentie gaat niet alleen over patroonherkenning. Er is emotionele intelligentie, sociale intelligentie, al die andere dingen die we gebruiken als we schrijven, dokter zijn of sociaal werk doen. Het gaat niet alleen om het individu, maar ook om het collectief. AI heeft vooroordelen vanwege de gegevens waarop het is getraind of vanwege beslissingen die tijdens het bouwen worden genomen. We zouden er baat bij hebben om het een directere, beschrijvende naam te geven die misschien saaier maar nauwkeuriger is.

Het viel mij op hoeveel AI artsen op plaatsen met weinig middelen kan helpen. Hoe zie jij dat de technologie van de private naar de publieke sector gaat?

Ik schrijf over een tuberculose-diagnostisch hulpmiddel gemaakt door Qure.ai. Ze rolden ook een Covid AI-diagnostisch hulpmiddel uit in Dharavi, Maharashtra, toen er geen andere manier was om te testen. Google heeft gewerkt aan de diagnose van diabetische retinopathie met behulp van AI en patiëntgegevens. Ze willen ons helpen leren, maar het is een particuliere onderneming en moet er geld aan verdienen. Dus wie gaat er een stap hogerop zetten? Gaan overheden dit financieren? Omdat de mensen die de reguliere gezondheidszorg niet kunnen betalen, ook niet kunnen betalen voor AI-zorg. Het moet worden gesubsidieerd en op grote schaal worden uitgerold.

Een andere uitdaging is: zal dit meer gelijkheid creëren? Of komt er een klassensysteem? Zul je een gebrekkig AI-systeem laten gebruiken bij mensen die zich geen gezondheidszorg kunnen veroorloven, met fouten die kunnen leiden tot verloren levens of gemiste diagnoses? Zullen mensen betalen voor menselijke zorg, die geavanceerder kan blijken te zijn?

Advertentie

Je schrijft over datalabelers in het Zuiden die voor Amerikaanse bedrijven ver weg werken, als kleine onderdelen van een enorme AI -training, onderbetaald en zich niet bewust van hun rol. Heeft Big Tech geprobeerd die machtsasymmetrie te verbeteren?

Er is niet genoeg druk uitgeoefend op Big Tech om te veranderen. Als er geen druk is, waarom zouden ze dat dan wel doen? Als ze tienduizenden mensen nodig hebben voor dit werk, en het is goedkoper om het in Kenia, India of Bangladesh te doen, waarom zouden ze dat dan niet blijven doen? Big Tech kan zeggen: we geven mensen banen die ze anders niet zouden hebben gehad, we tillen mensen uit de armoede, we doen iets positiefs voor de samenleving.

Madhumita Murgia's Code Dependent (Credit: Pan Macmillan)

Veel mensen zijn niet in staat iets te zeggen omdat het een taak is om hun gezin te onderhouden, en ze willen de boot niet op zijn kop zetten. Maar nu zien we mensen die dapper genoeg zijn om iets te zeggen. Ik noem Daniel Motong in mijn boek, een Zuid-Afrikaanse migrant naar Kenia, die een van deze banen vervult. Hij vertoonde een aantal van de slechtste inhoud op sociale media – geweld, terrorisme, mishandeling, gewoon het ergste van het internet – die hij moest bekijken en labelen en markeren, waardoor hij een blijvende PTSS achterliet. Hij klaagt nu zowel Meta als Sama aan vanwege de impact van die baan.

Dankzij de berichtgeving in de media zal er verandering komen, vooral op het gebied van de arbeidsomstandigheden, zoals meer pauzes nemen, meer steun krijgen en geen geheimhoudingsovereenkomsten hoeven te ondertekenen.

Advertentie

Je schrijft over openbaar toezicht dat gemarginaliseerde gemeenschappen onevenredig schaadt. en demonstranten tegen de staat. Welke invloed heeft dit in een land als India op een leek met weinig kennis van AI?

Massa-surveillance wordt een sleepnet. Je identificeert een hele groep mensen, van wie sommigen gewoon gewone mensen zijn die hun werk doen. Het argument is niet zozeer dat ik niets te verbergen heb, dus ik heb niets te vrezen. Wat als je op een dag wordt wat iemand definieert als een vervolgde minderheid? Die definities veranderen voortdurend. In het boek kijk ik naar een dictatuur in Latijns-Amerika in de jaren zeventig, waar het verzamelen van gegevens een wapen werd. De definitie van een staatsvijand was extreem breed. Het werd iedereen die religieus was, goed opgeleid, of van wie zij dachten dat hij de dictatuur kon bedreigen. In een andere tijd had je niets te vrezen als je gewoon universitair docent was. Er veranderen dingen onder verschillende regeringen. Als staatsburger van welk land dan ook, ben je niet langer een privéburger in een openbare ruimte. Er bestaat niet meer zoiets als anoniem zijn in een menigte.

Hoe kunnen we gesprekken over creativiteit bevorderen die meestal beginnen en eindigen met: we kunnen teksten genereren zodat we geen schrijvers, we ontwerpen kunnen genereren zodat we geen ontwerpers nodig hebben?

Een groot deel van het gesprek gaat over: is dit goed genoeg voor de baan? Dat is hoe technologiebedrijven het verkopen. Het is goed genoeg voor uw kantoorwerk, om e-mails te schrijven, programma's te koppelen en te gaan golfen. Het gaat om gemak.

Advertentie

Maar de volgende stap is: wat als we niet alleen maar goed genoeg willen zijn? Hoe zit het met ergens de beste in zijn? De vreugde om iets te doen? Willen we boeken lezen die door een AI zijn geschreven? We lezen boeken om aansluiting te vinden bij de stem van de auteur, om daar iets van onszelf in te zien. AI heeft dat niet.

Sciencefiction heeft vernietigende dingen te zeggen over de manier waarop we technologie gebruiken om sociale problemen zoals eenzaamheid op te lossen. Hoe zie jij de toekomst hiervan?

AI zal de manier waarop we communiceren veranderen. Ik heb geschreven over Renata Naira, voormalig CEO van Tinder, en hoe ze teleurgesteld was over het feit dat de app menselijke relaties veranderde. Nu werkt ze aan een taalmodelbot die relatieadvies biedt. Ze gelooft dat het jonge mensen kan helpen weer contact te maken door de risico's te verkleinen dat je jezelf op de voorgrond plaatst.

Maar ik sprak ook met onderzoeker Ron Ivy, die zegt dat technologie ons zal opsluiten in een cyclus waarin we de hele tijd met technologie willen praten en elkaar niet willen vertrouwen. Het zal de zaken alleen maar erger maken voor mensen met extreem gedrag, zoals degenen die terreurdaden plegen omdat ze eenzaam zijn en afgesloten van de wereld. Er zullen zeker veranderingen plaatsvinden. Ik ben er niet helemaal van overtuigd dat het positief zal zijn. Ik sta open om te zien waar het heen gaat.

Meer premiumverhalen