Artificiell Intelligens apps risk att förskansa Indiens socio-ekonomiska ojämlikheter

0
68

Artificiell intelligens-program kommer inte att vara ett universalmedel för att ta itu med Indiens grand challenges (Fil)

Artificiell intelligens (AI) är högt på regeringens dagordning. För några dagar sedan, Premiärminister Narendra Modi invigde Wadhwani Institute for Artificial Intelligence, enligt uppgift Indien första forskningsinstitut inriktat på AI lösningar för socialt bra. I samma vecka, Niti Aayog VD Noah Kant hävdade att AI skulle potentiellt kunna lägga $957 miljarder kronor för att ekonomin och skissat på ett sätt som AI kan vara en “game changer” för. Under sin budget tal, Finansminister Arun Jaitley meddelade att Niti Aayog skulle leda ett nationellt program om AI, med nära en fördubbling av den Digitala Indien budget, IT-ministeriet meddelade också inrättandet av fyra utskott för AI-forskning. En industripolitik för AI är också på gång, som förväntas ge incitament till företag för att skapa en globalt konkurrenskraftig Indiska AI-branschen.

Texterna på den nya digitala ekonomin lider ofta av teknikdeterminism — förutsatt att den mars av teknisk omvandling har en inre logik, oberoende av social val och kan automatiskt leverera en positiv social förändring. Men, tekniska banor kan och måste styras av sociala val och i linje med samhällets mål. PM Modi adress träffar alla de rätta tonerna, som han hävdade att ” vägen framåt för AI beror på och kommer att drivas av mänskliga avsikter.’ Att betona behovet av att direkt AI teknik mot lösningar för de fattiga, och han uppmanade studenter och lärare att identifiera ‘den stora utmaningar inför Indien” – Att “Göra AI i Indien och Indien”.

För att göra det, utan tvekan kommer att kräva stora investeringar i R&D, digital infrastruktur och utbildning och omskolning. Men två andra viktiga frågor som samtidigt måste vara upp: data bias och tillgång till teknik av.

Även datorer har varit att efterlikna mänsklig intelligens för några decennier nu, en massiv ökning i datorkraft och mängden av tillgängliga data som möjliggör en process av ” machine learning.’ Istället för kodning program med särskilda instruktioner för att utföra en uppgift, maskin lärande innebär att utbildning är en algoritm som på stora mängder data för att göra det möjligt att själv lära sig; att förfina och förbättra sina resultat genom flera iterationer av samma uppgift. Kvaliteten av de uppgifter som används för att träna maskiner är således en kritisk oro i att bygga AI-program.

Mycket ny forskning visar att program som bygger på maskin-lärande reflektera befintliga sociala fördomar och fördomar. Sådana fördomar kan uppstå om data-set algoritmen är utbildad på är representativ för den verklighet den försöker representera. Om till exempel ett system som är utbildad på bilder av människor som är övervägande vit, det kommer att ha en svårare tid erkännande av icke-vita människor. Detta är vad som ledde en nyligen Google-program för att märka att svarta människor är gorillor.

Alternativt, bias kan också uppstå om de uppgifter som i sig speglar befintliga diskriminerande eller exkluderande praxis. En nyligen genomförd studie av ProPublica finns till exempel program som är användbara för att bedöma risken för återfall i brott brottslingar i Usa var dubbelt så stor risk att felaktigt flagga svart svarande som löper högre risk för att begå framtida brott.

Effekterna av sådana uppgifter bias kan allvarligt skada i Indien, särskilt i en tid av växande sociala splittring. Det kan bidra till värnandet av sociala fördomar och diskriminering, och göra både osynlig och genomgripande de processer genom vilka diskriminering förekommer. Kvinnor är 34 procent mindre benägna att äga en mobiltelefon än män manifesteras på bara 14 procent av kvinnorna på landsbygden i Indien äger en mobiltelefon, medan endast 30 procent av Indiens internet-användarna är kvinnor.

Kvinnors deltagande i arbetskraften som för närvarande uppgår till cirka 27 procent, minskar också, och är en av de lägsta i Södra Asien. Datamängder som används för maskininlärning är alltså sannolikt en markant könsdiskriminering. Samma iakttagelser som sannolikt kommer att gälla för andra marginaliserade grupper.

Beviljas 2014 rapport, Muslimer, Daliter, och tribals utgör 53 procent av alla fångar i Indien. NCRB data från 2016 visar i vissa stater, andelen Muslimer i fängelse befolkningen var nästan tre gånger större andel Muslimer i befolkningen som helhet. Om AI-program för att lag och ordning är byggt på denna data, det är inte osannolikt att det kommer att ha fördomar mot dessa grupper. (Det är värt att påpeka att den nyinrättade nationella AI arbetsgrupp som består av mestadels Hinduiska män och två kvinnor på “task force”, och inte Muslimer eller Kristna. En nyligen publicerad artikel i New York Times talade om AI ‘ n ‘white guy problem”, kommer att Indien lider av en ‘Hinduiska Male Bias’? )

Men ändå, att förbättra kvalitet eller mångfald, data-apparater kanske inte kan lösa problemet. De processer av lärande och resonemang innebär ett gungfly av matematiska funktioner, variabler, och permutationer, logiken är inte lätt spårbar eller förutsägbar. Blända av AI-aktiverade effektivitetsvinster får inte göra oss blinda för det faktum att medan AI-system som integreras i viktiga socio-ekonomiska system, sin noggrannhet och logik i resonemanget har inte fullt ut förstått eller studerade.

Den andra stora utmaningen härrör från den fördelning av AI-led-teknik av. Även om beräkningarna av AI bidrag till BNP är korrekta antagandet av dessa tekniker kommer sannolikt att vara i nischer inom den organiserade sektorn. Dessa branscher är sannolikt att inkomst snarare än arbetsintensiv, och därför sannolikt inte kommer att bidra till att i stor skala skapa arbetstillfällen.

Vid samma tid, AI-program kan lätt ersätta låg till medelhög kvalificerade arbetstillfällen inom den organiserade sektorn. Detta är redan bevittnat i BPO – sektorn- där grundläggande ring och chatta uppgifter är nu automatiserad. Omskolning kommer att vara viktigt, men det är osannolikt att de som förlorar sina jobb kommer också att vara de som håller på att re-kvalificerade – den långa bågen av den tekniska utvecklingen och samhällets anpassning är längre än människors liv. Den contractualization arbete, som redan på uppgång, är det sannolikt att ytterligare öka så stor branscher föredrar att ha en flexibel arbetskraft för att anpassa sig till den tekniska utvecklingen. En övergång från formell sysselsättning till arbete på entreprenad kan innebära en förlust av tillgång till formell social trygghet, för att därigenom öka den otrygghet i arbetslivet för arbetstagare.

Antagandet av AI-teknik är också osannolikt på kort till medellång sikt i den oorganiserade sektorn, som omfattar mer än 80% av Indiens arbetskraft. Kostnaden för att utveckla och sprida AI-tillämpningar, i synnerhet i förhållande till kostnaden för arbetskraft, kommer att hämma antagande. Dessutom har de flesta företagen inom den oorganiserade sektorn fortfarande har begränsad tillgång till grundläggande, äldre teknik – två tredjedelar av arbetsstyrkan är anställda i företag utan el. Eko-system uppgraderingar kommer att vara viktigt, men ökande. Med tanke på de höga kostnaderna för att utveckla AI-baserade program, de flesta start-ups är osannolikt att arbeta för att skapa botten av pyramiden lösningar.

Tillgång till AI-led-teknik av kapital är således sannolikt att vara starkt differentierade – några branscher med hög tillväxt kan förväntas, men dessa behöver inte nödvändigtvis resultera i välfärden av arbetskraft. Studier visar att arbetskraftens andel av nationalinkomsten, särskilt rutinmässiga arbete, har minskat stadigt över utvecklingsländer.

Vi bör vara tydliga med att nya tekniska tillämpningar i sig inte kommer att förändra eller störa denna utveckling – eller snarare utan adekvat politisk styrning, dessa trender kommer att förvärras.

Den politiska debatten om AI-program i Indien måste ta de här frågorna på allvar. AI-program kommer inte att vara ett universalmedel för att ta itu med Indiens grand utmaningar.” Data bias och ojämlik tillgång till teknik vinster kommer att befästa existerande socio-ekonomiska sprickor, även gör dem tekniskt bindande.

Förutom att utveckla AI-program och skapa ett kompetent arbetskraft regeringen måste prioritera forskning som undersöker komplexa sociala, etiska och styrning utmaningar i samband med spridningen av AI-driven teknik. Blind teknisk optimism kan befästa snarare än lindra grand Indiska utmaning av ojämlikhet och tillväxt.

Urvashi Aneja är Grundare av Tandem-Forskning, Lektor i Internationella Relationer vid OP Jindal Globalt Universitet, och Docent Fellow vid Chatham House. Hon tweets @urvashi_aneja Denna artikel är baserad på Tandem Forskning pågående program om den Framtida Arbete i Indien och AI för Alla

För alla de senaste Yttrande Nyheter, ladda ner Indiska Snabb App