Måndagen den 22 maj 2023 delade ett verifierat Twitter-konto som heter “Bloomberg Feed” en tweet som hävdade att det hade skett en explosion vid Pentagon, åtföljd av en bild. Om du undrar vad detta har att göra med artificiell intelligens (AI), var bilden en AI-genererad, med tweeten som snabbt blev viral och utlöste en kort börsnedgång. Saker och ting kunde ha varit mycket värre – en skarp påminnelse om farorna med artificiell intelligens.
Faror med artificiell intelligens
Det är inte bara falska nyheter vi behöver oroa oss för. Det finns många omedelbara eller potentiella risker förknippade med AI, från de som rör integritet och säkerhet till partiskhet och upphovsrättsfrågor. Vi kommer att dyka in i några av dessa faror med artificiell intelligens, se vad som görs för att mildra dem nu och i framtiden och fråga om riskerna med AI överväger fördelarna.
Innehållsförteckning
Falska nyheter
När deepfakes först landade, uppstod oro för att de skulle kunna användas med dåliga avsikter. Detsamma kan sägas om den nya vågen av AI-bildgeneratorer, som DALL-E 2, Midjourney eller DreamStudio. Den 28 mars 2023 blev falska AI-genererade bilder av påven Franciskus i en vit Balenciaga pufferjacka och njöt av flera äventyr, inklusive skateboard och poker, viralt. Om du inte studerade bilderna noggrant var det svårt att skilja dessa bilder från verkligheten.
Medan exemplet med påven utan tvekan var lite roligt, var bilden (och medföljande tweet) om Pentagon allt annat än. Falska bilder som genereras av AI har makten att skada rykten, avsluta äktenskap eller karriärer, skapa politisk oro och till och med starta krig om de används av fel personer – kort sagt, dessa AI-genererade bilder har potential att bli enormt farliga om de missbrukas.
Med AI-bildgeneratorer som nu är fritt tillgängliga för alla att använda, och Photoshop lägger till en AI-bildgenerator till sin populära programvara, är möjligheten att manipulera bilder och skapa falska nyheter större än någonsin.
Sekretess, säkerhet och hacking
Sekretess och säkerhet är också stora bekymmer när det kommer till riskerna med AI, med ett antal länder som redan förbjuder OpenAI:s ChatGPT. Italien har förbjudit modellen på grund av integritetsproblem, och tror att den inte följer den europeiska allmänna dataskyddsförordningen (GDPR), medan Kina, Nordkorea och Rysslands regeringar förbjöd den på grund av rädsla att den skulle sprida desinformation.
Så varför är vi så bekymrade över integritet när det kommer till AI? AI-appar och -system samlar in stora mängder data för att lära sig och göra förutsägelser. Men hur lagras och bearbetas denna data? Det finns en verklig risk för dataintrång, hacking och information som hamnar i fel händer.
Det är inte bara våra personuppgifter som är i fara. AI-hackning är en verklig risk – det har inte hänt än, men om de med uppsåt skulle kunna hacka sig in i AI-system kan detta få allvarliga konsekvenser. Till exempel kan hackare kontrollera förarlösa fordon, hacka AI-säkerhetssystem för att komma in på mycket säkra platser och till och med hacka vapensystem med AI-säkerhet.
Experter vid US Department of Defense's Defense Advanced Research Projects Agency (DARPA) inser dessa risker och arbetar redan med DARPA’s Guaranteeing AI Robustness Against Deception (GARD)-projektet och tar itu med problemet från grunden. Projektets mål är att säkerställa att motstånd mot hackning och manipulering är inbyggt i algoritmer och AI.
Intrång i upphovsrätten
En annan av farorna med AI är upphovsrättsintrång. Detta kanske inte låter lika allvarligt som vissa andra faror vi har nämnt, men utvecklingen av AI-modeller som GPT-4 utsätter alla för en ökad risk för intrång.
Varje gång du ber ChatGPT att skapa något åt dig – oavsett om det är ett blogginlägg om resor eller ett nytt namn på din företag — du matar den med information som den sedan använder för att svara på framtida frågor. Informationen den återkopplar till dig kan göra intrång i någon annans upphovsrätt, varför det är så viktigt att använda en plagiatdetektor och redigera allt innehåll som skapats av AI innan du publicerar det.
Samhälls- och databias
AI är inte mänskligt, så det kan inte vara partisk, eller hur? Fel. Människor och data används för att träna AI-modeller och chatbots, vilket innebär att partiska data eller personligheter kommer att resultera i en partisk AI. Det finns två typer av bias i AI: samhällelig bias och databias.
Med många fördomar som finns i det vardagliga samhället, vad händer när dessa fördomar blir en del av AI? De programmerare som är ansvariga för att träna modellen kan ha förväntningar som är partiska, som sedan tar sig in i AI-system.
Eller data som används för att träna och utveckla en AI kan vara felaktig, partisk eller insamlad i ond tro. Detta leder till databias, vilket kan vara lika farligt som samhällsbias. Till exempel, om ett system för ansiktsigenkänning tränas med huvudsakligen vita människors ansikten, kan det kämpa för att känna igen dem från minoritetsgrupper, vilket vidmakthåller förtrycket.
Robotar tar våra jobb
Utvecklingen av chatbots som ChatGPT och Google Bard har öppnat upp en helt ny oro kring AI: Risken att robotar tar våra jobb. Vi ser redan att författare inom teknikindustrin ersätts av AI, mjukvaruutvecklare som är oroliga för att de kommer att förlora sina jobb till bots och företag som använder ChatGPT för att skapa blogginnehåll och innehåll i sociala medier istället för att anställa mänskliga skribenter.
Enligt World Economic Forum’s The Future of Jobs Report 2020 förväntas AI ersätta 85 miljoner jobb över hela världen till 2025. Även om AI inte ersätter författare, används den redan som ett verktyg av många. De i jobb som riskerar att ersättas av AI kan behöva anpassa sig för att överleva – till exempel kan författare bli AI-promptingenjörer, vilket gör att de kan arbeta med verktyg som ChatGPT för att skapa innehåll istället för att ersättas av dessa modeller.
Framtida potentiella AI-risker
Dessa är alla omedelbara eller hotande risker, men hur är det med några av de mindre sannolika men fortfarande möjliga farorna med AI som vi kan se i framtiden? Dessa inkluderar saker som AI som är programmerad för att skada människor, till exempel autonoma vapen som tränas för att döda under ett krig.
Sedan finns det risken att AI kan fokusera målmedvetet på sitt programmerade mål och utveckla destruktiva beteenden när den försöker uppnå det målet till varje pris, även när människor försöker stoppa detta från att hända.
Skynet lärde oss vad som händer när en AI blir kännande. Men även om Googles ingenjör Blake Lemoine kan ha försökt övertyga alla om att LaMDA, Googles artificiellt intelligenta chatbotgenerator var känslig redan i juni 2022, finns det tack och lov inga bevis hittills som tyder på att det är sant.
Utmaningarna med AI-reglering
Måndagen den 15 maj 202 deltog OpenAI:s vd Sam Altman i den första kongressutfrågningen om artificiell intelligens och varnade: “Om den här tekniken går fel kan det gå ganska fel.” OpenAI CO gjorde det klart att han föredrar reglering och tog med sig många av sina egna idéer till utfrågningen. Problemet är att AI utvecklas så snabbt att det är svårt att veta var man ska börja med reglering.
Kongressen vill undvika att göra samma misstag som gjordes i början av sociala mediers era, och ett team av experter tillsammans med senatens majoritetsledare Chuck Schumer arbetar redan med regleringar som skulle kräva att företag avslöjar vilka datakällor de använde för att träna modeller och vem tränade dem. Det kan dock dröja ett tag innan exakt hur AI kommer att regleras blir klart, och utan tvekan kommer det att finnas motreaktioner från AI-företag.
Hotet från en artificiell allmän intelligens
Det finns också risken att skapa en artificiell allmän intelligens (AGI) som kan utföra alla uppgifter som en människa (eller djur) kan utföra. Ofta nämns i sci-fi-filmer, vi är förmodligen fortfarande decennier bort från en sådan skapelse, men om och när vi skapar en AGI kan det utgöra ett hot mot mänskligheten.
Många offentliga personer stöder redan tron att AI utgör ett existentiellt hot mot människor, inklusive Stephen Hawking, Bill Gates och till och med tidigare Google-chefen Eric Schmidt, som sa: “Artificiell intelligens kan utgöra existentiella risker och regeringar behöver veta hur man ser till att tekniken inte missbrukas av onda människor.”
Så, är artificiell intelligens farligt, och överväger risken dess fördelar? Juryn är fortfarande ute på det, men vi ser redan bevis på några av riskerna runt omkring oss just nu. Det är mindre sannolikt att andra faror kommer att förverkligas när som helst snart, om alls. En sak är dock klar: farorna med AI bör inte underskattas. Det är av yttersta vikt att vi säkerställer att AI är korrekt reglerad från början, för att minimera och förhoppningsvis mildra eventuella framtida risker.