OpenAI stopt netwerken die ChatGPT gebruikten voor beïnvloedingscampagnes

OpenAI heeft vijf netwerken van gebruikers offline gehaald die ChatGPT inzetten om beïnvloedingsoperaties uit te voeren. Volgens het bedrijf ging het om netwerken uit Rusland, China, Iran en Israël die de chatbot gebruikten om bijvoorbeeld artikelen te schrijven.

OpenAI schrijft in een blogpost dat het vijf verschillende zogenaamde ‘invloedoperaties’ heeft gedetecteerd. Het is niet duidelijk hoe groot die groepen waren en uit hoeveel accounts ze bestonden, maar OpenAI zegt dat de beïnvloedingscampagnes ‘hun doelgroep niet significant hebben doen groeien door onze tools’. De netwerken werden in de afgelopen drie maanden gedetecteerd.

Het bedrijf wijst specifiek vier landen aan die ChatGPT gebruikten voor een meerdere onderdelen van beïnvloedingscampagnes die plaatsvonden via onder meer Telegram, X en 9GAG. Zo werkte een Russische groep genaamd Bad Grammar met ChatGPT om code te debuggen om Telegram-bots te bouwen. Een andere Russische groep gebruikte ChatGPT om comments in Europese talen te plaatsen op platformen zoals X en 9GAG. Ze lieten ook artikelen schrijven en titels genereren voor een nepnieuwdcampagne die vervolgens op Facebook werd gedeeld.

Een Chinees netwerk gebruikte ChatGPT om socialemedia-activiteit te analyseren en een Israëlisch bedrijf gebruikte de AI om artikelen te schrijven en verspreiden in verschillende talen. Volgens OpenAI draaiden de beïnvloedingsoperaties onder andere om de oorlogen in Oekraïne en Gaza en om de verkiezingen in India. De campagnes zouden zich verder ook richten op de Europese en Amerikaanse politiek, waar dit jaar verkiezingen plaatsvinden.

OpenAI heeft de laatste tijd vaker actie ondernomen tegen netwerken die ChatGPT gebruiken voor beïnvloedingscampagnes, net als andere techbedrijven zoals Meta en X dat regelmatig doen. Het bedrijf zegt dat zulke netwerken AI voornamelijk inzetten om engagement op te krikken en content te genereren. Daarbij wordt AI echter nooit exclusief gebruikt, zegt OpenAI; het gaat bijna altijd om een mix van traditionele beïnvloedingscampagnes.