Français

L'intelligence artificielle fait ses débuts dans les sondages de Lok Sabha avec les deepfakes et le clonage vocal

Mar 23, 2024

Une conférence organisée en janvier par une aile du DMK au pouvoir au Tamil Nadu a eu la surprenante apparition de l'icône dravidienne M Karunanidhi, qui est apparue sur grand écran avec ses lunettes de soleil noires, sa chemise blanche et son châle jaune. Karunanidhi a fait l'éloge de la direction actuelle de l'État sous la direction de son fils MK Staline. Sauf que Karunanidhi est décédé en 2018.

Alors que le champ de bataille pour les élections de Lok Sabha s'intensifie, les partis politiques trouvent une nouvelle arme dans leur arsenal : partager du contenu sur les plateformes de médias sociaux telles que Facebook, Instagram, YouTube et X. qui sont générés par l'intelligence artificielle (IA) pour promouvoir leurs propres candidats ou ridiculiser les opposants et envoyer des messages personnalisés ciblés aux électeurs.

Les experts estiment que l'IA sera utilisée à une échelle sans précédent lors de ces élections – et pourrait être un facteur décisif comme les médias sociaux l'ont été lors des sondages de 2014 – même si l'impact de cette technologie disruptive sur l'opinion des électeurs reste à voir. Lire aussi | L'intelligence artificielle pour projeter pousse à plusieurs visites : PM Modi et le BJP épargnent peu dans le Sud

Depuis le début de cette année, les partis politiques, dont le BJP et le Congrès, ont partagé au moins quatre fois du contenu modifié grâce à l’IA sur leurs comptes Instagram officiels. Les thèmes de ces médias manipulés – appelés deepfakes dans le langage courant – sont similaires : des chefs de projet de partis rivaux sous un mauvais jour.

📌 Le 16 mars, le BJP a partagé un deepfake de Rahul Gandhi sur Instagram avec le Congrès. dirigeant apparemment prononçant les mots : « Je ne fais rien. »

Le Le BJP a récemment publié une autre vidéo manipulée dans laquelle l'IA a été utilisée pour recréer les voix des dirigeants de l'opposition Mamata Banerjee, Arvind Kejriwal et Akhilesh Yadav, entre autres.

📌 Plus tôt, le compte Instagram officiel du Congrès avait partagé un deepfake avec le visage du Premier ministre Narendra Modi superposé à celui de Justh, le chanteur d'une chanson populaire intitulée Chor (voleur). Les voix ont été modifiées grâce à l’IA pour ressembler étroitement à la voix de Modi. Plus récemment, le responsable du Congrès a partagé une photo modifiée du Premier ministre Modi face à une affiche représentant une lutteuse en larmes.

📌 En février, le responsable officiel de l'AIADMK, le principal parti d'opposition du Tamil Nadu, a partagé un message vocal du fidèle du parti J Jayalalithaa dans lequel elle exhorte les gens à soutenir son chef actuel, Edappadi Palaniswami. Jayalalithaa est décédé en 2016.

📌 Avant les élections législatives à Telangana l'année dernière, le responsable X officiel du Congrès de Telangana a partagé un deepfake du leader du BRS, KT Rama Rao, exhortant prétendument le public à voter contre son parti.

Clonage vocal et touche personnalisée

Les clones vocaux de candidats, générés par l'IA, devraient être utilisés par les partis politiques pour envoyer des messages ciblés afin de séduire les électeurs.

“Nous sommes tous conscients des appels téléphoniques contenant un message préenregistré de candidats vous invitant à voter. votez pour eux. Mais grâce à l’IA, vous pouvez désormais également demander au candidat de s’adresser à vous par votre nom au début de l’appel. Cela ajoute une nouvelle dimension au niveau de personnalisation qu'un candidat peut offrir lors de sa campagne de sensibilisation”, a déclaré un homme politique qui se présente aux élections de cette année.

Les partis ont contacté des sociétés de conseil politique pour explorer comment y parvenir.

Divyendra Singh Jadoun dirige l'une de ces entreprises. Fondateur de la société de services d'IA basée à Ajmer, Polymath Solution, Jadoun, qui gère également un compte Instagram populaire appelé The Indian Deepfaker, a déclaré à The Indian Express : « Un certain nombre de partis politiques sont intéressés à explorer les options autour de l'IA conversationnelle personnalisée où le candidat peut la voix peut être recréée grâce à l’IA avec un niveau de personnalisation supplémentaire ajouté par ces candidats qui semblent s’adresser aux électeurs par leur nom individuel », a déclaré Jadoun à ce journal. “Nous sommes en contact avec plusieurs parties qui étudient cette question et certaines d'entre elles devraient commencer à être déployées vers la première semaine d'avril.”

Un questionnaire détaillé que The Indian Express a envoyé à la Commission électorale indienne, demandant si elle avait pris connaissance des partis partageant des deepfakes via leurs identifiants officiels et s'il allait émettre une directive visant à placer des garde-fous autour de l'utilisation de l'IA dans les campagnes, est resté. sans réponse.

Le modèle de code de conduite, qui est entré en vigueur avec l'annonce des dates du scrutin, ne dit rien sur les partis politiques qui utilisent le contenu généré par l'IA pour faire campagne.

Appels à maîtriser l'IA

Les experts ont mis en garde contre l'utilisation potentielle de contenus générés par l'IA pour influencer la perception des électeurs et ont appelé la Commission électorale à intensifier ses efforts pour lutter contre l'utilisation de cette technologie.

“Quelques heures suffisent pour que de telles choses deviennent virales et au moment où vous les détectez, le mal aura déjà été fait. Les plateformes ne disposent pas de systèmes de surveillance en temps réel, et en attendant, il sera très difficile de contenir de tels contenus », a déclaré à The Indian Express Anil Verma, président de l’Association pour les réformes démocratiques (ADR) et de National Election Watch. /p>

« Les entreprises ont parlé d’introduire des technologies telles que l’étiquetage et le filigrane des vidéos générées par l’IA. Mais compte tenu de la taille de notre population et des partis politiques qui utilisent WhatsApp pour diffuser ce type de contenu, cela sera très difficile », a-t-il ajouté.

Ce défi a également contraint les entreprises technologiques – les plus grandes plateformes de diffusion de contenu généré par l’IA – à rechercher des solutions disparates. Dans un récent article de blog, Meta a déclaré qu'elle exigerait des annonceurs du monde entier qu'ils divulguent lorsqu'ils utilisent l'IA ou des méthodes numériques pour créer ou modifier une publicité à caractère politique ou social. La société a ajouté qu'elle développait des outils pour étiqueter les images générées par l'IA de Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock que les utilisateurs publient sur Facebook, Instagram et Threads.

Google a récemment annoncé qu'il limiterait les réponses de son chatbot IA Gemini aux questions liées aux élections. YouTube a déclaré que les créateurs devraient divulguer aux téléspectateurs tout contenu réaliste créé à l'aide d'outils d'IA.

Plus d'histoires Premium