Les écoles publiques de Westfield ont tenu une réunion régulière du conseil d'administration fin mars au lycée local, un complexe en briques rouges à Westfield, dans le New Jersey, avec un tableau d'affichage à l'extérieur, accueillant fièrement les visiteurs du sport de la « Maison des Diables Bleus ». équipes.
Mais ce n'était pas comme d'habitude pour Dorota Mani.
En octobre, des filles de 10e année du lycée Westfield, dont Francesca, la fille de Mani, âgée de 14 ans, ont alerté les administrateurs que des garçons de leur classe avaient utilisé un logiciel d'intelligence artificielle pour fabriquer des images sexuellement explicites d'eux et faisaient circuler ces fausses images. Cinq mois plus tard, disent les Manis et d'autres familles, le district n'a pas fait grand-chose pour dénoncer publiquement les images falsifiées ou pour mettre à jour les politiques scolaires afin d'empêcher l'utilisation abusive de l'IA.
“Il semble que l'administration de Westfield High School et le district s'engagent dans une classe de maître pour faire disparaître cet incident dans les airs”, a réprimandé Mani, le fondateur d'une école maternelle locale, aux membres du conseil d'administration lors de la réunion.
< p>Dans un communiqué, le district scolaire a déclaré qu'il avait ouvert une « enquête immédiate » après avoir pris connaissance de l'incident, qu'il avait immédiatement informé et consulté la police et qu'il avait fourni des conseils de groupe à la classe de deuxième année.
“Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et des autres technologies disponibles pour les élèves à tout moment et en tout lieu”, a déclaré Raymond González, surintendant des écoles publiques de Westfield, dans le communiqué.
Aveuglé en dernier lieu L'année dernière, en raison de la popularité soudaine des chatbots basés sur l'IA tels que ChatGPT, les écoles à travers les États-Unis se sont empressées de contenir les robots générateurs de texte dans le but de prévenir la tricherie des élèves. Aujourd'hui, un phénomène plus alarmant de génération d'images d'IA secoue les écoles.
Publicité
Dans plusieurs États, des garçons ont utilisé des applications de « nudification » largement disponibles pour transformer des photos réelles et identifiables de leurs camarades de classe habillées, montrées assistant à des événements, notamment des bals de promo, en images graphiques et convaincantes de filles avec des seins et des organes génitaux exposés générés par l'IA. Dans certains cas, les garçons ont partagé les images truquées dans la cantine de l'école, dans le bus scolaire ou via des discussions de groupe sur des plateformes telles que Snapchat et Instagram, selon les rapports de l'école et de la police.
De telles images modifiées numériquement – connues sous le nom de « deepfakes » ou « deepnudes » – peuvent avoir des conséquences dévastatrices. Les experts en matière d’exploitation sexuelle des enfants affirment que l’utilisation d’images non consensuelles générées par l’IA pour harceler, humilier et intimider les jeunes femmes peut nuire à leur santé mentale, à leur réputation et à leur sécurité physique, et présenter des risques pour leurs perspectives universitaires et professionnelles. Le mois dernier, le FBI a averti qu'il était illégal de distribuer du matériel d'exploitation sexuelle d'enfants généré par ordinateur, y compris des images réalistes générées par l'IA de mineurs identifiables se livrant à un comportement sexuellement explicite.
Pourtant, le recours par les étudiants à des pratiques d'exploitation Les applications d’IA dans les écoles sont si nouvelles que certains districts semblent moins préparés que d’autres à y répondre. Cela peut rendre les garanties précaires pour les étudiants.
“Ce phénomène est apparu très soudainement et pourrait surprendre de nombreux districts scolaires sans préparation et sans savoir quoi faire”, a déclaré Riana Pfefferkorn, chercheuse à l'Observatoire Internet de Stanford, qui écrit sur les questions juridiques liées aux abus sexuels sur enfants générés par ordinateur. abuser des images.
Publicité
Au lycée Issaquah, près de Seattle, l'automne dernier, un détective de la police enquêtant sur des plaintes de parents concernant des images explicites générées par l'IA de leurs filles de 14 et 15 ans a demandé à un directeur adjoint pourquoi l'école n'avait pas signalé l'incident à la police, selon un rapport du département de police d'Issaquah. Le responsable de l’école a ensuite demandé « qu’est-ce qu’elle était censée signaler », indique le document de police, incitant le détective à l’informer que les écoles sont tenues par la loi de signaler les abus sexuels, y compris les éventuels matériels d’abus sexuels sur des enfants. L'école a ensuite signalé l'incident aux services de protection de l'enfance, indique le rapport de police. (Le New York Times a obtenu le rapport de police grâce à une demande d'accès aux archives publiques.)
Dans un communiqué, le district scolaire d'Issaquah a déclaré avoir discuté avec des étudiants, des familles et la police dans le cadre de son enquête sur les deepfakes. Le district a également « partagé notre empathie », indique le communiqué, et a apporté son soutien aux étudiants touchés.
Le communiqué ajoute que le district a signalé les « fausses images générées par l'intelligence artificielle à la protection de l'enfance ». Services par grande prudence », notant que « selon notre équipe juridique, nous ne sommes pas tenus de signaler les fausses images à la police. »
À la Beverly Vista Middle School de Beverly Hills, en Californie, les administrateurs ont contacté la police en février après avoir appris que cinq garçons avaient créé et partagé des images explicites de camarades de classe générées par l'IA. Deux semaines plus tard, le conseil scolaire a approuvé l'expulsion de cinq élèves, selon des documents du district. (Le district a déclaré que le code de l'éducation de Californie lui interdisait de confirmer si les étudiants expulsés étaient ceux qui avaient fabriqué les images.)
Publicité
Michael Bregy, surintendant du district scolaire unifié de Beverly Hills, a déclaré que lui et d'autres chefs d'établissement souhaitaient créer un précédent national selon lequel les écoles ne devraient pas permettre aux élèves de créer et de diffuser des images sexuellement explicites de leurs pairs.
« C'est un harcèlement extrême lorsqu'il s'agit d'écoles », a déclaré Bregy, soulignant que les images explicites étaient « dérangeantes et violentes » pour les filles et leurs familles. “C'est quelque chose que nous ne tolérerons absolument pas ici.”
Les écoles des petites communautés aisées de Beverly Hills et de Westfield ont été parmi les premières à reconnaître publiquement les incidents de deepfake. Les détails des cas – décrits dans les communications du district avec les parents, les réunions du conseil scolaire, les audiences législatives et les dossiers judiciaires – illustrent la variabilité des réponses des écoles.
L'incident de Westfield a commencé l'été dernier lorsqu'un lycéen a demandé à une amie de classe de 15 ans sur Instagram qui avait un compte privé, selon un procès contre le garçon et ses parents intenté par la jeune femme et sa famille. (Les Manis ont déclaré qu'ils ne sont pas impliqués dans le procès.)
Publicité
Après avoir accepté la demande, l’élève a copié des photos d’elle et de plusieurs autres camarades de classe à partir de leurs comptes de réseaux sociaux, selon des documents judiciaires. Il a ensuite utilisé une application d'IA pour fabriquer des images sexuellement explicites et « entièrement identifiables » des filles et les a partagées avec ses camarades de classe via un groupe Snapchat, selon des documents judiciaires.
Westfield High a commencé son enquête fin octobre. Pendant que les administrateurs prenaient discrètement certains garçons à part pour les interroger, a déclaré Francesca Mani, ils l'ont appelée, ainsi que d'autres filles de 10e année qui avaient été victimes de deepfakes, au bureau de l'école en annonçant leurs noms via l'interphone de l'école.
Cette semaine-là, Mary Asfendis, directrice de Westfield High, a envoyé un e-mail aux parents les alertant d'une « situation qui a entraîné une désinformation généralisée ». L’e-mail décrit ensuite les deepfakes comme un « incident très grave ». Il a également déclaré que, malgré les inquiétudes des étudiants concernant un éventuel partage d'images, l'école pensait que « toutes les images créées avaient été supprimées et ne circulaient pas ».
Dorota Mani a déclaré que les administrateurs de Westfield lui avaient dit que le district a suspendu l'élève accusé d'avoir fabriqué les images pendant un ou deux jours.
Publicité
Peu de temps après, elle et sa fille ont commencé à s'exprimer publiquement sur l'incident, exhortant les districts scolaires, les législateurs des États et le Congrès à promulguer des lois et politiques interdisant spécifiquement les deepfakes explicites.
“Nous devons commencer à mettre à jour notre politique scolaire”, a déclaré Francesca Mani, aujourd'hui âgée de 15 ans, dans une récente interview. “Parce que si l'école avait eu des politiques en matière d'IA, alors les élèves comme moi auraient été protégés.”
Des parents, dont Dorota Mani, ont également déposé des plaintes pour harcèlement auprès de Westfield High l'automne dernier à cause des images explicites. Cependant, lors de la réunion de mars, Mani a déclaré aux membres du conseil scolaire que l'école secondaire n'avait pas encore fourni aux parents un rapport officiel sur l'incident.
Les écoles publiques de Westfield ont déclaré qu'elles ne pouvaient commenter aucune mesure disciplinaire pour des raisons de confidentialité des élèves. Dans un communiqué, González, le surintendant, a déclaré que le district renforçait ses efforts « en éduquant nos élèves et en établissant des lignes directrices claires pour garantir que ces nouvelles technologies sont utilisées de manière responsable. »
Les écoles de Beverly Hills ont pris un coup dur. position publique.
Publicité
Lorsque les administrateurs ont appris en février que des garçons de huitième année de la Beverly Vista Middle School avaient créé des images explicites de camarades de classe âgées de 12 et 13 ans, ils ont rapidement envoyé un message – avec pour objet : « Utilisation abusive épouvantable de l’intelligence artificielle » – à tous les districts. parents, personnels, collégiens et lycéens. Le message exhortait les membres de la communauté à partager des informations avec l'école pour garantir que l'utilisation « dérangeante et inappropriée » de l'IA par les élèves « cesse immédiatement ».
Il avertissait également que le district était prêt à instituer des sanctions sévères. “Tout étudiant qui crée, diffuse ou possède des images de cette nature générées par l'IA fera l'objet de mesures disciplinaires”, y compris une recommandation d'expulsion, indique le message.
Bregy, le surintendant, a déclaré Les écoles et les législateurs devaient agir rapidement, car les abus de l'IA donnaient aux élèves un sentiment d'insécurité dans les écoles.
« On entend beaucoup parler de sécurité physique dans les écoles », a-t-il déclaré. “Mais ce dont vous n'entendez pas parler, c'est de cette invasion de la sécurité personnelle et émotionnelle des étudiants.”
Cet article a été initialement publié dans le New York Times.
© IE Online Media Services Pvt Ltd
Leave a Reply
You must be logged in to post a comment.