Les défenseurs appellent à des protections plus fortes contre les deepfakes nus ciblant les adolescents

38

Une mère et sa fille de 14 ans défendent la cause du renforcement des garanties pour les victimes, suite à la diffusion d'images nues générées par l'IA de l'adolescente et de ses camarades de classe dans un lycée du New Jersey. Simultanément, de l’autre côté du pays, les autorités enquêtent sur un incident au cours duquel un adolescent aurait utilisé l’intelligence artificielle pour créer et partager des images explicites similaires de camarades de classe, toutes adolescentes, dans un lycée de la banlieue de Seattle, dans l’État de Washington.

Ces cas troublants ont remis sur le devant de la scène la question des contenus explicites générés par l’IA, en particulier leur impact néfaste disproportionné sur les femmes et les enfants. Étonnamment, l'analyse de la chercheuse indépendante Geneviève Oh, partagée avec Big Big News, révèle que plus de 143 000 nouvelles vidéos deepfake ont été mises en ligne cette année seulement, dépassant le total combiné de toutes les années précédentes.

Les familles touchées par ce phénomène pénible réclament de toute urgence des solutions législatives pour protéger les victimes dont les images sont manipulées à l’aide de modèles d’IA émergents, ainsi que par le biais de nombreuses applications et sites Web faisant ouvertement la publicité de ces services. Les défenseurs et les experts juridiques réclament des réglementations fédérales capables d’établir des protections cohérentes à l’échelle nationale, délivrant ainsi un message retentissant aux auteurs potentiels.

Dorota Mani, dont la fille faisait partie des victimes à Westfield, dans le New Jersey, a déclaré avec insistance : « Nous nous battons pour nos enfants. Ils ne sont ni républicains ni démocrates. Ils s'en moquent. Ils veulent juste être aimés et ils veulent être en sécurité.

La situation difficile des deepfakes n’est pas nouvelle, mais les experts soulignent qu’elle s’aggrave à mesure que la technologie devient de plus en plus accessible et conviviale. Tout au long de cette année, les chercheurs ont tiré la sonnette d’alarme concernant la prolifération de matériels d’abus sexuels sur enfants générés par l’IA, incorporant des représentations de victimes réelles et de personnages virtuels. En juin, le FBI a émis un avertissement indiquant qu'il continuait de recevoir des signalements de victimes, tant mineures que adultes, dont les photos ou vidéos avaient été manipulées pour créer du contenu explicite partagé en ligne.

Divers États ont adopté leurs propres lois au fil des années pour lutter contre ce problème, mais la portée de ces lois varie. Le Texas, le Minnesota et New York ont récemment adopté des lois criminalisant la pornographie deepfake non consensuelle, rejoignant ainsi la Virginie, la Géorgie et Hawaï. Certains États, comme la Californie et l'Illinois, ont donné aux victimes la possibilité de poursuivre les auteurs des dommages devant un tribunal civil.

La sénatrice d'État Kristin Corrado, qui a présenté le projet de loi plus tôt cette année, a indiqué que son implication était motivée par des inquiétudes concernant des individus tentant de contourner les lois sur la vengeance pornographique en utilisant les images de leurs anciens partenaires pour générer de la pornographie deepfake. Le projet de loi, bien que lent au départ, a désormais de fortes chances d’être adopté, surtout à la lumière de l’incident de Westfield.

L'incident de Westfield s'est produit au cours de l'été et a été signalé au lycée le 20 octobre. Cependant, les détails concernant la diffusion d'images générées par l'IA n'ont pas été divulgués. Bien que l'école n'ait pas confirmé les mesures disciplinaires, la police de Westfield et le bureau du procureur du comté d'Union n'ont pas répondu aux demandes de renseignements.

L'incident survenu dans l'État de Washington, survenu en octobre, fait toujours l'objet d'une enquête. Paula Schwan, chef du département de police d'Issaquah, a indiqué que plusieurs mandats de perquisition ont été obtenus et que l'enquête est en cours. Le district scolaire d'Issaquah, lorsqu'il a été contacté, a reconnu l'enquête et a déclaré que toute forme d'intimidation, de harcèlement ou de mauvais traitements entre élèves est inacceptable.

Si les autorités décident de poursuivre l'incident du New Jersey, les lois actuelles de l'État interdisant l'exploitation sexuelle des mineurs pourraient s'appliquer. Toutefois, ces protections ne s’étendent pas aux adultes qui peuvent se retrouver dans des scénarios similaires.

Mary Anne Franks, professeur de droit à l'Université George Washington et responsable de la Cyber Civil Rights Initiative, a souligné la nécessité d'une législation fédérale pour fournir des protections cohérentes à travers le pays. Une telle législation pourrait également pénaliser les organisations qui profitent de produits et d’applications facilitant la création de deepfakes. Franks estime que cela aurait également un effet dissuasif important sur les mineurs tentés de créer des images explicites de leurs pairs.

Le président Joe Biden a signé un décret en octobre, qui comprenait des mesures visant à empêcher l'utilisation de l'IA générative pour le matériel d'abus sexuels sur des enfants et les images intimes non consensuelles d'individus réels. L'ordonnance ordonne également au gouvernement fédéral de publier des lignes directrices sur l'étiquetage et le filigrane du contenu généré par l'IA afin de différencier le contenu authentique du contenu généré par logiciel.

Le représentant américain Tom Kean, Jr., en réponse à l'incident de Westfield, a présenté un projet de loi obligeant les développeurs à fournir des informations sur le contenu généré par l'IA. De plus, le représentant américain Joe Morelle a présenté un projet de loi fédéral qui rendrait illégal le partage d’images pornographiques deepfakes en ligne. Cependant, l’impasse au Congrès a entravé ses progrès.

Certains prônent la prudence dans les efforts législatifs, notamment l'American Civil Liberties Union, l'Electronic Frontier Foundation et la Media Coalition. Ils soulignent la nécessité d'un examen attentif pour éviter les propositions susceptibles de porter atteinte aux droits du premier amendement.

Mani, en réponse au calvaire de sa fille, a créé un site Web et une association caritative pour aider les victimes de l'IA. Elle et sa fille se sont également engagées auprès des législateurs de l'État pour défendre le projet de loi du New Jersey et prévoient de se rendre à Washington pour promouvoir des protections renforcées.

Mani conclut : « Tous les enfants, garçons ou filles, ne bénéficieront pas du système de soutien nécessaire pour faire face à ce problème, et ils ne verront peut-être pas la lumière au bout du tunnel. »

Foire aux questions (FAQ) sur les Deepfake Nudes

En savoir plus sur les Deepfake Nudes

• Deepfake pornographie générée par l’IA : une préoccupation croissante
• Avertissement du FBI sur le contenu explicite généré par l'IA
• Législation nationale sur la pornographie Deepfake
• Décret du président Biden sur l’IA et le matériel pédopornographique
• Projet de loi du représentant américain Tom Kean, Jr. sur la divulgation de contenus générés par l'IA
• Projet de loi du représentant américain Joe Morelle sur la pornographie Deepfake
• Union américaine des libertés civiles (ACLU)
• Fondation Frontière Electronique (EFF)
• La Coalition des médias