L’Espagne prend des mesures pour interdire les images sexuelles générées par l’IA

Le gouvernement espagnol a présenté mardi un projet de loi visant à criminaliser l’utilisation de l’intelligence artificielle pour générer des images ou des vidéos sexuellement explicites de personnes sans leur consentement. Cette initiative répond aux préoccupations mondiales croissantes concernant l’utilisation abusive de l’IA, en particulier dans la création de contenu deepfake.

La technologie deepfake, qui produit des images et des vidéos réalistes générées par l’IA, a été largement exploitée à des fins nuisibles. Selon une étude de 2019 de la société néerlandaise d’IA Sensity, environ 96 % des vidéos deepfake en ligne sont de la pornographie non consensuelle, les femmes étant les principales cibles.

Le ministre de la Justice, Félix Bolaños, a souligné que les deepfakes sexuellement explicites ou insultants devraient être considérés comme des crimes contre l’intégrité morale. La mesure fait partie d’un projet de loi plus large visant à protéger les mineurs des risques numériques et à faire respecter les droits à la vie privée.

L’Espagne confrontée à la montée des cas d’images nues générées par l’IA et de chantage

Ces dernières années, l’Espagne a été confrontée à plusieurs affaires très médiatisées impliquant la distribution d’images nues générées par l’IA de jeunes filles mineures. Dans bon nombre de ces cas, les auteurs ont non seulement créé et partagé ces images manipulées, mais ont également tenté de faire chanter leurs victimes, exigeant de l’argent en échange du maintien de la confidentialité des images.

Au-delà du ciblage du contenu explicite généré par l’IA, le projet de loi propose également des protections numériques plus strictes pour les mineurs. Il obligerait les fabricants de smartphones et de tablettes à inclure des systèmes de contrôle parental gratuits qui s’activent par défaut. De plus, les influenceurs en ligne seraient tenus de mettre en œuvre des systèmes de vérification de l’âge pour leurs abonnés.

---

Lire l’article original : TechXplore

Lire aussi : Google lance des modèles d’IA pour le raisonnement