Des IA qui déshabillent : le fléau des deepnudes
INTELLIGENCES ARTIFICIELLES • Dans l’univers impitoyable du numérique, les deepnudes, ces créations artificielles qui transforment des visages, souvent féminins, en images pornographiques, ouvrent un nouveau chapitre de la violence en ligne, où la nécessité d’une régulation s’impose.
Trump transformé en bébé pleurnicheur, le pape François en doudoune blanche ou encore Emmanuel Macron ramassant des ordures… ces exemples de deepfakes, devenus viraux, illustrent jusqu’où les intelligences artificielles (IA) parviennent à manipuler des images en modifiant visages et situations. Si ces dernières font doucement sourire, elles cachent une réalité bien plus sordide. Sitôt que ces montages humoristiques se transforment en deepfakes pornographiques, aussi appelées deepnudes, le tableau se noircit drastiquement. Il s’agit d’images truquées par le biais d’applications IA capables de déshabiller numériquement des individus.
La promesse de ces applications : générer en seulement quelques clics des images trafiquées, sur lesquelles n’importe qui peut apparaitre nu·e.
Le visage de la victime est alors incorporé à un corps synthétique, dans une position souvent érotique. Suivant les fantasmes malveillants d’un·e « créateur·rice», ces logiciels prennent appui sur une photo avant de créer le deepnude. Que celles-ci concernent le visage d’un·e célébrité ou d’un individu ordinaire, ces images détournées ne proviennent pas seulement de la sphère publique, puisque une simple présence en ligne suffit. Instagram et Facebook forment dès lors des lieux « à risque », puisque ce sont les premières plateformes sur lesquelles les images sont récupérées avant d’être pervertie.
De plus en plus courant, cet acte, pourtant lourd de conséquence, tend à se banaliser : après une première apparition en juin 2019, la popularité de ces applications a explosé grâce à leur utilisation très simple et gratuite ainsi qu’à leur accessibilité. Selon un rapport de la société Graphika paru en décembre 2023, plus de 24 millions de visiteur·euse·s uniques ont consulté en septembre 2023 des sites proposant ce type de contenu.
Un abus irréversible
Dangereusement réalistes, ces photos à caractère pornographique assurent une telle ressemblance avec la réalité que parfois seule la victime et le ou la créateur·rice de l’image peuvent révéler la tromperie qui s’y cache. C’est qu’une fois créées, ces images sont souvent diffusées sans le consentement de la personne concernée. Les conséquences pour les victimes sont dès lors multiples : violation du droit à l’image, atteintes à la vie privée, traumatismes psychologiques, humiliation publique, et même cas de chantage et d’harcèlement, les deepnudes représentent un potentiel d’abus colossal ainsi qu’une nouvelle forme de cyber harcèlement. En plus d’être diffusées en ligne à la vue de tous, leur présence est souvent irrémédiable, car même après sa suppression initiale, une image peut être téléchargée, repartagée ou hébergée sur d’autres sites, échappant ainsi aux tentatives de régulation et de retrait.
Une nouvelle forme de sexisme
Si le nombre exact de victimes est difficile à quantifier, il est en revanche indéniable que ce phénomène concerne très majoritairement les femmes.
Selon plusieurs études, plus de 98% des deepnudes en circulation mettraient en scène des femmes, dès lors exposées à une humiliation publique sans précédent.
Face à ce chiffre accablant de 98 %, parler d’égalité semble presque illusoire, tant l’écart entre les sexes est immense. Toutefois, ces données soulignent tout de même l’urgence avec laquelle il faut réagir à ce nouveau sexisme qui réduit la femme à un simple objet de désir masculin, captive à son insu d’un contrôle virtuel. Ainsi, cette nouvelle forme de violence numérique, qui instrumentalise et déshumanise le corps féminin, semble constituer un nouvel enjeu crucial pour le féminisme.
Des solutions encore insuffisantes
Sur le plan juridique, la production et la diffusion de deepnudes sont déjà punissables, mais les garde-fous actuels, jugés insuffisants, ne parviennent pas encore à protéger les victimes. Considérés comme « irréels », ces contenus échappent aux régulations traditionnelles. En Suisse comme ailleurs, le débat sur la régulation de l’IA est plus que jamais d’actualité. Le rapport tant attendu du Conseil fédéral sur les IA devrait être publié d’ici la fin 2024, marquant cinq ans depuis le lancement de la stratégie « Suisse numérique ». Toutefois, la situation semble avoir évolué puisque, miracle, un membre des Vert et une représente de l’UDC se sont récemment alliés pour bannir ces applications en déposant une motion. Entre fantasmes malveillants et défis juridiques, l’IA a de quoi continuer d’animer les débats.
Alice Hari Savioz