Des millions de personnes utilisent aujourd'hui des outils pour transformer des photos classiques en images de nudité en quelques minutes. Au moins 50 bots spécialisés, appelés « nudificateurs », sont disponibles sur Telegram et prétendent générer des photos ou des vidéos explicites en seulement quelques clics. Ces outils rassemblent des millions d'utilisateurs chaque mois, bien que le nombre exact reste difficile à estimer.
Le phénomène de la création et de la diffusion d'images intimes sans consentement, souvent associé à l'usage de deepfakes, a vu le jour vers la fin de l’année 2017. C’est à cette époque que Motherboard (aujourd’hui connu sous le nom de Vice) a découvert une vidéo où le visage de l’actrice Gal Gadot était superposé à une scène pornographique, donnant l’impression qu’elle participait à l’action. Le pseudonyme utilisé par la personne derrière cette manipulation a donné naissance au terme « deepfake ».
Depuis cette première découverte, la technologie des deepfakes a rapidement évolué. À l’origine, les manipulations concernaient principalement des échanges de visages, mais avec les progrès de l’intelligence artificielle, des techniques plus sophistiquées, comme les GANs (réseaux antagonistes génératifs), sont désormais accessibles au grand public.
Cependant, la majorité des bots découverts sur Telegram ne reposent pas sur des technologies aussi avancées. Ils se contentent d'enlever les vêtements des personnes sur des photos, un procédé extrêmement invasif et traumatisant pour les victimes.
Ces bots sont devenus un moyen lucratif de générer des revenus. Les utilisateurs doivent souvent acheter des « jetons » pour utiliser ces services. Des cybercriminels ont même profité de cette tendance en développant des bots frauduleux ou en générant des images de mauvaise qualité.
Outre les préoccupations éthiques, le recours à ces outils soulève des risques de sécurité, notamment la confidentialité des utilisateurs. Des incidents récents, comme le piratage de l’application AI Girlfriend, montrent bien que les données des utilisateurs ne sont jamais totalement à l'abri, sans oublier la possibilité d'infections par des logiciels malveillants.
L’utilisation non consensuelle de deepfakes pose de sérieux problèmes en termes de vie privée, d’exploitation de l’image des femmes, et peut même contribuer à la création de contenus d’abus sexuels impliquant des mineurs. Des chercheurs italiens considèrent les deepfakes non consensuels comme une forme nouvelle et insidieuse de violence sexuelle, qui peut avoir des conséquences psychologiques durables sur les victimes.
Afin de contrer ces abus, diverses initiatives ont vu le jour :
- Aux États-Unis, un projet de loi nommé Deepfake Accountability Act a été proposé pour responsabiliser les créateurs de deepfakes. Par ailleurs, Telegram a récemment modifié sa politique pour transmettre aux autorités les données des utilisateurs suspectés de crimes, ce qui pourrait freiner l'usage des bots sur cette plateforme.
- Certaines grandes entreprises technologiques, comme Google, ont interdit la diffusion de contenus pornographiques synthétiques non consentis dans leurs résultats de recherche.
Malgré ces efforts, le marché des deepfakes intimes continue de croître, et les mesures actuelles n'ont pas encore réussi à inverser la tendance.
Pour protéger vos proches, il est essentiel de comprendre les risques liés à l'utilisation des réseaux sociaux. Publier des photos peut paraître anodin, mais celles-ci peuvent être exploitées de diverses manières pour entraîner des modèles d'IA.
Les dangers incluent notamment :
- Deepfakes : ces contenus peuvent être utilisés pour nuire à votre réputation, diffuser des informations trompeuses, ou escroquer vos proches.
- Métadonnées : les images que vous publiez en ligne contiennent souvent des informations telles que l’emplacement où elles ont été prises, qui peuvent être revendues à des tiers.
- Propriété intellectuelle : les œuvres partagées peuvent être exploitées sans compensation si elles ne vous appartiennent pas.
- Biais algorithmiques : les IA formées sur des ensembles de données biaisés peuvent perpétuer des stéréotypes ou des discriminations.
- Reconnaissance faciale : bien que ce sujet ait perdu de sa visibilité, les technologies de reconnaissance faciale existent toujours et peuvent être utilisées pour relier des informations privées à votre identité.
- Durée de vie des contenus : une fois une image postée en ligne, il est presque impossible de la supprimer définitivement.
