OpenAI, une entreprise leader dans le domaine de l’intelligence artificielle, envisage la possibilité de créer du contenu pornographique généré par IA. Cette initiative suscite de nombreuses interrogations et soulève des problématiques importantes.
OpenAI et la pornographie générée par IA
OpenAI a récemment exprimé son intérêt pour la création “responsable” de contenu pornographique généré par IA. L’entreprise cherche à initier une discussion sur les conditions dans lesquelles elle pourrait permettre l’utilisation d’images et de textes explicites dans ses produits IA.
Joanne Jang, membre de l’équipe produit chez OpenAI, a déclaré : “Nous souhaitons assurer un contrôle maximal aux utilisateurs, tant que cela ne viole pas la loi ou les droits d’autrui.
Les enjeux de cette initiative
Il est envisageable qu’un jour, OpenAI ouvre la voie au porno généré par IA. Cependant, il est discutable de faire confiance à OpenAI – ou à tout autre fournisseur d’IA générative – pour bien gérer cette question.
Deux problématiques majeures se posent :
- Les droits des créateurs : Les modèles d’OpenAI ont été entraînés sur d’énormes quantités de contenu Web public, y compris du contenu pornographique. Or, OpenAI n’a pas acquis de licences pour tout ce contenu.
- La fiabilité des garanties actuelles : OpenAI et ses concurrents perfectionnent leurs outils de filtrage et de modération depuis des années. Cependant, les utilisateurs trouvent régulièrement des moyens de contourner ces modèles, applications et plateformes d’IA.
Les risques liés à la pornographie générée par IA
L’IA a déjà engendré une nouvelle forme d’abus sexuel. Des élèves d’écoles primaires et secondaires utilisent des applications basées sur l’IA pour “déshabiller” les photos de leurs camarades sans leur consentement. De nouvelles lois aux États-Unis et ailleurs tentent de contrer ce phénomène.
Il est difficile d’imaginer une approche qu’OpenAI pourrait adopter en matière de porno généré par IA qui ne comporte pas de risques. Peut-être qu’OpenAI reconsidérera sa position. Ou peut-être, contre toute attente, trouvera-t-elle une meilleure solution.
