OpenAI explore la génération de contenu explicite
OpenAI, l’organisation de recherche reconnue en intelligence artificielle (IA), a surpris le public en publiant une documentation préliminaire qui envisage la possibilité de permettre la génération de contenu explicite et pornographique grâce à sa technologie. Cette proposition représente un changement significatif par rapport aux politiques d’utilisation actuelles d’OpenAI, qui interdisent strictement le contenu de nature sexuellement explicite ou suggestive.
L’organisation étudie comment fournir la capacité de générer du contenu NSFW (Not Safe For Work) de manière responsable. Ce type de contenu peut aller de l’érotisme à la violence extrême, en passant par des insultes et des blasphèmes non sollicités. Cependant, il n’est pas encore clair si OpenAI permettra uniquement du texte érotique ou également des descriptions de violence.
La transparence dans le développement de l’IA
En réponse aux questions de WIRED, Grace McGuire, porte-parole d’OpenAI, a affirmé que le document est une tentative de «renforcer la transparence sur le processus de développement». Cependant, aucun détail supplémentaire n’a été fourni sur l’exploration de la génération de contenu explicite par OpenAI.
Les Défis de la Modération de Contenu et l’Utilisation Éthique de l’IA
La pornographie générée par l’IA est devenue l’une des applications les plus problématiques de la technologie générative de l’IA. Le «deepfake porn», qui utilise l’IA pour créer de fausses vidéos pornographiques, est un outil courant de harcèlement contre les femmes et les filles. En mars, on a signalé les premières arrestations de mineurs aux États-Unis pour distribution de nus générés par l’IA sans consentement.
Danielle Keats Citron, professeure à l’Université de Virginie, qualifie l’éventuelle inclusion de contenu explicite par OpenAI de «alarmante». Cependant, les politiques d’utilisation d’OpenAI interdisent l’usurpation sans permission, donc les images non consensuelles resteraient interdites.
La modération du contenu explicite est une autre préoccupation. Il n’est pas clair si OpenAI pourrait effectivement modérer la génération de contenu explicite pour prévenir la mauvaise utilisation des outils. Un exemple de ce problème est Microsoft, qui a dû apporter des modifications à l’un de ses outils d’IA générative après qu’il ait été utilisé pour créer des images explicites de la chanteuse Taylor Swift.
En conclusion, OpenAI envisage la possibilité d’autoriser le contenu explicite dans sa technologie d’IA, ce qui a suscité des préoccupations quant à la modération et à l’éventuelle mauvaise utilisation de ces outils. Au fur et à mesure que l’IA progresse, il est crucial d’établir des mesures de sécurité et d’éthique pour prévenir les abus et garantir son utilisation responsable.
Sarah est non seulement une experte en marketing digital, mais aussi une créatrice de contenu avec une grande expérience dans le domaine. Diplômée en Sociologie de l'Université de Barcelone et ayant un post-diplôme en Marketing Digital de l'Inesdi, Sarah a réussi à se distinguer en tant que Directrice de Marketing Digital. Sa connaissance approfondie des tendances digitales et sa capacité à identifier des opportunités de croissance ont été fondamentales pour le succès de nombreuses campagnes. De plus, elle donne des cours et des conférences dans des écoles de commerce prestigieuses, des universités et des événements, partageant ses connaissances et expériences avec d'autres professionnels et étudiants.
Cette entrée est également disponible dans : Español Português
