Le défi de contrôler l’intelligence artificielle en open source
Le consultant en intelligence artificielle (IA), Reuven Cohen, a utilisé des images générées par l’IA pour sensibiliser aux usages sombres de la technologie. La technologie de génération d’images en open source a permis la création d’images explicites utilisées pour le harcèlement. Un exemple récent de cet abus a été la diffusion d’images non consenties de la chanteuse Taylor Swift, ce qui a conduit Microsoft à ajouter de nouveaux contrôles à son générateur d’images.
Les modèles en open source, qui peuvent être utilisés par n’importe qui et n’ont généralement pas de restrictions, présentent un défi en termes de contrôle. Malgré les efforts de certains membres de la communauté pour dissuader les usages exploitants, le libre arbitre de l’open source est presque impossible à contrôler.
Le côté sombre de l’IA : abus d’images fausses et pornographie non consentie
Henry Ajder, chercheur sur les utilisations nuisibles de l’IA générative, affirme que le code ouvert a favorisé l’abus d’images fausses et la pornographie non consensuelle. Certaines outils basées sur des algorithmes open source sont conçues pour des utilisations salaces ou de harcèlement.
Beaucoup de ces outils d’IA ont une double utilisation. Ils peuvent servir à la fois pour des usages légitimes et de harcèlement. Un programme populaire d’échange de visages en open source est utilisé dans l’industrie du divertissement et comme l’«outil de choix pour les mauvais acteurs» qui font des deepfakes non consensuels.
Protections et défis dans l’utilisation des outils d’IA
Un exemple d’un outil d’IA avec des protections est le générateur d’images haute résolution Stable Diffusion, développé par Stability AI. Avec plus de 10 millions d’utilisateurs, il dispose de protections pour prévenir la création d’images explicites. L’entreprise a également lancé une version open source du générateur d’images en 2022 qui est personnalisable.
Les modèles d’IA plus petits, connus sous le nom de LoRAs, facilitent le réglage d’un modèle Stable Diffusion pour produire des images avec un style, un concept ou une pose particulière. Ils sont largement disponibles sur les marchés de modèles d’IA comme Civitai.
Cependant, une fois le modèle téléchargé, son utilisation échappe au contrôle du créateur. Un créateur d’un plugin de Taylor Swift a exhorté les autres à ne pas l’utiliser pour des images NSFW, mais n’a pas pu contrôler son utilisation une fois téléchargé.
L’utilisation de programmes et de modèles d’IA pour des images sexuelles est un problème croissant. 4chan, un site de forums basé sur des images, héberge des pages dédiées à la pornographie deepfake non consentie réalisée avec des programmes et des modèles d’IA ouvertement disponibles.
Malgré ces défis, il y a des tentatives de résistance aux images pornographiques et malveillantes. Certains utilisateurs dans des communautés dédiées à la création d’images d’IA, y compris Reddit et Discord, tentent de résister à la vague d’images pornographiques et malveillantes. Les créateurs expriment également leur préoccupation quant à la réputation du logiciel pour les images NSFW, encourageant les autres à signaler les images représentant des mineurs sur Reddit et les sites d’hébergement de modèles.
En résumé, alors que l’IA et l’open source offrent des opportunités incroyables pour la créativité et l’innovation, ils présentent également des défis significatifs en termes de contrôle et d’utilisation abusive. Il est essentiel que la communauté de l’IA continue de travailler pour trouver des moyens de prévenir et de combattre ces utilisations sombres de la technologie.
Clara est créatrice et éditrice de contenus, avec une solide formation en sciences et une spécialisation en intelligence artificielle. Sa passion pour ce domaine en constante évolution l'a amenée à acquérir les connaissances nécessaires pour comprendre et communiquer les avancées les plus récentes dans ce domaine. Grâce à son expérience et à ses compétences en rédaction et édition de contenus, Clara est capable de transmettre de manière claire et efficace des concepts complexes liés à l'intelligence artificielle et ainsi les rendre accessibles à tous types de publics.
Cette entrée est également disponible dans : Español Português
