L’Intelligence Artificielle et le conflit avec les droits d’auteur
L’utilisation croissante de l’Intelligence Artificielle (IA) dans diverses industries a entraîné une augmentation de l’opposition contre des entreprises comme OpenAI, accusées d’utiliser des données d’entraînement sans autorisation. Des artistes et des maisons de disques ont déposé des plaintes pour l’utilisation non autorisée de leur travail pour entraîner des produits commerciaux d’IA, alléguant que cette pratique permet la création de travaux concurrents par le biais de l’IA. Les ensembles de données utilisés pour entraîner les modèles d’IA incluent souvent du matériel obtenu sur le web, ce qui a créé un conflit avec les artistes qui voient leur travail utilisé sans permission.
Nightshade : un nouvel outil pour protéger les droits des artistes
Cependant, un nouvel outil appelé Nightshade pourrait changer la donne. Développé par des chercheurs de l’Université de Chicago, Nightshade permet aux artistes de « empoisonner » leur art pour les modèles d’IA qui cherchent à s’entraîner avec lui. L’outil modifie les pixels d’une manière invisible à l’œil humain mais détectable par l’IA.
Le fonctionnement de Nightshade est simple mais efficace : il fait en sorte que les modèles d’IA apprennent des noms incorrects pour les objets et les scènes qu’ils observent. Par exemple, les images empoisonnées de chiens apparaissent comme des chats pour un modèle d’IA.
Les résultats et l’avenir prometteur de Nightshade
Les résultats de l’utilisation de Nightshade sont surprenants. Après avoir appris à partir de 50 échantillons empoisonnés, l’IA a commencé à générer des images étranges. Avec 100 échantillons, elle générait un chat lorsqu’on lui demandait un chien et vice versa avec 300 échantillons.
Se défendre contre Nightshade n’est pas une tâche facile. Cela nécessite que les développeurs du modèle éliminent les images avec des pixels empoisonnés, ce qui est difficile à détecter. De plus, les images empoisonnées déjà ingérées pour un ensemble de données d’entraînement devraient également être détectées et éliminées.
L’objectif des chercheurs avec Nightshade est d’aider à équilibrer le pouvoir entre les entreprises d’IA et les artistes. Ils cherchent à créer un puissant dissuasif contre le mépris des droits d’auteur et de la propriété intellectuelle des artistes.
Les prochaines étapes pour Nightshade incluent la présentation d’un article sur l’outil pour sa révision par les pairs lors de la conférence sur la sécurité informatique Usenix. Sans aucun doute, cet outil innovant pourrait changer la façon dont les entreprises d’IA utilisent les données d’entraînement et protéger les droits des artistes dans le processus.
Susana est une professionnelle remarquable dans le marketing et la communication, créatrice de contenu et experte en SEO. Elle est diplômée en Psychologie de l'Université de Santiago de Compostela et a un master en Marketing et Comportement du Consommateur de l'Université de Grenade et de l'Université de Jaén. De plus, elle a partagé ses connaissances à travers des conférences et des ateliers. Avec une vaste expérience en stratégies de marketing et de communication, Susana a réussi à optimiser la visibilité et le positionnement des marques grâce à des techniques de SEO.
Cette entrée est également disponible dans : Español Português
