La Révolution de l’Intelligence Artificielle Générative et ses Risques
Les avancées dans les systèmes d’intelligence artificielle (IA) générative, tels que OpenAI’s ChatGPT et Google’s Gemini, transforment le paysage technologique. Ces outils, de plus en plus utilisés par les startups et les entreprises technologiques, permettent d’automatiser des tâches telles que la gestion des calendriers et l’achat de produits, augmentant ainsi l’efficacité et la productivité. Cependant, à mesure que ces outils gagnent en autonomie, les risques potentiels d’attaques augmentent également.
La Naissance des Vers de l’IA Générative
Récemment, les chercheurs ont développé l’un des premiers vers de l’IA générative, une nouvelle forme de cyberattaque qui peut se propager d’un système à un autre, volant des données ou déployant des malwares. Selon Ben Nassi, chercheur à Cornell Tech, nous sommes face à un nouveau type de menace qui nécessite une attention particulière.
Le ver Morris II, créé par Ben Nassi, Stav Cohen et Ron Bitton, s’inspire du ver informatique Morris de 1988. Ce ver a la capacité d’attaquer un assistant de messagerie électronique IA génératif pour voler des données et envoyer du spam, en compromettant certaines des protections de sécurité dans ChatGPT et Gemini.
La Multimodalité des Modèles de Langage et ses Implications en Sécurité
L’augmentation de la multimodalité des grands modèles de langage (LLMs), qui génèrent des images, des vidéos et du texte, représente un risque de sécurité supplémentaire. Cette préoccupation est partagée par les startups, les développeurs et les entreprises technologiques, qui voient comment la sécurité de leurs systèmes peut être compromise.
Les systèmes d’IA générative fonctionnent en utilisant des indications de texte pour répondre à des questions ou créer des images. Cependant, ces systèmes peuvent être manipulés contre eux-mêmes par des « jailbreaks » et des attaques d’injection d’indications.
Pour créer le ver de l’IA générative, les chercheurs ont utilisé une « indication auto-réplicante adversaire ». De cette façon, le système d’IA produit un ensemble d’instructions supplémentaires dans ses réponses, ce qui est similaire aux attaques traditionnelles d’injection SQL et de débordement de tampon.
Pour démontrer le fonctionnement du ver, les chercheurs ont créé un système de courrier électronique qui utilise l’IA générative et l’ont connecté à ChatGPT, Gemini et LLM open source, LLaVA. Ils ont découvert deux façons d’exploiter le système : par une indication auto-réplicante de texte et par l’incrustation d’une indication auto-réplicante dans un fichier image.
Conclusion : La Nécessité de se Protéger Contre les Nouvelles Menaces
En conclusion, à mesure que l’IA générative progresse, les menaces pour la sécurité augmentent également. Il est crucial que les entreprises et les développeurs soient conscients de ces risques et prennent les mesures nécessaires pour protéger leurs systèmes.
Sarah est non seulement une experte en marketing digital, mais aussi une créatrice de contenu avec une grande expérience dans le domaine. Diplômée en Sociologie de l'Université de Barcelone et ayant un post-diplôme en Marketing Digital de l'Inesdi, Sarah a réussi à se distinguer en tant que Directrice de Marketing Digital. Sa connaissance approfondie des tendances digitales et sa capacité à identifier des opportunités de croissance ont été fondamentales pour le succès de nombreuses campagnes. De plus, elle donne des cours et des conférences dans des écoles de commerce prestigieuses, des universités et des événements, partageant ses connaissances et expériences avec d'autres professionnels et étudiants.
Cette entrée est également disponible dans : Español Português
