Défis de Sécurité à l’Ère de l’Intelligence Artificielle Générative
L’essor des Modèles de Langage de Grande Taille (MLGT) et de l’Intelligence Artificielle (IA) générative a posé des défis significatifs pour les équipes de sécurité. Adapter les programmes de sécurité à ces avancées technologiques est devenu une nécessité urgente.
La Menace des Intermédiaires Non Fiables
Une nouvelle menace dans le domaine de la Technologie de l’Ombre (TO) a émergé : les intermédiaires non fiables. L’industrie se construit sur des MLGT hébergés par des services tels que OpenAI, Hugging Face et Anthropic. Bien que les entreprises accèdent à ces modèles pour résoudre des défis d’entreprise à l’aide d’outils tels que les extensions de navigateur, les applications SaaS, les applications Slack et les API payantes, cet accès peut impliquer le risque de fuite de données sensibles.
La formation à travers des limites de sécurité représente un nouveau risque pour la plupart des organisations. Les limites entre utilisateurs, clients et au sein d’une organisation sont de plus en plus floues. Par conséquent, il est crucial de comprendre quelles données sont introduites dans un modèle.
Confidentialité et Régulation dans l’Utilisation de l’IA Générative
L’utilisation de l’IA générative avec des informations personnelles identifiables (IPI) pose de sérieux défis en termes de confidentialité. La régulation du traitement automatisé des informations personnelles est un sujet brûlant. Des aspects tels que la manière dont la formation ou le réglage fin sur les informations personnelles affecte les demandes de suppression, les restrictions sur la réutilisation des données, la résidence des données et d’autres exigences réglementaires doivent être pris en compte.
Adapter la Sécurité aux Nouveaux Risques
Pour relever ces défis, il est nécessaire d’adapter la sécurité du fournisseur, la sécurité de l’entreprise et la sécurité du produit aux nouveaux types de risques introduits par l’IA générative.
En ce qui concerne la sécurité du fournisseur, les outils d’IA générative doivent être traités comme n’importe quel autre outil de fournisseur. Il est essentiel de s’assurer qu’ils respectent les exigences habituelles de sécurité et de confidentialité et d’intégrer ces considérations dans le processus de diligence raisonnable.
Dans le domaine de la sécurité d’entreprise, il est vital d’établir les bonnes attentes. Il faut trouver un équilibre entre friction et utilisabilité. Il y a un risque que les employés utilisent des outils qui envoient des données client à un tiers non approuvé. C’est pourquoi il est important de fixer des attentes avec les employés et de supposer de bonnes intentions.
En ce qui concerne la sécurité du produit, la transparence crée la confiance. Il est essentiel d’éviter de devenir un intermédiaire non fiable pour les clients. Il faut être transparent dans l’utilisation des données client avec l’IA générative et respecter les mêmes limites de sécurité que celles attendues par les clients. De plus, il faut donner des options aux clients, leur permettant de choisir ou non de participer aux fonctionnalités de l’IA générative.
En conclusion, bien qu’il soit important de ne pas entraver le progrès, il est tout aussi nécessaire d’adopter ces outils pour le succès de l’entreprise. L’IA générative et les LLMs sont là pour rester et nous devons apprendre à coexister avec eux en toute sécurité.
Écrit par Rob Picard, chef de la sécurité chez Vanta.
Clara est créatrice et éditrice de contenus, avec une solide formation en sciences et une spécialisation en intelligence artificielle. Sa passion pour ce domaine en constante évolution l'a amenée à acquérir les connaissances nécessaires pour comprendre et communiquer les avancées les plus récentes dans ce domaine. Grâce à son expérience et à ses compétences en rédaction et édition de contenus, Clara est capable de transmettre de manière claire et efficace des concepts complexes liés à l'intelligence artificielle et ainsi les rendre accessibles à tous types de publics.
Cette entrée est également disponible dans : Español Português
