Remise en question de la fiabilité des outils de gouvernance de l’Intelligence Artificielle
Le Forum Mondial sur la Vie Privée a publié un rapport remettant en question l’efficacité et la fiabilité des outils de gouvernance de l’Intelligence Artificielle (IA). L’étude révèle que 38% des outils analysés présentent des «solutions défectueuses», ce qui met en évidence un manque dans les mécanismes d’assurance qualité. De plus, une utilisation inappropriée des méthodes de mesure en dehors du cas d’utilisation original a été détectée.
De grandes entreprises technologiques comme Microsoft, IBM et Google sont à la tête du développement et de la diffusion de ces outils. Un exemple est l’outil AI Fairness 360 d’IBM, promu et utilisé par le gouvernement américain. Cependant, son algorithme «Disparate Impact Remover» a été critiqué dans le milieu universitaire.
Le manque de régulation et son impact
Pam Dixon, fondatrice et directrice générale du Forum Mondial sur la Vie Privée, souligne l’absence de normes établies pour l’assurance ou l’évaluation de la qualité. Cette situation peut favoriser une utilisation inappropriée et non documentée des outils dans différents contextes.
Les outils de gouvernance IA peuvent créer un faux sentiment de sécurité et entraîner des problèmes imprévus. Cependant, ils représentent également une opportunité d’améliorer l’écosystème de gouvernance IA, en particulier après l’adoption du Acte AI EU et de l’Ordre Exécutif AI du Président Biden. Ces outils joueront un rôle crucial dans la mise en œuvre des futures lois et réglementations AI.
Cas d’abus et perspectives d’amélioration
Un exemple illustratif d’abus est l’application incorrecte de la règle des 80% dans le droit du travail américain. Cet exemple met en évidence la pression sur les gouvernements et les organisations pour créer des législations et des réglementations, mais aussi le risque d’intégrer des méthodes problématiques dans les politiques.
Malgré les défis actuels, un horizon d’amélioration se profile pour 2024. Des organisations comme l’OCDE et le NIST sont prêtes à travailler dans ce sens. Avec un effort conjoint, on espère réaliser des améliorations significatives en six mois. La gouvernance de l’IA est un domaine en constante évolution, il est donc essentiel que les outils utilisés soient efficaces, fiables et sécurisés.
Sarah est non seulement une experte en marketing digital, mais aussi une créatrice de contenu avec une grande expérience dans le domaine. Diplômée en Sociologie de l'Université de Barcelone et ayant un post-diplôme en Marketing Digital de l'Inesdi, Sarah a réussi à se distinguer en tant que Directrice de Marketing Digital. Sa connaissance approfondie des tendances digitales et sa capacité à identifier des opportunités de croissance ont été fondamentales pour le succès de nombreuses campagnes. De plus, elle donne des cours et des conférences dans des écoles de commerce prestigieuses, des universités et des événements, partageant ses connaissances et expériences avec d'autres professionnels et étudiants.
Cette entrée est également disponible dans : Español Português
