New York présente un Plan d’Action pour l’Intelligence Artificielle
La ville de New York, connue dans le monde entier comme la ville qui ne dort jamais, a franchi une étape importante dans la régulation des technologies émergentes avec la présentation d’un ambitieux Plan d’Action pour l’Intelligence Artificielle (IA). Ce plan, composé d’environ 40 initiatives politiques, a pour objectif principal de protéger les résidents contre les éventuels dommages découlant de l’utilisation de cette technologie, tels que les biais ou la discrimination.
Le Plan d’Action établit des normes pour l’IA qui sera acquise par les agences municipales et crée de nouveaux mécanismes pour évaluer le risque associé à l’utilisation de l’IA dans les départements municipaux. Cette approche proactive vise à garantir une utilisation juste et transparente de cette technologie.
Proposition pour un Bureau d’Intégrité des Données Algorithmiques
La conseillère municipale Jennifer Gutiérrez a proposé une expansion de cette régulation par le biais d’une législation permettant de créer un Bureau d’Intégrité des Données Algorithmiques. Ce bureau agirait comme un défenseur du peuple pour les algorithmes, évaluant les systèmes d’IA avant leur mise en œuvre par le gouvernement municipal.
Gutiérrez soutient également la mise en place de tests obligatoires pour les algorithmes utilisés par le gouvernement municipal. D’autre part, plusieurs départements ont montré un intérêt pour l’utilisation de logiciels d’IA pour des tâches administratives. Cependant, il existe des préoccupations concernant l’utilisation croissante et potentiellement invasive de technologies telles que les chiens robots et la reconnaissance faciale.
Progrès et défis dans la régulation de l’IA
New York a été à la pointe de la régulation de l’IA, avec une force de travail formée en 2018. Cette année, une loi a été promulguée exigeant que les algorithmes utilisés dans les recrutements soient examinés pour détecter d’éventuels biais. Cependant, certaines protections ont été réduites, comme l’annulation d’un décret exécutif créant un Responsable de la Gestion et de la Politique des Algorithmes.
Malgré ces avancées, Gutiérrez admet qu’il n’a pas encore une compréhension complète des algorithmes utilisés par les agences municipales. Un audit de l’État a révélé que la ville a une approche ad hoc et incomplète de la gouvernance de l’IA. L’audit prévient que cela signifie que la ville ne peut pas garantir que son utilisation de l’IA soit transparente, précise, impartiale et évite les impacts disparates.
En conclusion, bien que New York prenne des mesures proactives pour réguler l’utilisation de l’IA dans ses agences gouvernementales, il reste encore beaucoup à faire pour garantir une utilisation juste et transparente de cette technologie. La proposition de Gutiérrez pour un Bureau d’Intégrité des Données Algorithmiques pourrait être une étape importante dans cette direction.
Sandra est spécialiste en marketing digital et experte en réseaux sociaux. Elle a obtenu un post-diplôme en Communication et RP pour les marques de mode à Idep Barcelone, ainsi qu'un autre en Marketing et réputation en ligne : communautés virtuelles. Sandra est au courant des dernières tendances et des meilleures pratiques sur les réseaux sociaux, ce qui se reflète dans son travail quotidien en générant un impact positif dans le monde numérique.
Cette entrée est également disponible dans : Español Português
