Nueva York presenta un Plan de Acción de Inteligencia Artificial
La ciudad de Nueva York, conocida mundialmente como la ciudad que nunca duerme, ha dado un paso adelante en la regulación de la tecnología emergente con la presentación de un ambicioso Plan de Acción de Inteligencia Artificial (IA). Este plan, compuesto por cerca de 40 iniciativas políticas, tiene como principal objetivo proteger a los residentes de posibles daños derivados del uso de esta tecnología, como el sesgo o la discriminación.
El Plan de Acción establece estándares para la IA que será adquirida por las agencias municipales y crea nuevos mecanismos para evaluar el riesgo asociado al uso de IA en los departamentos municipales. Este enfoque proactivo busca garantizar un uso justo y transparente de esta tecnología.
Propuesta para una Oficina de Integridad de Datos Algorítmicos
La concejala Jennifer Gutiérrez ha propuesto una expansión de esta regulación mediante una legislación que permita crear una Oficina de Integridad de Datos Algorítmicos. Esta oficina actuaría como un defensor del pueblo para los algoritmos, evaluando los sistemas de IA antes de su implementación por parte del gobierno municipal.
Gutiérrez también apoya la implementación de pruebas obligatorias para los algoritmos utilizados por el gobierno municipal. Por otro lado, varios departamentos han mostrado interés en utilizar software de IA para tareas administrativas. Sin embargo, existen preocupaciones sobre el creciente y potencialmente invasivo uso de tecnologías como perros robóticos y reconocimiento facial.
Avances y desafíos en la regulación de la IA
Nueva York ha estado a la vanguardia en la regulación de la IA, con una fuerza de tarea formada en 2018. Este año, se promulgó una ley que exige que los algoritmos utilizados en contrataciones sean revisados para detectar posibles sesgos. No obstante, algunas protecciones han sido reducidas, como la cancelación de una orden ejecutiva que creaba un Oficial de Gestión y Política de Algoritmos.
A pesar de estos avances, Gutiérrez admite que aún no tiene una comprensión completa de los algoritmos utilizados por las agencias municipales. Una auditoría estatal encontró que la ciudad tiene un enfoque ad hoc e incompleto para la gobernanza de la IA. La auditoría advierte que esto significa que la ciudad no puede garantizar que su uso de la IA sea transparente, preciso, imparcial y evite impactos dispares.
En conclusión, aunque Nueva York está tomando medidas proactivas para regular el uso de la IA en sus agencias gubernamentales, todavía queda mucho trabajo por hacer para garantizar un uso justo y transparente de esta tecnología. La propuesta de Gutiérrez para una Oficina de Integridad de Datos Algorítmicos podría ser un paso importante en esta dirección.
Sandra es especialista en marketing digital y experta en redes sociales. Ha completado un posgrado en Comunicación y RRPP de marcas de moda en Idep Barcelona, así como otro en Marketing y reputación online: comunidades virtuales. Sandra está al tanto de las últimas tendencias y mejores prácticas en redes sociales, y eso se refleja en su trabajo diario generando un impacto positivo en el mundo digital.
