Cuestionamiento a la fiabilidad de las herramientas de gobernanza de la Inteligencia Artificial
El Foro Mundial de Privacidad ha lanzado un informe que cuestiona la eficacia y confiabilidad de las herramientas de gobernanza de la Inteligencia Artificial (IA). El estudio revela que el 38% de las herramientas analizadas presentan «soluciones defectuosas«, lo que evidencia una carencia en los mecanismos de aseguramiento de calidad. Además, se ha detectado un uso inapropiado de métodos de medición fuera del caso de uso original.
Grandes empresas tecnológicas como Microsoft, IBM y Google lideran el desarrollo y difusión de estas herramientas. Un ejemplo es la herramienta AI Fairness 360 de IBM, promocionada y utilizada por el Gobierno estadounidense. Sin embargo, su algoritmo «Disparate Impact Remover» ha sido objeto de críticas en el ámbito académico.
La falta de regulación y su impacto
Pam Dixon, fundadora y directora ejecutiva del Foro Mundial de Privacidad, apunta a una ausencia de requisitos establecidos para el aseguramiento o evaluación de calidad. Esta situación puede propiciar un uso inadecuado y no documentado de las herramientas en distintos contextos.
Las herramientas de gobernanza IA pueden generar una falsa sensación de seguridad y dar lugar a problemas no previstos. No obstante, también representan una oportunidad para mejorar el ecosistema de gobernanza IA, especialmente tras la aprobación del Acta AI EU y la Orden Ejecutiva AI del Presidente Biden. Estas herramientas jugarán un papel crucial en la implementación de futuras leyes y regulaciones AI.
Casos de mal uso y perspectivas de mejora
Un caso ilustrativo de mal uso es la aplicación incorrecta de la regla del 80% en la ley laboral estadounidense. Este ejemplo evidencia la presión sobre gobiernos y organizaciones para crear legislación y regulaciones, pero también el riesgo de incorporar métodos problemáticos en las políticas.
A pesar de los desafíos actuales, se vislumbra un horizonte de mejoras para 2024. Organizaciones como la OCDE y el NIST están dispuestas a trabajar en este sentido. Con un esfuerzo conjunto, se espera lograr mejoras significativas en seis meses. La gobernanza de la IA es un campo en constante evolución, por lo que es fundamental que las herramientas utilizadas sean eficaces, confiables y seguras.
Sarah es además de experta en marketing digital, creadora de contenido con amplia experiencia en el campo. Graduada en Sociología por la Universidad de Barcelona y con un Postgrado en Marketing Digital en Inesdi, Sarah ha logrado destacarse como Directora de Marketing Digital.
Su profundo conocimiento de las tendencias digitales y su habilidad para identificar oportunidades de crecimiento han sido fundamentales para el éxito de numerosas campañas. Además, imparte clases y conferencias en prestigiosas escuelas de negocio, universidades y eventos, compartiendo sus conocimientos y experiencias con otros profesionales y estudiantes.
