La Integridad de los Datos en el Punto de Mira
El pasado 27 de marzo, la ciudad de Boston acogió un relevante evento de networking centrado en la integridad de los datos. Este encuentro evidenció un inquietante desfase entre las intenciones y las acciones de los líderes de seguridad respecto a la protección de la Inteligencia Artificial (IA) y las operaciones de Machine Learning (MLOps).
A pesar de que el 97% de los líderes de TI consideran esencial la seguridad de la IA, solo el 61% confía en obtener la financiación necesaria para garantizarla. Esta brecha se hace aún más patente si consideramos que el 77% de estos líderes han experimentado algún tipo de violación relacionada con la IA. De forma aún más alarmante, solo el 30% ha implementado una defensa manual contra ataques adversarios.
La IA en el Centro de la Estrategia Empresarial
La creciente dependencia de los líderes de TI en los modelos de IA es otro factor que contribuye a este panorama. Las empresas cuentan en promedio con 1,689 modelos en producción y el 98% considera algunos de sus modelos de IA cruciales para su éxito.
En este contexto, el informe de HiddenLayer sobre el panorama de amenazas de la IA ofrece un análisis crítico de los riesgos que enfrentan los sistemas basados en IA, así como de los avances en la seguridad de la IA y las tuberías de MLOps.
Amenazas y Defensas en el Mundo de la IA
La IA adversaria, que busca engañar a los sistemas de IA y ML, se erige como una de las principales amenazas. Se pueden distinguir tres clases de IA adversaria: ataques de aprendizaje automático, ataques a sistemas de IA generativa, y ataques a MLOps y a la cadena de suministro de software.
Ante este escenario, los expertos proponen cuatro formas de defenderse de un ataque de IA adversaria. En primer lugar, integrar el red teaming y la evaluación de riesgos en la memoria organizacional. En segundo lugar, mantenerse actualizado y adoptar el marco defensivo para la IA que mejor se adapte a la organización. En tercer lugar, mitigar la amenaza de ataques basados en datos sintéticos mediante la integración de modalidades biométricas y técnicas de autenticación sin contraseña. Finalmente, verificar con frecuencia los sistemas de auditoría y mantener actualizados los privilegios de acceso.
En resumen, el evento de Boston ha subrayado la necesidad de un mayor compromiso y acción por parte de los líderes de TI en la protección de la IA y las operaciones de MLOps. Solo a través de una estrategia de seguridad sólida y adaptada a las amenazas actuales, las empresas podrán maximizar las ventajas de la IA minimizando los riesgos.
Sandra es especialista en marketing digital y experta en redes sociales. Ha completado un posgrado en Comunicación y RRPP de marcas de moda en Idep Barcelona, así como otro en Marketing y reputación online: comunidades virtuales. Sandra está al tanto de las últimas tendencias y mejores prácticas en redes sociales, y eso se refleja en su trabajo diario generando un impacto positivo en el mundo digital.
