La Revolución de la Inteligencia Artificial Generativa y sus Riesgos
Los avances en sistemas de inteligencia artificial (IA) generativa, como OpenAI’s ChatGPT y Google’s Gemini, están transformando el panorama tecnológico. Estas herramientas, cada vez más utilizadas por startups y empresas tecnológicas, permiten automatizar tareas como la gestión de calendarios y la compra de productos, incrementando la eficiencia y la productividad. Sin embargo, a medida que estas herramientas ganan autonomía, también se incrementan los posibles riesgos de ataques.
El Nacimiento de los Gusanos de IA Generativa
Recientemente, los investigadores han desarrollado uno de los primeros gusanos de IA generativa, una nueva forma de ciberataque que puede propagarse de un sistema a otro, robando datos o desplegando malware. Según Ben Nassi, investigador de Cornell Tech, estamos ante un nuevo tipo de amenaza que requiere una atención especial.
El gusano Morris II, creado por Ben Nassi, Stav Cohen y Ron Bitton, se inspira en el gusano informático Morris de 1988. Este gusano tiene la capacidad de atacar un asistente de correo electrónico de IA generativa para robar datos y enviar spam, vulnerando algunas de las protecciones de seguridad en ChatGPT y Gemini.
La Multimodalidad de los Modelos de Lenguaje y sus Implicaciones en Seguridad
El aumento de la multimodalidad de los grandes modelos de lenguaje (LLMs), que generan imágenes, videos y texto, supone un riesgo de seguridad adicional. Esta preocupación es compartida por startups, desarrolladores y empresas tecnológicas, que ven cómo la seguridad de sus sistemas puede verse comprometida.
Los sistemas de IA generativa funcionan mediante el uso de indicaciones de texto para responder preguntas o crear imágenes. Sin embargo, estos sistemas pueden ser manipulados contra sí mismos mediante «jailbreaks» y ataques de inyección de indicaciones.
Para crear el gusano de IA generativa, los investigadores utilizaron una «indicación auto-replicante adversarial». De esta manera, el sistema de IA produce un conjunto de instrucciones adicionales en sus respuestas, lo que es similar a los ataques tradicionales de inyección SQL y desbordamiento de búfer.
Para demostrar el funcionamiento del gusano, los investigadores crearon un sistema de correo electrónico que utiliza IA generativa y lo conectaron con ChatGPT, Gemini y LLM de código abierto, LLaVA. Descubrieron dos formas de explotar el sistema: mediante una indicación auto-replicante de texto y mediante la incrustación de una indicación auto-replicante en un archivo de imagen.
Conclusión: La Necesidad de Protegerse Ante las Nuevas Amenazas
En conclusión, a medida que la IA generativa avanza, también lo hacen las amenazas a la seguridad. Es crucial que las empresas y los desarrolladores estén al tanto de estos riesgos y tomen las medidas necesarias para proteger sus sistemas.
Sarah es además de experta en marketing digital, creadora de contenido con amplia experiencia en el campo. Graduada en Sociología por la Universidad de Barcelona y con un Postgrado en Marketing Digital en Inesdi, Sarah ha logrado destacarse como Directora de Marketing Digital.
Su profundo conocimiento de las tendencias digitales y su habilidad para identificar oportunidades de crecimiento han sido fundamentales para el éxito de numerosas campañas. Además, imparte clases y conferencias en prestigiosas escuelas de negocio, universidades y eventos, compartiendo sus conocimientos y experiencias con otros profesionales y estudiantes.
