El problema del porno deepfake no consensuado en la era digital
En la actualidad, nos encontramos inmersos en una era digital donde las mujeres se ven cada vez más afectadas por un problema en crecimiento: el porno deepfake no consensuado. La inteligencia artificial (IA) ha sido un factor determinante para agravar esta situación, ya que los sistemas de última generación facilitan la creación de imágenes convincentes.
Sistemas IA de imagen a imagen
Los sistemas IA de imagen a imagen permiten modificar imágenes existentes mediante IA generativa. Estas representaciones son extremadamente detalladas y nítidas debido a que se basan en una única fotografía de alta resolución.
Herramientas contra el abuso AI: PhotoGuard y Glaze
Frente a esta amenaza emergente, investigadores del MIT han desarrollado PhotoGuard, una herramienta diseñada para funcionar como escudo protector para las fotos. Esta modifica sutilmente las imágenes con el objetivo de prevenir su manipulación por modelos AI generativos. Cuando estos intentan alterar estas imágenes «inmunizadas», los resultados tienden a ser poco realistas o deformados.
Simultáneamente al desarrollo del PhotoGuard, Zhao y su equipo de la Universidad de Chicago han creado Glaze; una herramienta destinada a proteger obras artísticas con derechos autor contra su uso indebido en conjuntos datos para entrenamiento modelos AI sin compensación ni crédito adecuados. Glaze «camufla» las imágenes realizando cambios sutiles apenas perceptibles pero suficientemente significativos como para evitar que el modelo AI aprenda características definitorias del estilo del artista e interrumpe el proceso generativo impidiendo la producción infinita obras similares.
Lanzamiento online y limitaciones
«Actualmente existe online una demostración funcional del PhotoGuard trabajando junto al Stable Diffusion mientras que Glaze estará disponible próximamente tras finalizar sus pruebas beta; durante la próxima semana se admitirá un número limitado inscripciones.»
No obstante, estas herramientas presentan ciertas limitaciones y no son completamente efectivas por sí solas; existen posibles alternativas como realizar capturas pantalla sobre imagen protegida. Para combatir eficazmente abusos/manipulaciones usando Ai es necesario que empresas tecnológicas adopten más ampliamente estas medidas.
El panorama actual deja nuestras imágenes online expuestas ante cualquier individuo deseoso manipularlas mediante Ai. Es crucial continuar explorando nuevas formas innovadoras e integrativas mantener nuestra seguridad digital frente este nuevo tipo invasión privacidad emergente e inquietante.
Susana es una profesional destacada en marketing y comunicación, creadora de contenido y experta en SEO. Es licenciada en Psicología por la Universidad de Santiago de Compostela y cuenta con un máster en Marketing y Comportamiento del Consumidor de la Universidad de Granada y la Universidad de Jaén. Además, ha compartido sus conocimientos a través de conferencias y workshops.
Con amplia experiencia en estrategias de marketing y comunicación, Susana ha logrado optimizar la visibilidad y el posicionamiento de las marcas a través de técnicas de SEO.
