El desafío de controlar la inteligencia artificial en código abierto
El consultor de inteligencia artificial (IA), Reuven Cohen, ha estado utilizando imágenes generadas por IA para concienciar sobre los usos oscuros de la tecnología. La tecnología de generación de imágenes de código abierto ha permitido la creación de imágenes explícitas utilizadas para el acoso. Un ejemplo reciente de este uso indebido fue la difusión de imágenes no consensuadas de la cantante Taylor Swift, lo que llevó a Microsoft a añadir nuevos controles a su generador de imágenes.
Los modelos de código abierto, que pueden ser utilizados por cualquiera y generalmente no tienen restricciones, presentan un desafío en términos de control. A pesar de los esfuerzos de algunos miembros de la comunidad para disuadir usos explotadores, el libre albedrío del código abierto es casi imposible de controlar.
El lado oscuro de la IA: abuso de imágenes falsas y pornografía no consensuada
Henry Ajder, investigador de usos perjudiciales de la IA generativa, afirma que el código abierto ha impulsado el abuso de imágenes falsas y la pornografía no consensuada. Algunas herramientas basadas en algoritmos de código abierto están diseñadas para usos salaces o de acoso.
Muchas de estas herramientas de IA tienen un uso dual. Pueden servir tanto para usos legítimos como de acoso. Un popular programa de intercambio de rostros de código abierto se utiliza en la industria del entretenimiento y como la «herramienta de elección para los malos actores» que hacen deepfakes no consensuados.
Protecciones y desafíos en el uso de herramientas de IA
Un ejemplo de una herramienta de IA con protecciones es el generador de imágenes de alta resolución Stable Diffusion, desarrollado por Stability AI. Con más de 10 millones de usuarios, cuenta con protecciones para prevenir la creación de imágenes explícitas. La empresa también lanzó una versión de código abierto del generador de imágenes en 2022 que es personalizable.
Los modelos de IA más pequeños, conocidos como LoRAs, facilitan la sintonización de un modelo Stable Diffusion para producir imágenes con un estilo, concepto o pose particular. Están ampliamente disponibles en mercados de modelos de IA como Civitai.
Sin embargo, una vez descargado el modelo, su uso está fuera de control del creador. Un creador de un complemento de Taylor Swift instó a otros a no usarlo para imágenes NSFW, pero no pudo controlar su uso una vez descargado.
El uso de programas y modelos de IA para imágenes sexuales es un problema creciente. 4chan, un sitio de tablones de mensajes basado en imágenes, alberga páginas dedicadas a la pornografía deepfake no consensuada hecha con programas y modelos de IA disponibles abiertamente.
A pesar de estos desafíos, hay intentos de resistencia a las imágenes pornográficas y maliciosas. Algunos usuarios en comunidades dedicadas a la creación de imágenes de IA, incluyendo Reddit y Discord, intentan resistirse a la marea de imágenes pornográficas y maliciosas. Los creadores también expresan preocupación por la reputación del software para imágenes NSFW, alentando a otros a denunciar imágenes que representan a menores en Reddit y sitios de alojamiento de modelos.
En resumen, mientras que la IA y el código abierto ofrecen oportunidades increíbles para la creatividad y la innovación, también presentan desafíos significativos en términos de control y uso indebido. Es esencial que la comunidad de IA continúe trabajando para encontrar formas de prevenir y combatir estos usos oscuros de la tecnología.
Clara es creadora y editora de contenidos, con una sólida formación en ciencias y una especialización en inteligencia artificial. Su pasión por este campo en constante evolución la ha llevado a adquirir los conocimientos necesarios para comprender y comunicar los avances más recientes en este campo. Con su experiencia y habilidades en la redacción y edición de contenidos, Clara es capaz de transmitir de manera clara y efectiva conceptos complejos relacionados con la inteligencia artificial y de esta manera hacerlos accesibles para todo tipo de audiencias.
