El auge de la Inteligencia Artificial y su impacto en el contenido digital
En el último año, la creciente popularidad de los modelos generativos de Inteligencia Artificial (IA) ha traído consigo una proliferación de deepfakes creados por IA, pornografía no consentida e infracciones de derechos de autor. La marca de agua -una técnica que consiste en ocultar una señal en un texto o imagen para identificarlo como generado por IA- se ha convertido en una propuesta muy popular para frenar estos daños.
Las grandes empresas tecnológicas comprometidas con la lucha contra la desinformación
En julio, la Casa Blanca anunció que había obtenido compromisos voluntarios por parte de las principales empresas del sector AI como OpenAI, Google y Meta para desarrollar herramientas con marcas de agua. El objetivo es combatir la desinformación y el mal uso del contenido generado por IA.
Google DeepMind:pioneros en proteger contenidos digitales
Durante su conferencia anual I/O celebrada en mayo, Sundar Pichai -CEO de Google- afirmó que están construyendo sus modelos incluyendo desde el inicio técnicas como las marcas invisibles. Tradicionalmente se han añadido estas marcas a las imágenes mediante superposiciones visibles o incorporándolas a sus metadatos. Sin embargo, este método puede ser frágil ya que dicha marca puede perderse cuando las imágenes son recortadas, redimensionadas o editadas.
SynthID: Una nueva forma eficaz y resistente al sabotaje
SynthID fue creado utilizando dos redes neuronales. Una toma la imagen original y produce otra casi idéntica pero con algunos píxeles modificados sutilmente; esto crea un patrón incrustado invisible al ojo humano. La segunda red neuronal detecta ese patrón e informa si encuentra una marca invisible sospecha que hay una o determina que no existe tal marca.
A pesar del avance significativo representado por SynthID aún existen retos pendientes relacionados con su implementación efectiva así como cuestiones éticas sobre quién debería tener acceso a esta tecnología avanzada sin poner en riesgo nuestra privacidad ni confianza online.
Clara es creadora y editora de contenidos, con una sólida formación en ciencias y una especialización en inteligencia artificial. Su pasión por este campo en constante evolución la ha llevado a adquirir los conocimientos necesarios para comprender y comunicar los avances más recientes en este campo. Con su experiencia y habilidades en la redacción y edición de contenidos, Clara es capaz de transmitir de manera clara y efectiva conceptos complejos relacionados con la inteligencia artificial y de esta manera hacerlos accesibles para todo tipo de audiencias.
