Un marco innovador para corregir alucinaciones en modelos de lenguaje
Investigadores de la Universidad de Ciencia y Tecnología de China y del Tencent YouTu Lab han desarrollado un marco innovador llamado «Woodpecker«. Este marco está diseñado para corregir las alucinaciones en los modelos de lenguaje grande multimodal (MLLMs), una inconsistencia entre el texto generado y el contenido de la imagen. Las soluciones existentes para este problema suelen requerir el reentrenamiento de los modelos con datos específicos, un proceso intensivo tanto en datos como en cálculos.
Woodpecker: Un método sin entrenamiento
El marco Woodpecker introduce un método sin entrenamiento para corregir las alucinaciones. Este realiza correcciones después de un diagnóstico exhaustivo, incorporando cinco etapas: extracción de conceptos clave, formulación de preguntas, validación del conocimiento visual, generación de afirmaciones visuales y corrección de alucinaciones.
El funcionamiento del marco Woodpecker comienza identificando los objetos principales mencionados en el texto. A continuación, formula preguntas sobre estos objetos extraídos. Responde a estas preguntas utilizando modelos expertos en un proceso llamado validación del conocimiento visual. Posteriormente, convierte los pares de preguntas-respuestas en una base de conocimientos visuales. Finalmente, modifica las alucinaciones y añade la evidencia correspondiente bajo la guía de esta base de conocimientos visuales.
Impacto y aplicaciones potenciales
Los investigadores han liberado el código fuente de Woodpecker para su exploración y aplicación por parte de la comunidad de Inteligencia Artificial (IA). Para evaluar su efectividad, se realizaron experimentos cuantitativos y cualitativos. Los resultados muestran un aumento significativo en la precisión de los modelos base.
El desarrollo de Woodpecker representa un paso crucial para abordar el problema de las alucinaciones en MLLMs. Este marco tiene el potencial de mejorar significativamente la precisión y fiabilidad de los sistemas de IA en diversas aplicaciones, lo que podría tener un impacto significativo en la forma en que interactuamos y utilizamos la tecnología en nuestra vida cotidiana.
Sarah es además de experta en marketing digital, creadora de contenido con amplia experiencia en el campo. Graduada en Sociología por la Universidad de Barcelona y con un Postgrado en Marketing Digital en Inesdi, Sarah ha logrado destacarse como Directora de Marketing Digital.
Su profundo conocimiento de las tendencias digitales y su habilidad para identificar oportunidades de crecimiento han sido fundamentales para el éxito de numerosas campañas. Además, imparte clases y conferencias en prestigiosas escuelas de negocio, universidades y eventos, compartiendo sus conocimientos y experiencias con otros profesionales y estudiantes.
