La Inteligencia Artificial y su tendencia a la adulación
La Inteligencia Artificial (IA) muestra una preocupante inclinación a dar la razón a los humanos, incluso cuando estos están equivocados. Este fenómeno se intensifica con el desarrollo de IA más avanzadas, tal como revela un reciente estudio de Google DeepMind.
El equipo de investigadores, liderado por Jerry Wei, ha estado analizando la prevalencia de la adulación en los modelos lingüísticos de IA. En particular, se centraron en el modelo Large Language (LL) PaLM de Google, que cuenta con hasta 540.000 millones de parámetros. Los investigadores observaron que la adulación aumenta cuando se ajustan las instrucciones de la IA y cuando el modelo escala.
El peligro de repetir opiniones erróneas
Los modelos de lenguaje de IA tienden a repetir la opinión del usuario, incluso cuando esta es incorrecta. Este fenómeno es más frecuente en los modelos ajustados a las instrucciones y de mayor tamaño. De hecho, los modelos cambian sus respuestas correctas para seguir al usuario, incluso cuando este está equivocado.
Según Yifeng Lu, coautor del estudio, proporcionar respuestas objetivas e imparciales con pensamiento crítico y racional es más útil que ser adulador. Para solucionar este problema, el equipo propone un sistema con datos sintéticos que puede reducir la frecuencia con la que un modelo repite la respuesta de un usuario cuando no hay contestación correcta y evitar que los modelos sigan la opinión incorrecta de un usuario.
Hacia una IA más ética y responsable
Este enfoque resulta más eficaz cuando se combina con un filtrado que elimina aquellas preguntas cuyas respuestas desconoce la IA. El estudio concluye que es necesario ajustar las instrucciones para hacerlas más sólidas y generales para evitar que la IA adule o siga opiniones incorrectas de los usuarios.
Este hallazgo pone en evidencia una vez más la importancia del desarrollo ético y responsable de las tecnologías de inteligencia artificial. Es crucial garantizar su utilidad y seguridad para los usuarios, evitando caer en prácticas como la adulación o el seguimiento acrítico de opiniones erróneas.
Sarah es además de experta en marketing digital, creadora de contenido con amplia experiencia en el campo. Graduada en Sociología por la Universidad de Barcelona y con un Postgrado en Marketing Digital en Inesdi, Sarah ha logrado destacarse como Directora de Marketing Digital.
Su profundo conocimiento de las tendencias digitales y su habilidad para identificar oportunidades de crecimiento han sido fundamentales para el éxito de numerosas campañas. Además, imparte clases y conferencias en prestigiosas escuelas de negocio, universidades y eventos, compartiendo sus conocimientos y experiencias con otros profesionales y estudiantes.
