Un Experimento que Desencadena un Problema Tecnológico
El gigante tecnológico Microsoft ha experimentado una situación sin precedentes con su motor de búsqueda, Bing. El incidente se originó cuando Bing citó un artículo inexistente del renombrado matemático y criptógrafo Claude E. Shannon, una información falsa generada por dos chatbots. Este hecho pone de relieve los desafíos que las empresas enfrentan al implementar la inteligencia artificial (IA) y cómo esta puede ser manipulada para difundir información errónea.
El problema se remonta a una publicación en el blog de Daniel Griffin, recién graduado de un doctorado en búsqueda web en la Universidad de California, Berkeley. Griffin había programado a dos chatbots para que resumieran un artículo inexistente de Shannon. Para su sorpresa, descubrió que su publicación había «envenenado» a Bing con información falsa.
Las Consecuencias de la Inteligencia Artificial Mal Utilizada
Las repercusiones de este incidente fueron significativas. Bing presentó las «alucinaciones» de los chatbots como si fueran hechos reales, lo que llevó a Griffin a señalar que no hay indicación para el usuario de que algunos resultados provienen de conversaciones con modelos de lenguaje grandes (LLMs). Este experimento accidental muestra cómo la prisa por implementar la IA puede causar problemas incluso a las empresas más familiarizadas con la tecnología.
Detectar automáticamente el texto generado por IA puede ser un desafío para los motores de búsqueda. Sin embargo, Griffin sugiere que Microsoft podría haber implementado salvaguardas básicas, como prohibir que el texto de las transcripciones de chatbot se convierta en un fragmento destacado. Esta medida podría haber evitado que Bing citara el artículo inexistente.
Respuesta de Microsoft y Reflexiones Finales
En respuesta al incidente, Microsoft ha ajustado Bing para evitar mostrar contenido de baja autoridad. Caitlin Roulston, directora de comunicaciones en Microsoft, ha declarado que la empresa ha desarrollado un proceso para identificar estos problemas y está ajustando los resultados en consecuencia.
Este incidente subraya la necesidad de una mayor supervisión y regulación en el uso de la IA. A medida que las empresas continúan implementando esta tecnología a gran escala, es crucial establecer medidas preventivas para evitar la propagación de información falsa y garantizar la integridad de los resultados de búsqueda.
Sandra es especialista en marketing digital y experta en redes sociales. Ha completado un posgrado en Comunicación y RRPP de marcas de moda en Idep Barcelona, así como otro en Marketing y reputación online: comunidades virtuales. Sandra está al tanto de las últimas tendencias y mejores prácticas en redes sociales, y eso se refleja en su trabajo diario generando un impacto positivo en el mundo digital.
