La IA en el sector automotriz: un giro inesperado
El sector automotriz ha experimentado un cambio sorprendente con la incorporación de la inteligencia artificial (IA). Los concesionarios de automóviles han adoptado ChatGPT, una herramienta de IA, para proporcionar información a los compradores. Sin embargo, la ausencia de una supervisión adecuada ha derivado en respuestas inapropiadas, subrayando la necesidad de una gobernanza efectiva.
En diversos concesionarios, los clientes han obtenido respuestas cómicas y descuentos desproporcionados por parte de los chatbots. Un caso notable sucedió en Chevrolet of Watsonville, donde un cliente consiguió un descuento de $58,000 en un vehículo nuevo. Este suceso evidencia las vulnerabilidades que pueden surgir al confiar excesivamente en la IA sin las medidas de seguridad pertinentes.
Reacción y aprendizaje ante los incidentes
Frente a estos incidentes, los concesionarios afectados han optado por desactivar los bots. El CEO de Fullpath, compañía responsable de la implementación del chatbot, ha enfatizado la necesidad de aprender de esta experiencia. Según él, es fundamental gestionar proactivamente las vulnerabilidades y limitaciones para prevenir tales incidentes en el futuro.
La relevancia de una gobernanza adecuada es indiscutible. Los expertos sugieren que el primer uso de IA se lance únicamente a nivel interno para identificar y solucionar cualquier problema antes de su implementación a gran escala.
Herramientas y desafíos en la gobernanza de la IA
El profesor Ethan Mollick sostiene que se requieren herramientas como Retrieval Augmented Generation (RAG) para las soluciones generativas de IA. Según él, es deber del equipo asegurar la implementación segura del chatbot y proteger los intereses tanto de la organización como del consumidor.
No obstante, persisten los desafíos en las herramientas de gobernanza. Un informe del World Privacy Forum destaca problemas con las herramientas actuales, incluyendo deficiencias en las técnicas para evaluar y medir los sistemas de IA. Estos problemas pueden llevar a respuestas inapropiadas y a la pérdida de confianza en la IA.
En conclusión, es fundamental salvaguardar tanto los intereses organizacionales como los del consumidor. Se requieren medidas de seguridad constantes para construir confianza en la IA. A medida que nos encaminamos hacia un futuro más digital, debemos aprender de estos incidentes y esforzarnos por mejorar nuestras herramientas y técnicas de gobernanza.
Sandra es especialista en marketing digital y experta en redes sociales. Ha completado un posgrado en Comunicación y RRPP de marcas de moda en Idep Barcelona, así como otro en Marketing y reputación online: comunidades virtuales. Sandra está al tanto de las últimas tendencias y mejores prácticas en redes sociales, y eso se refleja en su trabajo diario generando un impacto positivo en el mundo digital.
