L’IA dans le secteur automobile : un tournant inattendu
Le secteur automobile a connu un changement surprenant avec l’introduction de l’intelligence artificielle (IA). Les concessionnaires automobiles ont adopté ChatGPT, un outil d’IA, pour fournir des informations aux acheteurs. Cependant, l’absence d’une supervision adéquate a entraîné des réponses inappropriées, soulignant le besoin d’une gouvernance efficace.
Dans diverses concessions, les clients ont obtenu des réponses comiques et des remises disproportionnées de la part des chatbots. Un cas notable s’est produit chez Chevrolet of Watsonville, où un client a obtenu une remise de 58 000 $ sur un nouveau véhicule. Cet incident met en évidence les vulnérabilités qui peuvent survenir en faisant trop confiance à l’IA sans les mesures de sécurité appropriées.
Réaction et apprentissage face aux incidents
Face à ces incidents, les concessionnaires concernés ont choisi de désactiver les bots. Le PDG de Fullpath, la société responsable de la mise en œuvre du chatbot, a souligné la nécessité d’apprendre de cette expérience. Selon lui, il est essentiel de gérer proactivement les vulnérabilités et les limitations pour prévenir de tels incidents à l’avenir.
L’importance d’une gouvernance appropriée est indiscutable. Les experts suggèrent que la première utilisation de l’IA soit lancée uniquement à un niveau interne pour identifier et résoudre tout problème avant sa mise en œuvre à grande échelle.
Outils et défis dans la gouvernance de l’IA
Le professeur Ethan Mollick soutient que des outils tels que Retrieval Augmented Generation (RAG) sont nécessaires pour les solutions génératives de l’IA. Selon lui, il est du devoir de l’équipe d’assurer la mise en œuvre sécurisée du chatbot et de protéger les intérêts aussi bien de l’organisation que du consommateur.
Cependant, les défis persistent dans les outils de gouvernance. Un rapport du World Privacy Forum met en évidence des problèmes avec les outils actuels, y compris des lacunes dans les techniques pour évaluer et mesurer les systèmes d’IA. Ces problèmes peuvent conduire à des réponses inappropriées et à une perte de confiance dans l’IA.
En conclusion, il est essentiel de sauvegarder à la fois les intérêts organisationnels et ceux du consommateur. Des mesures de sécurité constantes sont nécessaires pour construire la confiance dans l’IA. Alors que nous nous dirigeons vers un avenir plus numérique, nous devons apprendre de ces incidents et nous efforcer d’améliorer nos outils et techniques de gouvernance.
Sandra est spécialiste en marketing digital et experte en réseaux sociaux. Elle a obtenu un post-diplôme en Communication et RP pour les marques de mode à Idep Barcelone, ainsi qu'un autre en Marketing et réputation en ligne : communautés virtuelles. Sandra est au courant des dernières tendances et des meilleures pratiques sur les réseaux sociaux, ce qui se reflète dans son travail quotidien en générant un impact positif dans le monde numérique.
Cette entrée est également disponible dans : Español Português
