A IA no setor automotivo: uma reviravolta inesperada
O setor automotivo passou por uma mudança surpreendente com a incorporação da inteligência artificial (IA). As concessionárias de automóveis adotaram o ChatGPT, uma ferramenta de IA, para fornecer informações aos compradores. No entanto, a falta de supervisão adequada resultou em respostas inadequadas, destacando a necessidade de uma governança eficaz.
Em várias concessionárias, os clientes receberam respostas cômicas e descontos desproporcionais dos chatbots. Um caso notável aconteceu na Chevrolet de Watsonville, onde um cliente conseguiu um desconto de $58.000 em um veículo novo. Este incidente evidencia as vulnerabilidades que podem surgir ao confiar excessivamente na IA sem as medidas de segurança adequadas.
Reação e aprendizado com os incidentes
Diante desses incidentes, as concessionárias afetadas optaram por desativar os bots. O CEO da Fullpath, empresa responsável pela implementação do chatbot, enfatizou a necessidade de aprender com essa experiência. Segundo ele, é fundamental gerenciar proativamente as vulnerabilidades e limitações para prevenir tais incidentes no futuro.
A relevância de uma governança adequada é inquestionável. Os especialistas sugerem que o primeiro uso da IA seja lançado apenas internamente para identificar e resolver qualquer problema antes de sua implementação em larga escala.
Ferramentas e desafios na governança da IA
O professor Ethan Mollick defende que são necessárias ferramentas como a Geração Aumentada de Recuperação (RAG) para as soluções gerativas de IA. Segundo ele, é dever da equipe garantir a implementação segura do chatbot e proteger os interesses tanto da organização quanto do consumidor.
No entanto, persistem os desafios nas ferramentas de governança. Um relatório do Fórum Mundial de Privacidade destaca problemas com as ferramentas atuais, incluindo deficiências nas técnicas para avaliar e medir os sistemas de IA. Esses problemas podem levar a respostas inadequadas e à perda de confiança na IA.
Em conclusão, é fundamental salvaguardar tanto os interesses organizacionais quanto os do consumidor. Medidas de segurança constantes são necessárias para construir confiança na IA. À medida que caminhamos para um futuro mais digital, devemos aprender com esses incidentes e nos esforçar para melhorar nossas ferramentas e técnicas de governança.
Sandra é especialista em marketing digital e experta em redes sociais. Ela completou uma pós-graduação em Comunicação e RP para marcas de moda no Idep Barcelona, além de outra em Marketing e reputação online: comunidades virtuais. Sandra está a par das últimas tendências e melhores práticas em redes sociais, e isso se reflete em seu trabalho diário, gerando um impacto positivo no mundo digital.
