Um Experimento que Desencadeia um Problema Tecnológico
O gigante da tecnologia Microsoft experimentou uma situação sem precedentes com seu motor de busca, Bing. O incidente começou quando o Bing citou um artigo inexistente do renomado matemático e criptógrafo Claude E. Shannon, uma informação falsa gerada por dois chatbots. Este fato destaca os desafios que as empresas enfrentam ao implementar a inteligência artificial (IA) e como ela pode ser manipulada para disseminar informações errôneas.
O problema remonta a uma publicação no blog de Daniel Griffin, recém-formado em um doutorado em busca na web na Universidade da Califórnia, Berkeley. Griffin havia programado dois chatbots para resumir um artigo inexistente de Shannon. Para sua surpresa, descobriu que sua publicação havia “envenenado” o Bing com informações falsas.
As Consequências do Uso Indevido da Inteligência Artificial
As repercussões deste incidente foram significativas. Bing apresentou as “alucinações” dos chatbots como se fossem fatos reais, o que levou Griffin a apontar que não há indicação para o usuário de que alguns resultados vêm de conversas com modelos de linguagem grandes (LLMs). Este experimento acidental mostra como a pressa em implementar a IA pode causar problemas até mesmo para as empresas mais familiarizadas com a tecnologia.
Detectar automaticamente o texto gerado por IA pode ser um desafio para os motores de busca. No entanto, Griffin sugere que a Microsoft poderia ter implementado salvaguardas básicas, como proibir que o texto das transcrições do chatbot se torne um fragmento destacado. Esta medida poderia ter evitado que Bing citasse o artigo inexistente.
Resposta da Microsoft e Reflexões Finais
Em resposta ao incidente, a Microsoft ajustou o Bing para evitar mostrar conteúdo de baixa autoridade. Caitlin Roulston, diretora de comunicações na Microsoft, declarou que a empresa desenvolveu um processo para identificar esses problemas e está ajustando os resultados de acordo.
Este incidente destaca a necessidade de uma supervisão e regulamentação maior no uso da IA. À medida que as empresas continuam implementando essa tecnologia em grande escala, é crucial estabelecer medidas preventivas para evitar a propagação de informações falsas e garantir a integridade dos resultados de pesquisa.
Sandra é especialista em marketing digital e experta em redes sociais. Ela completou uma pós-graduação em Comunicação e RP para marcas de moda no Idep Barcelona, além de outra em Marketing e reputação online: comunidades virtuais. Sandra está a par das últimas tendências e melhores práticas em redes sociais, e isso se reflete em seu trabalho diário, gerando um impacto positivo no mundo digital.
