O dilema das alucinações na Inteligência Artificial
Em plena era digital, o debate sobre se a inteligência artificial (IA) será benéfica ou prejudicial no futuro continua sendo um tema quente. Uma preocupação recente que surgiu é o aparecimento de “alucinações” em chatbots e agentes de IA. Essas alucinações de IA são definidas como fatos inventados que surgem nas respostas dos modelos de linguagem em larga escala (LLM). Apesar de serem fictícios, esses fatos podem parecer convincentes e plausíveis, o que levou as empresas de IA a trabalhar arduamente para minimizar e eliminar essas alucinações.
Estudos e descobertas sobre alucinações em IA
Vectara, uma startup especializada em IA, realizou um estudo exaustivo sobre alucinações e sua prevalência. Em sua pesquisa, eles compararam as taxas de alucinação de vários modelos e descobriram que todos eles apresentavam algum grau de alucinação. Amin Ahmad, CTO da Vectara, explicou que as alucinações ocorrem porque os LLM tentam gerar respostas coerentes com base em padrões aprendidos durante seu treinamento.
Este fenômeno também foi investigado pelo professor Santosh Vempala, que aponta que os LLM são modelos probabilísticos do mundo, não reflexos exatos da realidade. Segundo Vempala, as alucinações são inevitáveis para os fatos que não podem ser verificados com as informações nos dados de treinamento do modelo.
Interpretação humana e a “verdade” das alucinações em IA
Do ponto de vista humano, essas fabricações gerativas podem parecer mais plausíveis do que os fatos reais. Os bots tendem a inventar detalhes que se ajustam à versão mais provável da realidade de acordo com seus dados de treinamento, o que pode resultar em respostas surpreendentemente coerentes e convincentes.
Para ilustrar este fenômeno, recentemente pedi ao ChatGPT, um popular bot de IA, para escrever meu obituário. O bot acertou em muitos detalhes, mas também errou em outros, inventando netos que não tenho, alterando minha data de nascimento e adicionando um prêmio literário que nunca ganhei.
Embora essas alucinações possam parecer erros, elas também podem revelar uma «verdade» mais profunda sobre como a IA interpreta e compreende o mundo. Apesar de suas falhas, a IA está constantemente aprendendo e melhorando sua capacidade de interagir conosco de maneira significativa.
Em conclusão, as alucinações da IA são um desafio que devemos enfrentar em nosso caminho para a integração total da IA em nossa sociedade. No entanto, eles também nos oferecem uma visão única de como essas máquinas aprendem e compreendem o mundo, o que é fascinante por si só.
Susana é uma profissional destacada em marketing e comunicação, criadora de conteúdo e especialista em SEO. Ela é formada em Psicologia pela Universidade de Santiago de Compostela e tem um mestrado em Marketing e Comportamento do Consumidor pela Universidade de Granada e Universidade de Jaén. Além disso, compartilhou seus conhecimentos através de conferências e workshops. Com ampla experiência em estratégias de marketing e comunicação, Susana conseguiu otimizar a visibilidade e o posicionamento das marcas através de técnicas de SEO.
