Google desativa sua IA Gemini após acusações de viés racial e de gênero
Google suspendeu a geração de imagens de seu último modelo de inteligência artificial (IA), Gemini, em resposta às críticas recebidas por viés racial e de gênero. O modelo, que gerava imagens de mulheres e pessoas de cor para representar figuras históricas que costumam ser brancas e masculinas, tem sido objeto de controvérsia. O Google pediu desculpas publicamente e se comprometeu a trabalhar em melhorias para prevenir esse tipo de problema no futuro.
Acusações de viés ideológico na IA do Google
A polêmica surgiu a partir das acusações que apontam o Google por mostrar um viés liberal em sua IA. Algumas vozes conservadoras nas redes sociais indicaram que Gemini parece favorecer uma visão de mundo mais progressista. Até o empresário Elon Musk criticou o Google Gemini, chamando-o de “super racista e sexista”.
Em resposta à polêmica, o Google iniciou projetos para mitigar os problemas detectados no Gemini. Alguns na empresa acreditam que a controvérsia reflete a falta de normas claras sobre o que é apropriado para os modelos de IA. O Google tentou no passado aumentar a diversidade nos resultados de seus algoritmos para combater esses problemas.
O desafio de evitar vieses na IA
O viés no Gemini é devido à técnica de ajuste fino usada para orientar as respostas do modelo. O Google tentou compensar os vieses comuns nos geradores de imagens devido a estereótipos culturais prejudiciais. Sem este ajuste, os geradores de imagens de IA mostram vieses, gerando imagens de pessoas brancas para representar profissões como médicos ou advogados, e pessoas negras para representar criminosos.
Alguns críticos sugerem que o Google pode ter lançado o Gemini de forma precipitada. A empresa tem tido dificuldades para encontrar o ritmo certo para lançar sua IA, e a qualidade do controle parece ter sido afetada em sua pressa para lançar o Gemini.
Os chatbots como Gemini e ChatGPT são ajustados através de um processo que envolve testes humanos e feedback. As respostas controversas do Gemini podem refletir que o Google buscou treinar seu modelo rapidamente e não realizou controles de comportamento suficientes. As perguntas hipotéticas usadas para testar o Gemini geralmente levam o chatbot a um território onde é difícil satisfazer a todos.
Em conclusão, o Google enfrenta um desafio importante para equilibrar a necessidade de evitar vieses prejudiciais em seus modelos de IA, ao mesmo tempo que satisfaz uma ampla gama de usuários com diferentes pontos de vista e expectativas. A controvérsia em torno do Gemini sublinha a importância deste desafio e a necessidade de uma abordagem cuidadosa e considerada para o desenvolvimento da IA.
Susana é uma profissional destacada em marketing e comunicação, criadora de conteúdo e especialista em SEO. Ela é formada em Psicologia pela Universidade de Santiago de Compostela e tem um mestrado em Marketing e Comportamento do Consumidor pela Universidade de Granada e Universidade de Jaén. Além disso, compartilhou seus conhecimentos através de conferências e workshops. Com ampla experiência em estratégias de marketing e comunicação, Susana conseguiu otimizar a visibilidade e o posicionamento das marcas através de técnicas de SEO.
