Questionamento à confiabilidade das ferramentas de governança da Inteligência Artificial
O Fórum Mundial de Privacidade lançou um relatório que questiona a eficácia e confiabilidade das ferramentas de governança da Inteligência Artificial (IA). O estudo revela que 38% das ferramentas analisadas apresentam «soluções defeituosas«, evidenciando uma deficiência nos mecanismos de garantia de qualidade. Além disso, foi detectado um uso inadequado de métodos de medição fora do caso de uso original.
Grandes empresas de tecnologia como Microsoft, IBM e Google lideram o desenvolvimento e disseminação dessas ferramentas. Um exemplo é a ferramenta AI Fairness 360 da IBM, promovida e utilizada pelo governo americano. No entanto, seu algoritmo «Disparate Impact Remover» tem sido objeto de críticas no meio acadêmico.
A falta de regulamentação e seu impacto
Pam Dixon, fundadora e diretora executiva do Fórum Mundial de Privacidade, aponta para uma ausência de requisitos estabelecidos para a garantia ou avaliação de qualidade. Esta situação pode propiciar um uso inadequado e não documentado das ferramentas em diferentes contextos.
As ferramentas de governança IA podem gerar uma falsa sensação de segurança e dar origem a problemas não previstos. No entanto, também representam uma oportunidade para melhorar o ecossistema de governança IA, especialmente após a aprovação do Ata AI EU e da Ordem Executiva AI do Presidente Biden. Essas ferramentas desempenharão um papel crucial na implementação de futuras leis e regulamentos AI.
Casos de mau uso e perspectivas de melhoria
Um caso ilustrativo de mau uso é a aplicação incorreta da regra dos 80% na lei trabalhista americana. Este exemplo evidencia a pressão sobre governos e organizações para criar legislação e regulamentos, mas também o risco de incorporar métodos problemáticos nas políticas.
Apesar dos desafios atuais, vislumbra-se um horizonte de melhorias para 2024. Organizações como a OCDE e o NIST estão dispostas a trabalhar neste sentido. Com um esforço conjunto, espera-se alcançar melhorias significativas em seis meses. A governança da IA é um campo em constante evolução, por isso é fundamental que as ferramentas utilizadas sejam eficazes, confiáveis e seguras.
Sarah é, além de uma especialista em marketing digital, uma criadora de conteúdo com vasta experiência no campo. Graduada em Sociologia pela Universidade de Barcelona e com uma Pós-graduação em Marketing Digital pelo Inesdi, Sarah conseguiu se destacar como Diretora de Marketing Digital. Seu profundo conhecimento das tendências digitais e sua habilidade para identificar oportunidades de crescimento foram fundamentais para o sucesso de inúmeras campanhas. Além disso, ela dá aulas e palestras em prestigiosas escolas de negócios, universidades e eventos, compartilhando seus conhecimentos e experiências com outros profissionais e estudantes.
