Amazon e a transparência na Inteligência Artificial
Amazon está analisando cuidadosamente o índice de transparência na Inteligência Artificial (IA), conforme afirmou Nathan Strauss, porta-voz da empresa. No entanto, Strauss sustenta que é muito cedo para avaliar a transparência de um modelo que ainda está em desenvolvimento. Por outro lado, Meta, a empresa matriz do Facebook, optou por não comentar sobre o recente relatório de Stanford e OpenAI não respondeu aos pedidos de declarações.
O segredo na IA: um obstáculo para o avanço científico
A IA está se tornando cada vez mais opaca à medida que sua influência cresce. Rishi Bommasani, estudante de doutorado em Stanford, destaca que a transparência na pesquisa foi um fator determinante para os avanços no reconhecimento de voz e imagem. Bommasani contrasta este fato com a tendência atual para o segredo no campo da IA.
O relatório de Stanford sugere que os modelos não precisam ser tão secretos por razões competitivas. Kevin Klyman, pesquisador de políticas em Stanford, argumenta que todos os modelos poderiam ser mais abertos sem perder competitividade frente aos seus rivais.
OLMo: um modelo de IA transparente
Alguns especialistas temem que esse segredo transforme a IA mais em uma disciplina impulsionada pelo lucro do que pela ciência. Jesse Dodge, cientista pesquisador do Allen Institute for AI (AI2), critica a falta de transparência nos sistemas gerativos atuais de IA.
O AI2 está trabalhando em um modelo de linguagem AI mais transparente chamado OLMo. Este modelo é treinado com dados provenientes da web, publicações acadêmicas, código, livros e enciclopédias. O conjunto de dados Dolma foi liberado sob a licença ImpACT do AI2. Quando o OLMo estiver pronto, o AI2 planeja liberar o sistema de IA e o código que o suporta.
Dodge destaca a importância do acesso aos dados que alimentam os modelos de IA. Sem um acesso direto, é praticamente impossível entender por que ou como um modelo pode realizar certas ações. Dodge argumenta que a ciência requer reprodutibilidade e critica a situação atual de segredo.
Com a ampla implementação dos modelos de IA, um pouco mais de abertura poderia ser muito benéfica. A transparência na IA não só permitiria uma maior compreensão e confiança nesses sistemas, mas também poderia impulsionar a inovação e o desenvolvimento neste campo tão crucial.
Sandra é especialista em marketing digital e experta em redes sociais. Ela completou uma pós-graduação em Comunicação e RP para marcas de moda no Idep Barcelona, além de outra em Marketing e reputação online: comunidades virtuais. Sandra está a par das últimas tendências e melhores práticas em redes sociais, e isso se reflete em seu trabalho diário, gerando um impacto positivo no mundo digital.
