Nova York apresenta um Plano de Ação de Inteligência Artificial
A cidade de Nova York, conhecida mundialmente como a cidade que nunca dorme, deu um passo à frente na regulamentação da tecnologia emergente com a apresentação de um ambicioso Plano de Ação de Inteligência Artificial (IA). Este plano, composto por cerca de 40 iniciativas políticas, tem como principal objetivo proteger os residentes de possíveis danos derivados do uso desta tecnologia, como o viés ou a discriminação.
O Plano de Ação estabelece padrões para a IA que será adquirida pelas agências municipais e cria novos mecanismos para avaliar o risco associado ao uso da IA nos departamentos municipais. Esta abordagem proativa busca garantir um uso justo e transparente desta tecnologia.
Proposta para um Escritório de Integridade de Dados Algorítmicos
A vereadora Jennifer Gutiérrez propôs uma expansão desta regulamentação por meio de uma legislação que permita a criação de um Escritório de Integridade de Dados Algorítmicos. Este escritório atuaria como um defensor do povo para os algoritmos, avaliando os sistemas de IA antes de sua implementação pelo governo municipal.
Gutiérrez também apoia a implementação de testes obrigatórios para os algoritmos utilizados pelo governo municipal. Por outro lado, vários departamentos demonstraram interesse em utilizar software de IA para tarefas administrativas. No entanto, existem preocupações sobre o uso crescente e potencialmente invasivo de tecnologias como cães robóticos e reconhecimento facial.
Avanços e desafios na regulamentação da IA
Nova York tem estado na vanguarda da regulamentação da IA, com uma força-tarefa formada em 2018. Este ano, foi promulgada uma lei que exige que os algoritmos utilizados em contratações sejam revisados para detectar possíveis vieses. No entanto, algumas proteções foram reduzidas, como o cancelamento de uma ordem executiva que criava um Oficial de Gestão e Política de Algoritmos.
Apesar desses avanços, Gutiérrez admite que ainda não tem uma compreensão completa dos algoritmos utilizados pelas agências municipais. Uma auditoria estadual descobriu que a cidade tem uma abordagem ad hoc e incompleta para a governança da IA. A auditoria adverte que isso significa que a cidade não pode garantir que seu uso da IA seja transparente, preciso, imparcial e evite impactos díspares.
Em conclusão, embora Nova York esteja tomando medidas proativas para regular o uso da IA em suas agências governamentais, ainda há muito trabalho a ser feito para garantir um uso justo e transparente desta tecnologia. A proposta de Gutiérrez para um Escritório de Integridade de Dados Algorítmicos poderia ser um passo importante nesta direção.
Sandra é especialista em marketing digital e experta em redes sociais. Ela completou uma pós-graduação em Comunicação e RP para marcas de moda no Idep Barcelona, além de outra em Marketing e reputação online: comunidades virtuais. Sandra está a par das últimas tendências e melhores práticas em redes sociais, e isso se reflete em seu trabalho diário, gerando um impacto positivo no mundo digital.
