Novas Normativas para a Inteligência Artificial na China
O Comitê Técnico de Normalização de Segurança da Informação Nacional da China (TC260) apresentou um rascunho com normativas detalhadas para avaliar a problemática potencial dos modelos de Inteligência Artificial (IA) generativa. Este documento, que estabelece critérios claros e fornece métricas específicas, é considerado por especialistas como o mais concreto e específico em relação à regulamentação da IA generativa.
Critérios e Métricas para a IA Generativa
O rascunho do TC260 estabelece critérios claros sobre quando uma fonte de dados deve ser proibida para treinar IA generativa. Ele fornece métricas precisas sobre o número exato de palavras-chave e perguntas de amostra que devem ser preparadas para testar um modelo. Matt Sheehan, especialista em tecnologia global, considera este o documento mais concreto e específico relacionado à regulamentação da IA generativa até o momento.
Implicações para as Empresas e Regras Específicas
As implicações para as empresas são significativas. O documento fornece um guia sobre como cumprir as regulamentações da IA generativa e esclarece o que as empresas devem considerar como um “risco de segurança” nos modelos de IA.
Quanto às regras específicas, destaca-se que todos os modelos fundamentais de IA são atualmente treinados em muitos corpus (bancos de dados de texto e imagens), alguns dos quais têm viés e conteúdo não moderado. As normas do TC260 exigem que as empresas não apenas diversifiquem os corpus (misturando idiomas e formatos), mas também avaliem a qualidade de todos os seus materiais de treinamento.
Além disso, as empresas devem amostrar aleatoriamente 4.000 “pedaços de dados” de uma fonte. Se mais de 5% dos dados forem considerados “informações ilegais e negativas”, esse corpus deve ser incluído na lista negra para futuros treinamentos.
Em resumo, o rascunho do TC260 representa um passo importante na regulamentação da IA gerativa. Ele fornece às empresas um guia claro e específico sobre como cumprir as regulamentações e o que considerar como um risco de segurança. No entanto, também apresenta novos desafios, pois as empresas agora devem avaliar e diversificar seus corpus de treinamento, bem como amostrar e analisar grandes quantidades de dados para garantir a conformidade.
Clara é criadora e editora de conteúdo, com sólida formação em ciências e especialização em inteligência artificial. Sua paixão por este campo em constante evolução levou-a a adquirir os conhecimentos necessários para entender e comunicar os avanços mais recentes nesta área. Com sua experiência e habilidades em redação e edição de conteúdo, Clara é capaz de transmitir de maneira clara e eficaz conceitos complexos relacionados à inteligência artificial, tornando-os acessíveis a todos os tipos de públicos.
