A Integridade dos Dados em Foco
No dia 27 de março passado, a cidade de Boston sediou um importante evento de networking focado na integridade dos dados. Este encontro evidenciou um preocupante descompasso entre as intenções e as ações dos líderes de segurança em relação à proteção da Inteligência Artificial (IA) e das operações de Machine Learning (MLOps).
Apesar de 97% dos líderes de TI considerarem essencial a segurança da IA, apenas 61% confiam em obter o financiamento necessário para garantir isso. Este gap torna-se ainda mais evidente se considerarmos que 77% desses líderes já experimentaram algum tipo de violação relacionada à IA. De forma ainda mais alarmante, apenas 30% implementaram uma defesa manual contra ataques adversários.
A IA no Centro da Estratégia Empresarial
A crescente dependência dos líderes de TI nos modelos de IA é outro fator que contribui para este cenário. As empresas têm em média 1.689 modelos em produção e 98% consideram alguns de seus modelos de IA cruciais para o seu sucesso.
Neste contexto, o relatório da HiddenLayer sobre o panorama de ameaças da IA oferece uma análise crítica dos riscos enfrentados pelos sistemas baseados em IA, bem como dos avanços na segurança da IA e nas pipelines de MLOps.
Ameaças e Defesas no Mundo da IA
A IA adversária, que busca enganar os sistemas de IA e ML, se apresenta como uma das principais ameaças. Podem-se distinguir três classes de IA adversária: ataques de aprendizado de máquina, ataques a sistemas de IA generativa, e ataques a MLOps e à cadeia de fornecimento de software.
Diante deste cenário, os especialistas propõem quatro formas de se defender de um ataque de IA adversária. Em primeiro lugar, integrar o red teaming e a avaliação de riscos na memória organizacional. Em segundo lugar, manter-se atualizado e adotar o framework defensivo para a IA que melhor se adapte à organização. Em terceiro lugar, mitigar a ameaça de ataques baseados em dados sintéticos através da integração de modalidades biométricas e técnicas de autenticação sem senha. Finalmente, verificar frequentemente os sistemas de auditoria e manter atualizados os privilégios de acesso.
Em resumo, o evento de Boston destacou a necessidade de um maior compromisso e ação por parte dos líderes de TI na proteção da IA e das operações de MLOps. Apenas através de uma estratégia de segurança sólida e adaptada às ameaças atuais, as empresas poderão maximizar as vantagens da IA minimizando os riscos.
Sandra é especialista em marketing digital e experta em redes sociais. Ela completou uma pós-graduação em Comunicação e RP para marcas de moda no Idep Barcelona, além de outra em Marketing e reputação online: comunidades virtuais. Sandra está a par das últimas tendências e melhores práticas em redes sociais, e isso se reflete em seu trabalho diário, gerando um impacto positivo no mundo digital.
