O surgimento da Inteligência Artificial e seu impacto no conteúdo digital
No último ano, a crescente popularidade dos modelos generativos de Inteligência Artificial (IA) trouxe consigo uma proliferação de deepfakes criados por IA, pornografia não consentida e violações de direitos autorais. A marca d’água – uma técnica que consiste em ocultar um sinal em um texto ou imagem para identificá-lo como gerado por IA – tornou-se uma proposta muito popular para conter esses danos.
As grandes empresas de tecnologia comprometidas com o combate à desinformação
Em julho, a Casa Branca anunciou que obteve compromissos voluntários das principais empresas do setor de IA como OpenAI, Google e Meta para desenvolver ferramentas com marcas d’água. O objetivo é combater a desinformação e o uso indevido de conteúdo gerado por IA.
Google DeepMind: pioneiros na proteção de conteúdo digital
Durante sua conferência anual I/O realizada em maio, Sundar Pichai – CEO do Google – afirmou que estão construindo seus modelos incluindo desde o início técnicas como marcas invisíveis. Tradicionalmente, essas marcas são adicionadas às imagens por meio de sobreposições visíveis ou incorporadas aos metadados das mesmas. No entanto, esse método pode ser frágil, pois a marca pode se perder quando as imagens são cortadas, redimensionadas ou editadas.
SynthID: Uma nova forma eficaz e resistente a sabotagens
O SynthID foi criado utilizando duas redes neurais. Uma delas pega a imagem original e produz outra quase idêntica, porém com alguns pixels modificados sutilmente; isso cria um padrão embutido invisível ao olho humano. A segunda rede neural detecta esse padrão e informa se encontra uma marca invisível suspeita ou determina que não existe tal marca.
Apesar do avanço significativo representado pelo SynthID, ainda existem desafios pendentes relacionados à sua implementação efetiva, bem como questões éticas sobre quem deveria ter acesso a essa tecnologia avançada sem comprometer nossa privacidade e confiança online.
Clara é criadora e editora de conteúdo, com sólida formação em ciências e especialização em inteligência artificial. Sua paixão por este campo em constante evolução levou-a a adquirir os conhecimentos necessários para entender e comunicar os avanços mais recentes nesta área. Com sua experiência e habilidades em redação e edição de conteúdo, Clara é capaz de transmitir de maneira clara e eficaz conceitos complexos relacionados à inteligência artificial, tornando-os acessíveis a todos os tipos de públicos.
