O problema do pornô deepfake não consensual na era digital
Atualmente, estamos imersos em uma era digital onde as mulheres estão cada vez mais afetadas por um problema em crescimento: o pornô deepfake não consensual. A inteligência artificial (IA) tem sido um fator determinante para agravar essa situação, pois os sistemas de última geração facilitam a criação de imagens convincentes.
Sistemas IA de imagem para imagem
Os sistemas IA de imagem para imagem permitem modificar imagens existentes por meio da IA generativa. Essas representações são extremamente detalhadas e nítidas porque se baseiam em uma única fotografia de alta resolução.
Ferramentas contra o abuso AI: PhotoGuard e Glaze
Frente a essa ameaça emergente, pesquisadores do MIT desenvolveram o PhotoGuard, uma ferramenta projetada para funcionar como escudo protetor para fotos. Ela modifica sutilmente as imagens com o objetivo de prevenir sua manipulação por modelos AI generativos. Quando eles tentam alterar essas imagens “imunizadas”, os resultados tendem a ser pouco realistas ou deformados.
Simultaneamente ao desenvolvimento do PhotoGuard, Zhao e sua equipe da Universidade de Chicago criaram o Glaze; uma ferramenta destinada a proteger obras artísticas com direitos autorais contra seu uso indevido em conjuntos de dados para treinamento de modelos AI sem compensação ou crédito adequados. O Glaze “camufla” as imagens realizando mudanças sutis apenas perceptíveis, mas suficientemente significativas para evitar que o modelo AI aprenda características definidoras do estilo do artista e interrompe o processo generativo impedindo a produção infinita de obras similares.
Lançamento online e limitações
“Atualmente existe online uma demonstração funcional do PhotoGuard trabalhando junto com o Stable Diffusion, enquanto o Glaze estará disponível em breve após concluir seus testes beta; durante a próxima semana serão aceitas um número limitado de inscrições.”
No entanto, essas ferramentas apresentam certas limitações e não são completamente eficazes por si só; existem possíveis alternativas como fazer capturas de tela da imagem protegida. Para combater abusos/manipulações usando IA de forma eficaz, é necessário que empresas tecnológicas adotem mais amplamente essas medidas.
O panorama atual deixa nossas imagens online expostas a qualquer indivíduo desejoso de manipulá-las por meio da IA. É crucial continuar explorando novas formas inovadoras e integrativas para manter nossa segurança digital diante desse novo tipo de invasão à privacidade emergente e preocupante.
Susana é uma profissional destacada em marketing e comunicação, criadora de conteúdo e especialista em SEO. Ela é formada em Psicologia pela Universidade de Santiago de Compostela e tem um mestrado em Marketing e Comportamento do Consumidor pela Universidade de Granada e Universidade de Jaén. Além disso, compartilhou seus conhecimentos através de conferências e workshops. Com ampla experiência em estratégias de marketing e comunicação, Susana conseguiu otimizar a visibilidade e o posicionamento das marcas através de técnicas de SEO.
