OpenAI Explora a Geração de Conteúdo Explícito
OpenAI, a renomada organização de pesquisa em inteligência artificial (IA), surpreendeu o público com a publicação de uma documentação preliminar na qual se contempla a possibilidade de permitir a geração de conteúdo explícito e pornográfico através de sua tecnologia. Esta proposta representa uma mudança significativa em relação às políticas de uso atuais da OpenAI, que proíbem estritamente conteúdo de natureza sexualmente explícita ou sugestiva.
A organização está estudando como fornecer a capacidade de gerar conteúdo NSFW (Não Seguro Para o Trabalho) de maneira responsável. Este tipo de conteúdo pode abranger desde o erotismo até a violência extrema, passando por insultos e blasfêmias não solicitadas. No entanto, ainda não está claro se a OpenAI permitirá apenas texto erótico ou também descrições de violência.
A Transparência no Desenvolvimento da IA
Em resposta às perguntas da WIRED, Grace McGuire, porta-voz da OpenAI, afirmou que o documento é uma tentativa de “aumentar a transparência sobre o processo de desenvolvimento”. No entanto, não foram fornecidos detalhes adicionais sobre a exploração da geração de conteúdo explícito por parte da OpenAI.
Os Desafios da Moderação de Conteúdo e o Uso Ético da IA
A pornografia gerada por IA tornou-se uma das aplicações mais problemáticas da tecnologia gerativa de IA. O “deepfake porn”, que utiliza IA para criar vídeos pornográficos falsos, é uma ferramenta comum de assédio contra mulheres e meninas. Em março, foi relatado sobre os primeiros menores nos EUA presos por distribuir nudes gerados por IA sem consentimento.
Danielle Keats Citron, professora da Universidade da Virgínia, classifica a possível inclusão de conteúdo explícito por parte da OpenAI como “alarmante“. No entanto, as políticas de uso da OpenAI proíbem a suplantação sem permissão, portanto, as imagens não consensuais continuariam a ser proibidas.
A moderação de conteúdo explícito é outra preocupação. Não está claro se a OpenAI poderia moderar efetivamente a geração de conteúdo explícito para prevenir o mau uso das ferramentas. Um exemplo deste problema encontramos na Microsoft, que teve que fazer alterações em uma de suas ferramentas de IA generativa depois que foi usada para criar imagens explícitas da cantora Taylor Swift.
Em conclusão, a OpenAI está considerando a possibilidade de permitir conteúdo explícito em sua tecnologia de IA, o que gerou preocupações quanto à moderação e ao potencial mau uso dessas ferramentas. À medida que a IA avança, é crucial que se estabeleçam medidas de segurança e éticas para prevenir o abuso e garantir seu uso responsável.
Sarah é, além de uma especialista em marketing digital, uma criadora de conteúdo com vasta experiência no campo. Graduada em Sociologia pela Universidade de Barcelona e com uma Pós-graduação em Marketing Digital pelo Inesdi, Sarah conseguiu se destacar como Diretora de Marketing Digital. Seu profundo conhecimento das tendências digitais e sua habilidade para identificar oportunidades de crescimento foram fundamentais para o sucesso de inúmeras campanhas. Além disso, ela dá aulas e palestras em prestigiosas escolas de negócios, universidades e eventos, compartilhando seus conhecimentos e experiências com outros profissionais e estudantes.
