OpenAI reforça a segurança de suas ferramentas de IA
OpenAI, a prestigiosa organização de inteligência artificial (IA) sediada em San Francisco, anunciou a implementação de novas medidas de segurança para suas ferramentas de IA. O objetivo principal é combater a desinformação no contexto das próximas eleições que serão realizadas em vários países.
Até agora, a OpenAI implementou uma série de medidas para garantir o uso seguro e ético de suas ferramentas. Entre elas, destaca-se uma função de “relatório” que permite aos usuários sinalizar possíveis violações dos GPTs personalizados. Além disso, a organização proibiu o uso de GPTs que possam se passar por pessoas ou instituições reais.
Novas contramedidas e colaborações
As recentes contramedidas anunciadas pela OpenAI incluem o acesso a notícias em tempo real através do ChatGPT. Esta ferramenta permitirá aos usuários obter informações atualizadas e verificadas. Além disso, a OpenAI estabeleceu parcerias com meios de comunicação reconhecidos como Associated Press e Axel Springer para garantir a veracidade do conteúdo gerado por suas ferramentas. Também serão implementadas as credenciais de imagem do C2PA no DALL-E 3, embora não tenha sido especificada uma data concreta para esta implementação.
Em relação às futuras ferramentas, a OpenAI está desenvolvendo um “classificador de origem” que permitirá detectar imagens geradas pelo DALL-E. Os testes internos mostraram resultados promissores e espera-se que esteja disponível para um primeiro grupo de testadores em um futuro próximo.
A IA no âmbito político e o desafio da desinformação
É importante destacar que a IA já está sendo utilizada no âmbito político. Ativistas e organizações políticas usam essas tecnologias para criar mensagens persuasivas e até mesmo imitar candidatos rivais.
No entanto, existe alguma incerteza sobre se as ferramentas da OpenAI serão suficientes para combater a desinformação. Apesar de algumas pessoas poderem usar essas ferramentas de maneira mal-intencionada ou enganosa, a OpenAI continua comprometida com sua missão de promover a verdade e a precisão.
Na VentureBeat, nosso objetivo é ser um espaço digital para que os líderes técnicos adquiram conhecimento sobre tecnologia empresarial transformadora. Continuaremos acompanhando de perto os desenvolvimentos no campo da IA e seu impacto em nossa sociedade.
Susana é uma profissional destacada em marketing e comunicação, criadora de conteúdo e especialista em SEO. Ela é formada em Psicologia pela Universidade de Santiago de Compostela e tem um mestrado em Marketing e Comportamento do Consumidor pela Universidade de Granada e Universidade de Jaén. Além disso, compartilhou seus conhecimentos através de conferências e workshops. Com ampla experiência em estratégias de marketing e comunicação, Susana conseguiu otimizar a visibilidade e o posicionamento das marcas através de técnicas de SEO.
