OpenAI e a Personalização de Modelos de Linguagem
OpenAI, a prestigiosa organização dedicada à pesquisa em inteligência artificial, inaugurou uma nova era de possibilidades ao permitir que os usuários criem e publiquem versões personalizadas de seu modelo de linguagem, ChatGPT. Essas versões, conhecidas como “GPTs”, foram projetadas com diversos propósitos, desde fornecer conselhos sobre trabalho e vida remota até buscar respostas em milhões de documentos acadêmicos.
Um GPT “nômade” que oferece conselhos sobre trabalho e vida remota é um exemplo notável. Outro modelo se orgulha de poder pesquisar em 200 milhões de documentos acadêmicos para responder perguntas. Há até mesmo um que pode transformá-lo em um personagem da Pixar. No entanto, esses chatbots personalizados não estão isentos de problemas.
Os Riscos da Personalização
Os GPTs personalizados podem ser manipulados para revelar informações sensíveis. Pesquisadores conseguiram fazer com que os chatbots revelassem as instruções iniciais que lhes foram dadas durante sua criação. Além disso, conseguiram acessar e baixar os arquivos usados para personalizar os chatbots, colocando em risco informações pessoais ou dados proprietários.
Jiahao Yu, pesquisador em ciências da computação, destaca a importância de levar a sério as preocupações sobre o vazamento de arquivos. Mesmo que estes não contenham informações sensíveis, podem abrigar conhecimentos que o designer preferiria manter em privado.
Yu e sua equipe examinaram mais de 200 GPTs personalizados, descobrindo que é relativamente fácil extrair informações deles. Eles alcançaram uma taxa de sucesso de 100% no vazamento de arquivos e 97% na extração do sistema prompt.
O Processo de Criação e suas Implicações
Criar um GPT personalizado é um processo simples por design. Os assinantes da OpenAI podem criá-los para uso pessoal ou publicá-los na web. A OpenAI tem planos para que os desenvolvedores possam monetizar suas criações dependendo de quantas pessoas utilizem os GPTs.
O processo de criação envolve indicar ao ChatGPT o que se deseja que o bot personalizado faça. Devem ser fornecidas instruções sobre o que o bot deve ou não fazer, e podem ser carregados documentos com informações específicas para dar ao chatbot mais experiência. Conectar APIs de terceiros a um GPT personalizado pode ajudar a aumentar os dados aos quais ele pode acessar e as tarefas que pode completar.
Em conclusão, a personalização de GPTs abre um mundo de possibilidades, mas também apresenta sérios desafios em termos de segurança e privacidade. É essencial que tanto os criadores quanto os usuários estejam cientes desses riscos e tomem as medidas adequadas para proteger suas informações e suas criações.
Clara é criadora e editora de conteúdo, com sólida formação em ciências e especialização em inteligência artificial. Sua paixão por este campo em constante evolução levou-a a adquirir os conhecimentos necessários para entender e comunicar os avanços mais recentes nesta área. Com sua experiência e habilidades em redação e edição de conteúdo, Clara é capaz de transmitir de maneira clara e eficaz conceitos complexos relacionados à inteligência artificial, tornando-os acessíveis a todos os tipos de públicos.
