A nova função de memória do ChatGPT: Inovação ou ameaça à privacidade?
A OpenAI, a organização de inteligência artificial (IA) responsável pelo chatbot ChatGPT, incorporou uma função de memória em seu sistema. Esta característica, embora seja opcional por padrão, gerou algumas preocupações sobre a privacidade e o manuseio de dados pessoais.
A função de memória do ChatGPT pode ser desativada pelo usuário a qualquer momento. As informações excluídas não são usadas para treinar o modelo de IA. No entanto, persiste a incerteza sobre a quantidade de dados pessoais que são usados para treinar a IA durante as conversas. Além disso, a desativação da memória não implica necessariamente que se renunciou ao uso das conversas para o treinamento do modelo da OpenAI.
Que tipo de informação o ChatGPT armazena?
A OpenAI garantiu que certas informações sensíveis não serão armazenadas na memória do ChatGPT. Por exemplo, se uma senha ou um número de segurança social for fornecido ao chatbot, o aplicativo esquecerá esses dados. No entanto, a OpenAI está coletando opiniões sobre se outros tipos de informações pessoais, como a etnia do usuário, deveriam ser consideradas muito sensíveis para serem coletadas automaticamente.
A memória nos chatbots: uma arma de dois gumes
Existem potenciais problemas com a função de memória do ChatGPT. Por exemplo, um usuário pode esquecer que consultou o chatbot sobre um tema delicado e depois ser lembrado disso. Além disso, a maneira como o ChatGPT lida com os dados de saúde ainda é uma questão não resolvida.
A OpenAI não é a única entidade que experimenta com a memória na IA gerativa. O Google destacou a tecnologia “multi-turn” no Gemini 1.0, seu próprio modelo de linguagem. Da mesma forma, a LangChain tem trabalhado em um módulo de memória que ajuda os modelos de linguagem a lembrar interações anteriores.
A memória nos chatbots pode ser uma espada de dois gumes. Por um lado, a memória de longo prazo pode ser muito poderosa para criar experiências únicas. Por outro lado, a falta de memória de longo prazo pode gerar uma experiência desagradável.
Esta tecnologia beneficia mais as empresas do que os usuários?
Finalmente, abre-se um debate sobre se essa tecnologia beneficia mais a empresa de tecnologia do que os usuários. Seria um assistente virtual hipervigilante ou um esquema de captura de dados? A OpenAI sustenta que os assistentes do passado simplesmente não tinham a inteligência necessária, e que agora está sendo alcançada. No entanto, a questão da privacidade e o uso de dados pessoais continua sendo um tema de discussão importante no campo da IA.
Sarah é, além de uma especialista em marketing digital, uma criadora de conteúdo com vasta experiência no campo. Graduada em Sociologia pela Universidade de Barcelona e com uma Pós-graduação em Marketing Digital pelo Inesdi, Sarah conseguiu se destacar como Diretora de Marketing Digital. Seu profundo conhecimento das tendências digitais e sua habilidade para identificar oportunidades de crescimento foram fundamentais para o sucesso de inúmeras campanhas. Além disso, ela dá aulas e palestras em prestigiosas escolas de negócios, universidades e eventos, compartilhando seus conhecimentos e experiências com outros profissionais e estudantes.
