La nueva función de memoria de ChatGPT: ¿Innovación o amenaza a la privacidad?
OpenAI, la organización de inteligencia artificial (IA) responsable del chatbot ChatGPT, ha incorporado una función de memoria en su sistema. Esta característica, aunque es opcional por defecto, ha generado ciertas inquietudes en torno a la privacidad y el manejo de los datos personales.
La función de memoria de ChatGPT puede ser desactivada por el usuario en cualquier momento. La información eliminada no se utiliza para el entrenamiento del modelo de IA. Sin embargo, persiste la incertidumbre sobre la cantidad de datos personales que se emplean para entrenar la IA durante las conversaciones. Además, la desactivación de la memoria no implica necesariamente que se haya renunciado a la utilización de las conversaciones para el entrenamiento del modelo de OpenAI.
¿Qué tipo de información almacena ChatGPT?
OpenAI ha asegurado que cierta información sensible no se almacenará en la memoria de ChatGPT. Por ejemplo, si se proporciona al chatbot una contraseña o un número de seguridad social, la aplicación olvidará estos datos. No obstante, OpenAI está recabando opiniones sobre si otro tipo de información personal, como la etnia del usuario, debería ser considerada demasiado sensible para ser recogida automáticamente.
La memoria en los chatbots: un arma de doble filo
Existen potenciales problemas con la función de memoria de ChatGPT. Por ejemplo, un usuario puede olvidar que consultó al chatbot sobre un tema delicado y luego ser recordado de ello. Además, la forma en que ChatGPT maneja los datos de salud sigue siendo una cuestión sin resolver.
OpenAI no es la única entidad que experimenta con la memoria en la IA generativa. Google ha destacado la tecnología «multi-turn» en Gemini 1.0, su propio modelo de lenguaje. Asimismo, LangChain ha estado trabajando en un módulo de memoria que ayuda a los modelos de lenguaje a recordar interacciones previas.
La memoria en los chatbots puede ser una espada de doble filo. Por un lado, la memoria a largo plazo puede ser muy poderosa para crear experiencias únicas. Por otro lado, la falta de memoria a largo plazo puede generar una experiencia desagradable.
¿Beneficia esta tecnología más a las empresas que a los usuarios?
Finalmente, se abre un debate sobre si esta tecnología beneficia más a la empresa tecnológica que a los usuarios. ¿Es un asistente virtual hipervigilante o un esquema de captura de datos? OpenAI sostiene que los asistentes del pasado simplemente no tenían la inteligencia necesaria, y que ahora se está alcanzando. Sin embargo, la cuestión de la privacidad y el uso de los datos personales sigue siendo un tema de discusión importante en el campo de la IA.
Sarah es además de experta en marketing digital, creadora de contenido con amplia experiencia en el campo. Graduada en Sociología por la Universidad de Barcelona y con un Postgrado en Marketing Digital en Inesdi, Sarah ha logrado destacarse como Directora de Marketing Digital.
Su profundo conocimiento de las tendencias digitales y su habilidad para identificar oportunidades de crecimiento han sido fundamentales para el éxito de numerosas campañas. Además, imparte clases y conferencias en prestigiosas escuelas de negocio, universidades y eventos, compartiendo sus conocimientos y experiencias con otros profesionales y estudiantes.
