OpenAI y la Personalización de Modelos de Lenguaje
OpenAI, la prestigiosa organización dedicada a la investigación en inteligencia artificial, ha inaugurado una nueva era de posibilidades al permitir a los usuarios crear y publicar versiones personalizadas de su modelo de lenguaje, ChatGPT. Estas versiones, conocidas como «GPTs», han sido diseñadas con diversos propósitos, desde proporcionar consejos sobre trabajo y vida remota hasta buscar respuestas en millones de documentos académicos.
Un GPT «nómada» que ofrece consejos sobre trabajo y vida remota es un ejemplo destacado. Otro modelo se jacta de poder buscar en 200 millones de documentos académicos para responder preguntas. Incluso existe uno que puede transformarte en un personaje de Pixar. Sin embargo, estos chatbots personalizados no están exentos de problemas.
Los Riesgos de la Personalización
Los GPTs personalizados pueden ser manipulados para revelar información sensible. Los investigadores han logrado hacer que los chatbots desvelen las instrucciones iniciales que se les dieron durante su creación. Además, han conseguido acceder y descargar los archivos utilizados para personalizar los chatbots, poniendo en riesgo información personal o datos propietarios.
Jiahao Yu, investigador en ciencias de la computación, subraya la importancia de tomar en serio las preocupaciones sobre la fuga de archivos. Aunque estos no contengan información sensible, pueden albergar conocimientos que el diseñador preferiría mantener en privado.
Yu y su equipo han examinado más de 200 GPTs personalizados, encontrando que es relativamente sencillo extraer información a partir de ellos. Lograron una tasa de éxito del 100% en la fuga de archivos y del 97% en la extracción del sistema prompt.
El Proceso de Creación y sus Implicaciones
Crear un GPT personalizado es un proceso sencillo por diseño. Los suscriptores de OpenAI pueden crearlos para uso personal o publicarlos en la web. OpenAI tiene planes para que los desarrolladores puedan monetizar sus creaciones dependiendo de cuántas personas utilicen los GPTs.
El proceso de creación implica indicar a ChatGPT lo que se desea que haga el bot personalizado. Se deben proporcionar instrucciones sobre lo que el bot debe o no debe hacer, y se pueden subir documentos con información específica para dotar al chatbot de mayor experiencia. Conectar APIs de terceros a un GPT personalizado puede ayudar a aumentar los datos a los que puede acceder y las tareas que puede completar.
En conclusión, la personalización de GPTs abre un mundo de posibilidades, pero también plantea serios desafíos en términos de seguridad y privacidad. Es esencial que tanto los creadores como los usuarios sean conscientes de estos riesgos y tomen las medidas adecuadas para proteger su información y sus creaciones.
Clara es creadora y editora de contenidos, con una sólida formación en ciencias y una especialización en inteligencia artificial. Su pasión por este campo en constante evolución la ha llevado a adquirir los conocimientos necesarios para comprender y comunicar los avances más recientes en este campo. Con su experiencia y habilidades en la redacción y edición de contenidos, Clara es capaz de transmitir de manera clara y efectiva conceptos complejos relacionados con la inteligencia artificial y de esta manera hacerlos accesibles para todo tipo de audiencias.
