OpenAI prohíbe el uso de su tecnología en contextos políticos
OpenAI, la organización de inteligencia artificial (IA) con sede en San Francisco, ha establecido una prohibición sobre el uso de su tecnología para la creación de chatbots que imiten a candidatos políticos o difundan información falsa relacionada con la votación. Esta política también se aplica a la construcción de aplicaciones para campañas políticas o lobbying.
La controversia del chatbot de la campaña de Kennedy
La decisión de OpenAI surge en el contexto de la reciente controversia en torno al chatbot de la campaña de Kennedy, vinculado a LiveChatAI, una empresa que ofrece chatbots de atención al cliente impulsados por GPT-4 y GPT-3.5. LiveChatAI utiliza una variedad de tecnologías, incluyendo Llama y Mistral, además de GPT-3.5 y GPT-4. Sin embargo, la empresa no ha confirmado ni negado los detalles específicos del uso de sus clientes debido a su compromiso con la confidencialidad.
OpenAI no tiene constancia de que el chatbot de la campaña de Kennedy esté construido directamente sobre sus servicios. Sin embargo, sospecha que LiveChatAI podría estar utilizando uno de sus modelos a través de los servicios de Microsoft, que ha invertido más de $13 mil millones en OpenAI desde 2019.
El chatbot de Kennedy, según se informa, utiliza las capacidades del servicio OpenAI de Microsoft Azure. Los clientes de Microsoft no están sujetos a los términos de servicio de OpenAI, lo que significa que el chatbot de Kennedy no viola las políticas de Microsoft.
El debate sobre el uso de chatbots en política
El uso de chatbots en contextos políticos es un tema de debate debido a su propensión a generar respuestas erróneas. OpenAI es el único modelo de lenguaje grande que prohíbe explícitamente su uso en campañas. Otras empresas de tecnología como Meta, Microsoft, Google y Mistral tienen términos de servicio, pero no abordan directamente la política.
La cuestión que surge ahora es cómo OpenAI hará cumplir sus políticas dada la naturaleza distribuida de esta tecnología.
En un giro reciente de los acontecimientos, el servicio de chatbot ya no estaba disponible el domingo por la tarde. WIRED contactó a Microsoft, OpenAI, LiveChatAI y la campaña de Kennedy para comentar sobre la aparente eliminación del chatbot, pero no recibió una respuesta inmediata.
En resumen, la prohibición de OpenAI de usar su tecnología en contextos políticos pone de relieve las preocupaciones éticas y de privacidad que rodean el uso de la IA en la política. A medida que la tecnología avanza, las empresas y los reguladores tendrán que trabajar juntos para garantizar que se utilice de manera responsable y transparente.
Sarah es además de experta en marketing digital, creadora de contenido con amplia experiencia en el campo. Graduada en Sociología por la Universidad de Barcelona y con un Postgrado en Marketing Digital en Inesdi, Sarah ha logrado destacarse como Directora de Marketing Digital.
Su profundo conocimiento de las tendencias digitales y su habilidad para identificar oportunidades de crecimiento han sido fundamentales para el éxito de numerosas campañas. Además, imparte clases y conferencias en prestigiosas escuelas de negocio, universidades y eventos, compartiendo sus conocimientos y experiencias con otros profesionales y estudiantes.
