OpenAI Explora la Generación de Contenido Explícito
OpenAI, la reconocida organización de investigación en inteligencia artificial (IA), ha sorprendido al público con la publicación de una documentación preliminar en la que se contempla la posibilidad de permitir la generación de contenido explícito y pornográfico a través de su tecnología. Esta propuesta supone un cambio significativo respecto a las políticas de uso actuales de OpenAI, que prohíben de manera estricta el contenido de naturaleza sexualmente explícita o sugerente.
La organización está estudiando la forma de proporcionar la capacidad de generar contenido NSFW (No Seguro Para el Trabajo) de manera responsable. Este tipo de contenido puede abarcar desde el erotismo hasta la violencia extrema, pasando por insultos y blasfemias no solicitadas. Sin embargo, aún no está claro si OpenAI permitirá únicamente texto erótico o también descripciones de violencia.
La Transparencia en el Desarrollo de la IA
En respuesta a las preguntas de WIRED, Grace McGuire, portavoz de OpenAI, afirmó que el documento es un intento de «aumentar la transparencia sobre el proceso de desarrollo». Sin embargo, no se proporcionaron detalles adicionales sobre la exploración de la generación de contenido explícito por parte de OpenAI.
Los Desafíos de la Moderación de Contenido y el Uso Ético de la IA
La pornografía generada por IA se ha convertido en una de las aplicaciones más problemáticas de la tecnología generativa de IA. El «deepfake porn», que utiliza IA para crear vídeos pornográficos falsos, es una herramienta común de acoso contra mujeres y niñas. En marzo, se informó sobre los primeros menores de EE.UU. arrestados por distribuir desnudos generados por IA sin consentimiento.
Danielle Keats Citron, profesora de la Universidad de Virginia, califica la posible inclusión de contenido explícito por parte de OpenAI como «alarmante«. Sin embargo, las políticas de uso de OpenAI prohíben la suplantación sin permiso, por lo que las imágenes no consensuadas seguirían estando prohibidas.
La moderación de contenido explícito es otra preocupación. No está claro si OpenAI podría moderar efectivamente la generación de contenido explícito para prevenir el mal uso de las herramientas. Un ejemplo de este problema lo encontramos en Microsoft, que tuvo que hacer cambios en una de sus herramientas de IA generativa después de que se utilizara para crear imágenes explícitas de la cantante Taylor Swift.
En conclusión, OpenAI está considerando la posibilidad de permitir contenido explícito en su tecnología de IA, lo que ha generado preocupaciones en cuanto a la moderación y el potencial mal uso de estas herramientas. A medida que la IA avanza, es crucial que se establezcan medidas de seguridad y éticas para prevenir el abuso y garantizar su uso responsable.
Sarah es además de experta en marketing digital, creadora de contenido con amplia experiencia en el campo. Graduada en Sociología por la Universidad de Barcelona y con un Postgrado en Marketing Digital en Inesdi, Sarah ha logrado destacarse como Directora de Marketing Digital.
Su profundo conocimiento de las tendencias digitales y su habilidad para identificar oportunidades de crecimiento han sido fundamentales para el éxito de numerosas campañas. Además, imparte clases y conferencias en prestigiosas escuelas de negocio, universidades y eventos, compartiendo sus conocimientos y experiencias con otros profesionales y estudiantes.
