OpenAI refuerza la seguridad de sus herramientas de IA
OpenAI, la prestigiosa organización de inteligencia artificial (IA) con sede en San Francisco, ha anunciado la implementación de nuevas medidas de seguridad para sus herramientas de IA. El objetivo principal es combatir la desinformación en el contexto de las próximas elecciones que se celebrarán en diversos países.
Hasta la fecha, OpenAI ha puesto en marcha una serie de medidas para garantizar el uso seguro y ético de sus herramientas. Entre ellas destaca una función de «reporte» que permite a los usuarios señalar posibles violaciones de los GPT personalizados. Además, la organización ha prohibido el uso de GPTs que puedan suplantar a personas o instituciones reales.
Nuevas contramedidas y colaboraciones
Las recientes contramedidas anunciadas por OpenAI incluyen el acceso a noticias en tiempo real a través de ChatGPT. Esta herramienta permitirá a los usuarios obtener información actualizada y verificada. Además, OpenAI ha establecido asociaciones con medios de comunicación reconocidos como Associated Press y Axel Springer para garantizar la veracidad del contenido generado por sus herramientas. También se implementarán las credenciales de imagen del C2PA en DALL-E 3, aunque no se ha especificado una fecha concreta para esta implementación.
En cuanto a las futuras herramientas, OpenAI está desarrollando un «clasificador de procedencia» que permitirá detectar imágenes generadas por DALL-E. Las pruebas internas han mostrado resultados prometedores y se espera que esté disponible para un primer grupo de probadores en un futuro cercano.
La IA en el ámbito político y el desafío de la desinformación
Es importante destacar que la IA ya está siendo utilizada en el ámbito político. Activistas y organizaciones políticas utilizan estas tecnologías para crear mensajes persuasivos e incluso imitar a candidatos rivales.
No obstante, existe cierta incertidumbre sobre si las herramientas de OpenAI serán suficientes para combatir la desinformación. A pesar de que algunas personas pueden usar estas herramientas de manera malintencionada o engañosa, OpenAI sigue comprometida con su misión de promover la verdad y la precisión.
En VentureBeat, nuestro objetivo es ser un espacio digital para que los responsables técnicos adquieran conocimientos sobre tecnología empresarial transformadora. Continuaremos siguiendo de cerca los desarrollos en el campo de la IA y su impacto en nuestra sociedad.
Susana es una profesional destacada en marketing y comunicación, creadora de contenido y experta en SEO. Es licenciada en Psicología por la Universidad de Santiago de Compostela y cuenta con un máster en Marketing y Comportamiento del Consumidor de la Universidad de Granada y la Universidad de Jaén. Además, ha compartido sus conocimientos a través de conferencias y workshops.
Con amplia experiencia en estrategias de marketing y comunicación, Susana ha logrado optimizar la visibilidad y el posicionamiento de las marcas a través de técnicas de SEO.
