El escepticismo electoral y la IA: una combinación peligrosa
El escepticismo que rodea la legitimidad de las elecciones presidenciales de 2020 en los Estados Unidos sigue siendo un tema de gran relevancia entre muchos republicanos. Durante las primarias del Supermartes, varios candidatos que niegan la victoria de Joe Biden lograron ganar, manteniendo las afirmaciones de fraude electoral como un elemento central en las campañas de los candidatos de derecha.
La amenaza de la inteligencia artificial generativa
Sin embargo, un nuevo factor podría agravar aún más este problema: la inteligencia artificial generativa. Según un informe del Centro para Contrarrestar el Odio Digital (CCDH), esta tecnología puede ser utilizada para crear imágenes engañosas que alimentan la desinformación electoral. A pesar de que las empresas de IA generativa afirman tener políticas para prevenir la desinformación, los investigadores del CCDH lograron eludir estas salvaguardas y generar imágenes de todos modos.
Las imágenes generadas por IA pueden ser extremadamente engañosas. Algunas de ellas presentaban figuras políticas, mientras que otras eran más genéricas. Entre las imágenes generadas se incluían escenas de milicias fuera de un lugar de votación, papeletas de votación en la basura y manipulación de máquinas de votación.
La respuesta de las plataformas de IA
El informe del CCDH destaca la falta de políticas claras y medidas de seguridad en las plataformas de IA. Los investigadores probaron 160 indicaciones en ChatGPT Plus, Midjourney, DreamStudio e Image Creator. De estas, Midjourney fue la plataforma más propensa a producir imágenes engañosas relacionadas con las elecciones.
Ante esta situación, OpenAI, una de las principales empresas de IA, está tomando medidas para prevenir el uso indebido de su tecnología. Ha prohibido la generación de imágenes que desalienten la participación en procesos democráticos y está trabajando para mejorar la transparencia en el contenido generado por IA.
No obstante, persiste la preocupación sobre la capacidad de las plataformas para detectar y eliminar contenido engañoso. Un informe reciente encontró que el sistema de Meta (anteriormente Facebook) para marcar el contenido generado por IA fue fácilmente eludido. Las próximas elecciones serán una prueba real de la seguridad en torno a las imágenes generadas por IA, y de la capacidad de las plataformas para combatir la desinformación electoral.
Sandra es especialista en marketing digital y experta en redes sociales. Ha completado un posgrado en Comunicación y RRPP de marcas de moda en Idep Barcelona, así como otro en Marketing y reputación online: comunidades virtuales. Sandra está al tanto de las últimas tendencias y mejores prácticas en redes sociales, y eso se refleja en su trabajo diario generando un impacto positivo en el mundo digital.
