La menace croissante de la désinformation alimentée par l’IA
Dans le monde numérique actuel, un nouveau problème se pose : la désinformation générée par l’intelligence artificielle (IA). Une étude récente a découvert que cette technologie est plus rapide, économique et efficace pour générer de la désinformation comparativement aux humains.
L’expérience : Comparaison entre l’IA et les humains dans la production de fausses nouvelles
Pour évaluer notre susceptibilité face à différents types de texte, Giovanni Spitale, chercheur à l’université de Zurich, a dirigé une équipe qui a sélectionné deux sujets courants dans le domaine de la désinformation: le changement climatique et le covid. En utilisant GPT-3 développé par OpenAI – une IA capable de produire des textes cohérents -, ils ont généré des tweets aussi bien vrais que faux. Simultanément, ils ont collecté un échantillon aléatoire de tweets vrais et faux directement depuis Twitter.
Le processus expérimental consistait à recruter en ligne 697 personnes pour participer à un quiz où elles devaient identifier si les tweets présentés avaient été générés par IA ou récupérés sur Twitter. Les résultats étaient surprenants : les participants étaient 3% moins susceptibles de croire aux tweets faux écrits par des humains que ceux écrits par IA.
Raisons potentielles derrière ce phénomène
Pourquoi cela se produit-il? Une explication possible réside précisément dans la façon dont GPT-3 présente l’information. L’ordre structuré avec lequel ce modèle organise ses textures peut être une influence clé pour convaincre le lecteur.
Face aux conséquences alarmantes
Les répercussions possibles sont alarmantes. La prolifération de l’utilisation abusive de l’IA parmi les acteurs malveillants pourrait conduire à des campagnes rapides et économiques basées sur des textes faussement convaincants. Des modèles comme GPT-3 peuvent facilement devenir des outils puissants pour manipuler l’opinion publique et même influencer les élections politiques.
Face à ce scénario préoccupant, une question inévitable se pose : quelles sont nos armes contre ce problème ? Bien qu’il existe des détecteurs automatiques spécialement conçus pour identifier le contenu généré artificiellement, ceux-ci en sont encore à un stade de développement précoce et ne sont pas entièrement précis.
OpenAI est conscient de la menace éthique associée à ses modèles avancés tels que GPT-3 ; ils savent qu’ils pourraient être utilisés pour produire des campagnes massives, mais préviennent qu’il est presque impossible d’assurer leur utilisation correcte en tout temps. Ce dilemme soulève de nouvelles questions sur le rôle éthique et moral dans le développement technologique contemporain.
Notre lutte contre les fausses nouvelles était déjà compliquée auparavant ; maintenant nous sommes également confrontés au défi supplémentaire représenté par les machines intelligentes capables non seulement de reproduire, mais aussi de surpasser nos compétences persuasives naturelles.
Sandra est spécialiste en marketing digital et experte en réseaux sociaux. Elle a obtenu un post-diplôme en Communication et RP pour les marques de mode à Idep Barcelone, ainsi qu'un autre en Marketing et réputation en ligne : communautés virtuelles. Sandra est au courant des dernières tendances et des meilleures pratiques sur les réseaux sociaux, ce qui se reflète dans son travail quotidien en générant un impact positif dans le monde numérique.
Cette entrée est également disponible dans : Español Português
