L’abus de l’Intelligence Artificielle dans l’exploitation des enfants
À l’ère numérique contemporaine, les experts alertent sur une tendance inquiétante : l’utilisation de l’intelligence artificielle (IA) pour produire des images hyper-réalistes d’abus sexuel sur les enfants. Les criminels utilisent des modèles génératifs d’IA en open source pour créer et diffuser ces images, ce qui soulève de sérieuses préoccupations quant au potentiel de cette technologie pour faciliter l’exploitation des enfants.
Découvertes alarmantes sur le web
Selon un rapport récent de la Internet Watch Foundation (IWF), sept URL contenant du matériel suspect généré par l’IA ont été identifiées. De plus, une enquête sur un forum du dark web a révélé près de 3 000 images générées par l’IA qui sont considérées comme illégales selon la loi britannique. Le contenu de ces images est effrayant, incluant des viols sur des bébés et des enfants en bas âge, des abus sur des enfants célèbres préadolescents et du contenu BDSM avec des adolescents.
Le rapport souligne également l’utilisation abusive de célébrités dans ce matériel. Les criminels manipulent numériquement les images pour faire en sorte que les célébrités ressemblent à des enfants ou semblent abuser des enfants. Cette utilisation abusive des images de célébrités n’est qu’un exemple supplémentaire de l’étendue alarmante de cette nouvelle forme d’exploitation.
La menace croissante des contrefaçons convaincantes
La vitesse à laquelle cette technologie se développe et son potentiel pour générer de nouveaux types d’images abusives sont une source de grande préoccupation. On a observé une augmentation du nombre d’images générées par l’IA par rapport aux images réelles trouvées en ligne. Cette découverte est cohérente avec les rapports d’autres groupes qui étudient la propagation du matériel d’abus sexuel sur les enfants (CSAM) en ligne.
Les générateurs d’images IA sont utilisés pour créer des contrefaçons convaincantes. Ces modèles sont formés avec de grands volumes d’images existantes, souvent obtenues sans permission. Les criminels font souvent référence à Stable Diffusion, un modèle IA fourni par Stability AI, et utilisent des versions anciennes de modèles IA qu’ils ajustent pour créer du matériel illégal.
La création et la distribution de ces images est un processus étonnamment simple. Les criminels alimentent le modèle avec des images d’abus existantes ou des photos de visages pour créer des images spécifiques. Ils échangent ensuite de nouvelles images de victimes existantes et font des demandes sur des individus spécifiques. Sur les forums du dark web, il y a des fils qui partagent des ensembles de visages de victimes.
Le besoin urgent de régulations plus strictes
Cet usage abusif et perturbant de la technologie IA souligne le besoin urgent de régulations plus strictes et de mesures préventives pour protéger les enfants. Il est impératif que les autorités, les entreprises technologiques et la société en général prennent des mesures pour combattre cette nouvelle forme d’exploitation infantile.
Sandra est spécialiste en marketing digital et experte en réseaux sociaux. Elle a obtenu un post-diplôme en Communication et RP pour les marques de mode à Idep Barcelone, ainsi qu'un autre en Marketing et réputation en ligne : communautés virtuelles. Sandra est au courant des dernières tendances et des meilleures pratiques sur les réseaux sociaux, ce qui se reflète dans son travail quotidien en générant un impact positif dans le monde numérique.
Cette entrée est également disponible dans : Español Português
