IA dans l’Éducation : Avantages et Risques
À l’ère de la digitalisation et de l’intelligence artificielle (IA), des services éducatifs tels que Ello et Khanmigo de Khan Academy obtiennent les meilleures notes. Ello, qui utilise la reconnaissance vocale pour agir comme tuteur de lecture, et Khanmigo, qui permet aux parents de surveiller les interactions de l’enfant et envoie une notification si les algorithmes de modération de contenu détectent une violation des normes communautaires, sont à la pointe de l’intégration efficace de l’IA dans le domaine éducatif.
De son côté, OpenAI a amélioré son chatbot, ChatGPT, le rendant moins susceptible de générer du texte potentiellement nuisible pour les enfants que lorsqu’il a été lancé pour la première fois l’année dernière. Bien qu’il soit recommandé pour les éducateurs et les étudiants plus âgés, il existe encore des préoccupations concernant sa sécurité pour les utilisateurs plus jeunes.
Applications Controversées et Préoccupations en matière de Sécurité
Cependant, toutes les applications d’IA n’ont pas été bien accueillies. My AI de Snapchat, Dall-E 2 d’OpenAI et Stable Diffusion de Stability AI ont reçu de faibles notes en raison de leurs implications potentiellement nuisibles. Les images générées par ces applications peuvent renforcer les stéréotypes, propager des deepfakes et représentent souvent les femmes et les filles de manière hypersexualisée. De plus, Dall-E 2 a été critiqué pour générer des images caricaturales ou associées à la pauvreté lorsqu’on lui demande de créer des images photoréalistes de personnes riches de couleur. Stable Diffusion représente un risque «inconcevable» pour les enfants.
Common Sense Media avertit que ces générateurs d’images ont le pouvoir d’«éroder la confiance au point où la démocratie ou les institutions civiques ne peuvent pas fonctionner». L’organisation prévoit de réaliser des milliers de revues d’IA dans les mois et années à venir pour garantir la sécurité et l’efficacité de ces technologies.
Répercussions Juridiques et Nécessité d’une Plus Grande Sensibilisation
Ces notes et revues ont été publiées peu après que les procureurs généraux des États aient intenté une action en justice contre Meta pour avoir mis en danger les enfants. Cela se produit à un moment où les parents et les enseignants commencent à considérer le rôle de l’IA générative dans l’éducation.
Dans ce contexte, le décret sur l’IA du président Joe Biden exige que le secrétaire à l’éducation publie des directives sur l’utilisation de la technologie dans l’éducation dans l’année à venir. Cette mesure vise à garantir que les applications d’IA soient utilisées de manière sûre et efficace dans le domaine éducatif.
En attendant, certains parents comme Susan Mongrain-Nock, mère de deux enfants à San Diego, ont des préoccupations concernant sa fille de 15 ans qui voit du contenu nuisible sur Snapchat. Bien qu’elle ait essayé de construire la confiance en parlant avec sa fille de ce qu’elle voit sur Snapchat et TikTok, elle affirme qu’elle connaît peu le fonctionnement de l’intelligence artificielle et accueille favorablement les nouvelles ressources. Ce cas reflète le besoin urgent d’une plus grande sensibilisation et compréhension des implications de l’IA dans notre vie quotidienne.
Clara est créatrice et éditrice de contenus, avec une solide formation en sciences et une spécialisation en intelligence artificielle. Sa passion pour ce domaine en constante évolution l'a amenée à acquérir les connaissances nécessaires pour comprendre et communiquer les avancées les plus récentes dans ce domaine. Grâce à son expérience et à ses compétences en rédaction et édition de contenus, Clara est capable de transmettre de manière claire et efficace des concepts complexes liés à l'intelligence artificielle et ainsi les rendre accessibles à tous types de publics.
Cette entrée est également disponible dans : Español Português
