IA na Educação: Benefícios e Riscos
Na era da digitalização e da inteligência artificial (IA), serviços educativos como Ello e Khanmigo da Khan Academy estão obtendo as notas mais altas. Ello, que utiliza o reconhecimento de voz para atuar como tutor de leitura, e Khanmigo, que permite aos pais monitorar as interações da criança e envia uma notificação se os algoritmos de moderação de conteúdo detectarem uma violação das normas comunitárias, estão liderando o caminho na integração efetiva da IA no âmbito educacional.
Por outro lado, a OpenAI melhorou seu chatbot, ChatGPT, tornando-o menos propenso a gerar texto potencialmente prejudicial para as crianças do que quando foi lançado pela primeira vez no ano passado. Embora seu uso seja recomendado por educadores e estudantes mais velhos, ainda existem preocupações sobre sua segurança para os usuários mais jovens.
Aplicações Polêmicas e Preocupações sobre Segurança
No entanto, nem todas as aplicações de IA foram bem recebidas. My AI do Snapchat, Dall-E 2 da OpenAI e Stable Diffusion da Stability AI receberam avaliações baixas devido às suas implicações potencialmente prejudiciais. As imagens geradas por esses aplicativos podem reforçar estereótipos, disseminar deepfakes e muitas vezes representam mulheres e meninas de maneiras hipersexualizadas. Além disso, Dall-E 2 foi criticado por gerar imagens caricatas ou associadas à pobreza quando solicitado a criar imagens fotorealistas de pessoas ricas de cor. Stable Diffusion representa um risco “inconcebível” para as crianças.
Common Sense Media adverte que esses geradores de imagens têm o poder de “erosionar a confiança a ponto de a democracia ou as instituições cívicas não poderem funcionar”. A organização planeja realizar milhares de revisões de IA nos próximos meses e anos para garantir a segurança e eficácia dessas tecnologias.
Repercussões Legais e Necessidade de Maior Conscientização
Essas classificações e revisões foram publicadas logo após os procuradores-gerais do estado apresentarem uma ação contra a Meta por colocar as crianças em perigo. Isso ocorre em um momento em que pais e professores estão começando a considerar o papel da IA generativa na educação.
Neste contexto, a ordem executiva sobre IA do presidente Joe Biden exige que o secretário de educação emita orientações sobre o uso da tecnologia na educação dentro do próximo ano. Esta medida busca garantir que as aplicações de IA sejam usadas de maneira segura e eficaz no ambiente educacional.
Enquanto isso, alguns pais como Susan Mongrain-Nock, mãe de dois filhos em San Diego, têm preocupações sobre sua filha de 15 anos vendo conteúdo prejudicial no Snapchat. Embora ela tenha tentado construir confiança conversando com sua filha sobre o que ela vê no Snapchat e TikTok, ela afirma que sabe pouco sobre como a inteligência artificial funciona e acolhe novos recursos. Este caso reflete a necessidade urgente de uma maior conscientização e compreensão sobre as implicações da IA em nossa vida cotidiana.
Clara é criadora e editora de conteúdo, com sólida formação em ciências e especialização em inteligência artificial. Sua paixão por este campo em constante evolução levou-a a adquirir os conhecimentos necessários para entender e comunicar os avanços mais recentes nesta área. Com sua experiência e habilidades em redação e edição de conteúdo, Clara é capaz de transmitir de maneira clara e eficaz conceitos complexos relacionados à inteligência artificial, tornando-os acessíveis a todos os tipos de públicos.
