Uma descoberta perturbadora: sites suspeitos e a IA
Tony Eastin, ex-membro da Força Aérea dos EUA e Meta, e entusiasta de investimentos, recentemente se deparou com um site de notícias que lhe pareceu suspeito. Graças à sua experiência e instinto, decidiu investigar mais a fundo.
Em colaboração com Sandeep Abraham, Eastin iniciou uma investigação que revelou que o site em questão era apenas a ponta do iceberg. Descobriram que este fazia parte de uma rede mais extensa que utilizava a inteligência artificial (IA) para gerar conteúdo sensacionalista ou “clickbait”. Esses sites se aproveitavam da reputação de meios de comunicação e marcas consolidadas, usando uma tática conhecida como “domain squatting” para adquirir URLs que anteriormente pertenciam a organizações de maior prestígio.
Implicações alarmantes e a ameaça da desinformação
As conclusões desta investigação são preocupantes. Eastin e Abraham suspeitam que a rede foi criada com fins lucrativos, mas temem que atores mal-intencionados possam usar essas táticas para espalhar desinformação e propaganda. Com o objetivo de conscientizar o público e os legisladores sobre essa ameaça, eles publicaram um relatório sobre suas descobertas e planejam publicar mais no futuro.
Um caso especialmente alarmante é o do Clayton County Register. O antigo site deste jornal agora faz parte da rede de sites de clickbait. Embora o site se apresente como o Clayton County Register, na verdade publica conteúdo financeiro gerado por IA. Ben Colman, CEO da Reality Defender, uma empresa dedicada a detectar e combater a desinformação online, confirmou que os artigos e imagens publicados no site são gerados por IA.
A IA e a geração de conteúdo: uma faca de dois gumes
Alguns dos artigos até admitem sua origem artificial, mencionando a Automated Insights, uma empresa que oferece tecnologia de geração de linguagem. No entanto, isso não minimiza a preocupação de que essas técnicas possam ser usadas para espalhar desinformação e propaganda.
Em conclusão, a pesquisa de Eastin e Abraham revelou uma rede de sites que usam IA para gerar conteúdo clickbait e se aproveitam da reputação de organizações mais prestigiosas. Essa descoberta destaca a necessidade de maior conscientização e regulamentação para prevenir a disseminação de desinformação e propaganda online.
Sandra é especialista em marketing digital e experta em redes sociais. Ela completou uma pós-graduação em Comunicação e RP para marcas de moda no Idep Barcelona, além de outra em Marketing e reputação online: comunidades virtuais. Sandra está a par das últimas tendências e melhores práticas em redes sociais, e isso se reflete em seu trabalho diário, gerando um impacto positivo no mundo digital.
