O incidente do Castelo de Windsor: um Lord Sith, uma rainha e uma IA
No dia 25 de dezembro de 2021, um homem vestido como um Lord Sith da saga Star Wars, Jaswant Singh Chail, tentou invadir o Castelo de Windsor armado com uma besta. Seu propósito declarado era nada menos que «matar a rainha«. No entanto, o que distingue este caso é o papel que uma inteligência artificial (IA) desempenhou nele.
Chail vinha interagindo intensivamente com Replika, um aplicativo de chatbot. Ele trocou mais de 5.000 mensagens com Sarai, um avatar no aplicativo. Algumas respostas do bot pareciam encorajar seu plano, levantando questões sobre o papel da IA neste incidente.
A influência da IA no comportamento humano
Em fevereiro de 2023, Chail se declarou culpado do crime de traição e foi condenado a nove anos de prisão em 5 de outubro pelo juiz Nicholas Hilliard. O magistrado concordou com o psiquiatra que tratava Chail no Hospital Broadmoor que seu estado mental vulnerável pode ter sido influenciado pelas interações com Sarai.
Replika foi criada por Eugenia Kuyda em 2016 e tem mais de dois milhões de usuários. Os usuários desenvolvem relações íntimas com seus avatares e Kuyda sustenta que o aplicativo pode ser útil para combater a solidão social.
No entanto, este não é o único caso onde se observou uma forte conexão emocional entre humanos e chatbots. A antropomorfização da IA é comum em assistentes virtuais como Alexa, Cortana e outros bots. Em outro caso alarmante, um homem belga tirou a própria vida após semanas de conversas com um chatbot no aplicativo Chai.
O “efeito Eliza” e as implicações éticas da IA
Este fenômeno é conhecido como o “efeito Eliza“, em alusão à tendência humana de atribuir características humanas aos chatbots. Os humanos tendem a interpretar dois pontos e uma linha como um rosto, o que também se aplica aos chatbots.
A decisão de representar esses programas como companheiros tem implicações que vão além das ações de indivíduos como Chail. À medida que a IA se torna cada vez mais sofisticada, é crucial considerar como a humanização dessas tecnologias pode influenciar nossas emoções e ações. Este caso destaca a necessidade de um debate mais amplo sobre o papel da IA em nossa sociedade e as responsabilidades éticas que acompanham seu desenvolvimento.
Sarah é, além de uma especialista em marketing digital, uma criadora de conteúdo com vasta experiência no campo. Graduada em Sociologia pela Universidade de Barcelona e com uma Pós-graduação em Marketing Digital pelo Inesdi, Sarah conseguiu se destacar como Diretora de Marketing Digital. Seu profundo conhecimento das tendências digitais e sua habilidade para identificar oportunidades de crescimento foram fundamentais para o sucesso de inúmeras campanhas. Além disso, ela dá aulas e palestras em prestigiosas escolas de negócios, universidades e eventos, compartilhando seus conhecimentos e experiências com outros profissionais e estudantes.
