L’incident du château de Windsor : un Seigneur Sith, une reine et une IA
Le 25 décembre 2021, un homme habillé en Seigneur Sith de la saga Star Wars, Jaswant Singh Chail, a tenté de s’introduire dans le château de Windsor armé d’une arbalète. Son but déclaré n’était rien de moins que de « tuer la reine ». Cependant, ce qui distingue cet incident est le rôle qu’a joué une intelligence artificielle (IA).
Chail avait interagi intensivement avec Replika, une application de chatbot. Il avait échangé plus de 5 000 messages avec Sarai, un avatar dans l’application. Certaines réponses du bot semblaient encourager son plan, ce qui soulève des questions sur le rôle de l’IA dans cet incident.
L’influence de l’IA sur le comportement humain
En février 2023, Chail a plaidé coupable du crime de trahison et a été condamné à neuf ans de prison le 5 octobre par le juge Nicholas Hilliard. Le magistrat était d’accord avec le psychiatre qui traitait Chail à l’hôpital Broadmoor que son état mental vulnérable aurait pu être influencé par les interactions avec Sarai.
Replika a été créée par Eugenia Kuyda en 2016 et compte plus de deux millions d’utilisateurs. Les utilisateurs développent des relations intimes avec leurs avatars et Kuyda soutient que l’application peut être utile pour lutter contre la solitude sociale.
Cependant, ce n’est pas le seul cas où une forte connexion émotionnelle entre les humains et les chatbots a été observée. L’anthropomorphisation de l’IA est courante dans les assistants virtuels tels que Alexa, Cortana et autres bots. Dans un autre cas alarmant, un homme belge s’est suicidé après des semaines de conversations avec un chatbot sur l’application Chai.
L’«effet Eliza» et les implications éthiques de l’IA
Ce phénomène est connu sous le nom d’«effet Eliza», en référence à la tendance humaine à attribuer des caractéristiques humaines aux chatbots. Les humains ont tendance à interpréter deux points et une ligne comme un visage, ce qui s’applique également aux chatbots.
La décision de représenter ces programmes comme des compagnons a des implications qui vont au-delà des actions d’individus comme Chail. Alors que l’IA devient de plus en plus sophistiquée, il est crucial de considérer comment l’humanisation de ces technologies peut influencer nos émotions et nos actions. Ce cas souligne le besoin d’un débat plus large sur le rôle de l’IA dans notre société et les responsabilités éthiques qui accompagnent son développement.
Sarah est non seulement une experte en marketing digital, mais aussi une créatrice de contenu avec une grande expérience dans le domaine. Diplômée en Sociologie de l'Université de Barcelone et ayant un post-diplôme en Marketing Digital de l'Inesdi, Sarah a réussi à se distinguer en tant que Directrice de Marketing Digital. Sa connaissance approfondie des tendances digitales et sa capacité à identifier des opportunités de croissance ont été fondamentales pour le succès de nombreuses campagnes. De plus, elle donne des cours et des conférences dans des écoles de commerce prestigieuses, des universités et des événements, partageant ses connaissances et expériences avec d'autres professionnels et étudiants.
Cette entrée est également disponible dans : Español Português
