Une femme poursuit l'IA suite au suicide de son fils tombé amoureux de leur personnage fictif

C'est une histoire qui est rapidement tournée au vinaigre. Le jeune est tombé amoureux de la mauvaise personne. Ou simplement d'une personne qui n'existe pas. Sa mère est inconsolable.

Selon plusieurs sources dignes de confiance dont le New York Times, la femme a porté plainte à l'application IA Charatec à la suite de la mort par suicide de son fils. Ce dernier est tombé amoureux d'un personnage généré par l'intelligence artificielle

Le décédé s'appelle Sewell Setzer, il est âgé de 14 ans et est originaire de Floride. Il « avait jeté son dévolu sur un produit de l'IA Charatec, une intelligence artificielle à l'image d'une héroïne de "Game of Thrones ". L'adolescent échangeait régulièrement via un chatbox avec son amoureuse fictive surnommée Dany », lit-on sur Griote.

En effet, lors de leurs derniers échanges par texto, le garçon a fait savoir ses pensées suicidaires dans le but de la rejoindre. « Et si je te disais que je peux rentrer à la maison tout de suite ? », lui a-t-il dit plus précisément. À ce message, Dany a répondu : « Fais donc, mon doux roi ».

C'est alors que le jeune homme a utilisé l'arme de son beau-père pour se donner la mort. La maman, très furieuse et sous le choc de la tragédie, poursuit les responsables de l'application en justice. Elle les accuse de manipulation émotionnelle.

L'intelligence artificielle est capable de monter une personne qu'on croirait être vraie. Avec des photos, des vidéos d'elle qui ne souffrent d'aucun soupçon. En Afrique, l'IA permet à beaucoup de personnes maintenant de faire des chiffres d'affaires, que ce soit les entrepreneurs, les créateurs de contenus, etc.