Intelligence artificielle : Les dilemmes de l'utilisation de l'IA pour ramener les morts à la vie

Dans l'œuvre de Volkswagen, la chanteuse Elis Regina décédée dans les années 1980 a été ramenée à la vie grâce à l'intelligence artificielle (IA). Elle apparaît au volant d'une Kombi et chante Como Nossos Pais, de Belchior.

Si de nombreux fans et internautes ont salué et été émus par la publicité, d'autres se sont interrogés sur l'éthique de l'utilisation de l'image d'une personne qui n'est plus en vie dans un contexte fictif.

Glauco Arbix, sociologue et coordinateur de l'impact du Centre pour l'intelligence artificielle de l'Université de São Paulo (USP), a déclaré à BBC News Brésil que la question était effectivement controversée, soit parce qu'elle soulevait des débats sur les effets psychologiques de la réanimation de personnes décédées à l'aide de la technologie, soit parce qu'elle touchait à des questions telles que le consentement, la véracité et la finitude de la vie.

Pour Arbix, l'utilisation de l'IA de manière non transparente, non informée ou non consciente comporte de nombreux risques, en particulier lorsqu'il y a déplacement spatial ou attribution de déclarations fausses à la personne représentée.

"Ce n'est pas parce qu'on peut le faire qu'il faut le faire", dit-il. "C'est une chose de garder dans son tiroir le film d'une personne décédée pour le regarder quelques fois, c'en est une autre de recréer (son image) dans de nouvelles conditions, comme si elle était encore en vie".

• Les travailleurs déjà remplacés par l'intelligence artificielle
• Le commerce illégal d'images d'abus sexuels d'enfants en provenance de l'IA dénoncé
• L'entreprise qui a remplacé 90% de ses employés du service client par l'IA

Selon le professeur de l'USP, notre société n'est pas prête à faire face à ce déplacement spatial et circonstanciel des figures défuntes et le faire peut être "dérangeant" pour certaines personnes.

"La finitude de la vie est sédimentée dans l'histoire sociale. Même pour ceux qui croient en la vie après la mort, il s'agit toujours de quelque chose de plus inaccessible et distinct de ce que nous voyons aujourd'hui, pour lequel nous ne sommes pas prêts en tant que société".

BBC Brazil a demandé à Volkswagen de prendre position sur la question, mais n'a pas reçu de réponse à l'heure où nous bouclons cet article.

Cela peut détruire le nom et la réputation

La campagne de Volkswagen n'était pas la première à utiliser l'intelligence artificielle pour mettre en scène des réalités avec des personnes déjà mortes.

Dans le film Rogue One : A Star Wars Story, l'actrice Carrie Fisher a également été recréée numériquement pour incarner la jeune princesse Leia.

En juin, le musicien Paul McCartney a déclaré que l'intelligence artificielle avait été utilisée pour que la voix de John Lennon - décédé en 1980 et avec qui il était associé dans le groupe The Beatles - puisse être utilisée dans une nouvelle chanson.

Cette technologie, également connue sous le nom de "deepfake", est souvent utilisée pour créer de fausses vidéos impliquant des célébrités et des personnalités politiques.

Dans le cas de la publicité du constructeur automobile, l'intelligence artificielle a été entraînée spécifiquement pour la reconnaissance faciale de Elis Regina, contrairement à ce qui se fait dans les projets d'IA qui utilisent une technologie pré-entraînée à partir de données génériques.

Selon l'entreprise, l'IA a reçu une formation approfondie avec différentes technologies, combinant la performance de la cascadeuse avec les mouvements et les images de Elis, pour arriver au résultat du visage de la chanteuse dans la publicité.

Pour M. Arbix, bien que la vidéo de Volkswagen ait été réalisée avec l'autorisation et la participation de la fille de Elis Regina, cette technologie peut également être utilisée à des fins dangereuses, pour déformer des faits, voire dans l'industrie de la pornographie ou de la pédophilie.

• Qu'est-ce que l'IA et est-elle dangereuse ?
• 7 questions clés: L'intelligence artificielle peut-elle vraiment conduire l'humanité à l'extinction ?

"La personne peut faire l'objet d'une récréation qui peut finir par détruire son nom et sa réputation", explique-t-il. "Mais cela pose aussi des questions du point de vue de l'intégrité de la vie familiale.

Selon le sociologue, il n'existe pas encore de consensus au sein de la communauté médicale sur les effets psychologiques de la vision ou même de la conversation par IA avec des proches décédés.

Plusieurs entreprises technologiques, dont l'américaine HereAfter AI, ont développé des technologies permettant de créer une version numérique d'une personne. Il serait ainsi possible de créer un dialogue artificiel avec une personne décédée en utilisant des informations personnelles, des outils vocaux et une intelligence artificielle avancée.

"D'un point de vue psychologique, il y a ceux qui disent que cela peut aider à maintenir la mémoire et apporter du réconfort à la famille. Mais il y a aussi ceux qui y sont totalement opposés", explique Glauco Arbix.

Et il y a même ceux qui essaient déjà de s'en protéger. L'acteur Robin Williams, décédé en 2014, a imposé dans son testament une restriction sur l'utilisation de son image pendant 25 ans après sa mort.

Selon les informations diffusées, l'Américain voulait empêcher que sa figure soit reproduite par des hologrammes ou d'autres technologies à des fins commerciales.

Droits à l'image et consentement

En ce qui concerne les droits à l'image ou le consentement, le sociologue Glauco Arbix estime que le droit brésilien a déjà résolu tous les conflits.

"La législation et la façon dont notre société perçoit actuellement les choses tiennent déjà compte du dilemme. Les familles détiennent les droits d'auteur", explique-t-il.

"Il est naïf de se demander si, par exemple, Elis Regina autoriserait l'utilisation de son image dans cette publicité, car elle n'a pas non plus autorisé la publication des photos, mais cette question est prévue dans la législation.

Pour Sara Suárez-Gonzalo, professeur à l'Université ouverte de Catalogne et chercheuse sur le sujet, le débat devrait aller plus loin. Pour elle, le consentement des membres de la famille n'est pas suffisant dans des cas comme celui-ci.

"Même lorsqu'ils meurent, les gens ne sont pas de simples objets dont les autres peuvent faire ce qu'ils veulent. C'est pourquoi nos sociétés considèrent qu'il est répréhensible de profaner ou de manquer de respect à la mémoire des morts. En d'autres termes, nous avons certaines obligations morales envers les morts, dans la mesure où la mort n'implique pas nécessairement que les personnes cessent d'exister d'une manière moralement pertinente", a-t-il déclaré dans un article publié sur le site web The Conversation.

Selon Suárez-Gonzalo, le débat est encore plus complexe lorsqu'il s'agit de robots qui collectent des données personnelles pour reproduire des conversations avec des personnes décédées, car la reproduction de la personnalité d'une personne "nécessite de grandes quantités d'informations personnelles, telles que des données provenant de réseaux sociaux qui révèlent des caractéristiques très sensibles".

Le chercheur indique également qu'une autre question éthique liée à l'utilisation de l'IA est celle de la responsabilité des résultats de la technologie, en particulier en cas d'effets néfastes.

Si un robot, une vidéo ou une image créée à l'aide de la technologie, par exemple, nuit à la santé mentale d'un membre de la famille, qui est responsable ?

"Il est essentiel d'ouvrir un débat public qui puisse mieux informer les citoyens et nous aider à élaborer des mesures politiques pour rendre les systèmes d'IA plus ouverts, socialement justes et compatibles avec les droits fondamentaux", peut-on lire dans l'article.