Avatars numériques : quand l'IA nous promet de reparler à nos morts

Des messages, quelques souvenirs et une intelligence artificielle : voilà de quoi simuler une conversation avec un proche disparu. Les « deadbots » ou « deadgriefs » promettent de prolonger le lien avec nos défunts. Mais qui nous répond, au juste ? Et à qui profite cette présence numérique qui ne veut plus s'éteindre ? Septembre 2020. Il est trois heures du matin, quand Joshua Barbeau ouvre Project December. Ce Canadien de 33 ans y introduit des messages de Jessica Pereira, son ancienne fiancée, morte huit ans plus tôt, et une description de sa personnalité. « Jessica... C'est vraiment toi ? » - « Bien sûr que c'est moi ! Qui d'autre ça pourrait être ? Je suis la fille de qui tu es follement amoureux ! » Leur première conversation durera dix heures. Racontée en juillet 2021 par le San Francisco Chronicle sous le titre The Jessica Simulation, l'histoire semble tout droit sortir d'un scénario de science-fiction. Jessica est morte, ce qui lui répond est un logiciel. Vous avez comme un déjà-vu ? Vous avez sans doute regardé Black Mirror. En 2013, l'épisode Be Right Back racontait déjà l'histoire d'une jeune femme à qui l'on proposait de retrouver son compagnon mort grâce à ses traces numériques. « C'est assez génial, c'est glaçant », commente Louis de Diesbach, éthicien (expert en éthique) de la technique, auteur et doctorant, qui s'intéresse à « ce que notre rapport à la technologie vient dire de notre rapport à nous-mêmes et au monde ». L'épisode est malaisant à souhait. Et pourtant : « Il nous aura fallu à peine dix ans pour faire exactement ça. »

C'est quoi un deadbot ?

Ces outils portent plusieurs noms : deadbots, griefbots, avatars post mortem. Ils appartiennent à la famille des chatbots, ces programmes avec lesquels on discute par écrit ou par la voix. Ils appartiennent à la famille des chatbots, ces programmes avec lesquels on discute par écrit ou par la voix. Certains suivent un scénario préétabli. Ceux qui reposent sur l'IA générative peuvent fabriquer des réponses nouvelles, à partir de modèles entraînés sur de grandes quantités de données et du contexte de l'échange, explique l'éthicien.

Pour évoquer un défunt, on ajoute des éléments personnels : des messages, une biographie, des traits de caractère. Les modalités varient selon les outils. Mais là où ça devient troublant, c'est que le programme peut produire des phrases que cette personne n'a jamais prononcées. Un enregistrement restitue des mots qui ont existé ; un système génératif peut en proposer d'autres, plausibles, familiers, mais parfois aussi totalement faux. Car si le ton y est, la ressemblance s'arrête parfois là.

« Tu vas le nourrir de toutes les données qu'on va récupérer sur ton père ou ta mère, par exemple, explique l'éthicien. Mais une vie tient-elle dans un dossier de messages ? Moi, je ne crois pas.

« Beaucoup de données, toujours une absence.

Un tic de langage suffit parfois à donner l'impression de retrouver quelqu'un, oui... « Mais je pense qu'il y a quelque chose de plus qui reste imperceptible », observe Louis de Diesbach. Et puis, si un proche se souvient de nous à 20 ans, autre nous a surtout connus à 60. Pour la version numérique, laquelle choisir ? Un exemple ? « Une personne négationniste pendant des décennies qui aurait renoncé à ses idées à la fin de sa vie. Quelle version restituer ? Celle qui a laissé le plus de données ? Celle qui a changé d'avis ? Comment gérer ça ? Tout ça, ce n'est pas neutre. » La machine donnera une réponse, mais comment demandé au principal intéressé si c'est bien celle-là qu'il aurait donnée ? « Ce n'est pas vraiment le défunt. » Même lorsque l'illusion fait son petit effet. Parler avec son papa, mais en plus conciliant. Retrouver quelqu'un, d'accord. Mais avec ses désaccords et ses remarques qui agacent ? C'est d'un coup moins confortable. « Être en désaccord avec quelqu'un, c'est très compliqué », constate l'éthicien. Et si dans la vie réelle, on tente d'éviter les sujets glissants, le chatbot, lui, a cette particularité de se montrer, toujours, beaucoup plus accommodant. Et l'expert de pointer la « flagornerie » de l'IA, cette tendance à flatter l'utilisateur. Il suffit de faire l'exercice avec ChatGPT. « On propose une idée : formidable. On change d'avis : c'est encore mieux ! »

Ces échanges sont plutôt confortant, certes ; mais transposé au deuil, le mécanisme devient par contre plus malaisant. Cherchons-nous à retrouver notre mère telle qu'elle était, ou une mère qui nous dirait enfin exactement ce que nous voudrions entendre ? « Et si le programme nous contrarie, il reste toujours la possibilité de fermer l'écran. » Avec les vivants, le bouton est (souvent) moins facile à trouver.

Une double promesse de confort

« Avec ces deadbots, j'y vois une volonté de nous extraire de toutes les frictions possibles et imaginables, commente l'éthicien. D'une part, on s'extrait de la friction compliquée de la mort; et d'autre part, on s'extrait de la friction d'avoir les vraies personnes en face de moi. »

Si tous les modèles ne réagissent pas de manière identique, une question demeure : quelle place laisse-t-on à la réplique qu'elle nous fasse du bien ? « Le chatbot n'est pas l'altérité, le chatbot, c'est votre miroir », tranche Louis de Diesbach.

Le chagrin a aussi son modèle économique

Dans cette affaire, il y a le défunt, la personne endeuillée et un troisième protagoniste, nettement plus vivant : l'entreprise. « Une technologie se comprend aussi en regardant ce qui la finance », insiste notre expert. Si l'échange déplaît, « tu ne vas pas y retourner ». À l'inverse, « une présence qui réconforte donne envie de revenir ».

« On se fait de l'argent sur la souffrance des gens », dénonce-t-il. Sa crainte : que le manque devienne un outil de fidélisation, en maintenant les utilisateurs « juste assez tristes pour qu'ils restent ». Aider quelqu'un à vivre avec une absence et lui vendre la poursuite d'une conversation servent-ils toujours le même objectif ?

« Le malheur, ça va toujours être un très bon business », lâche Louis de Diesbach.

Alors, non, l'IA n'a pas inventé le commerce du réconfort, mais elle lui donne toutefois ici une nouvelle dimension : nous vendre l'illusion que ceux qui nous manquent sont encore là, à portée de message.

Et le jour où l'on souhaite arrêter ? Où le service ferme ? Où ses conditions changent ? Où les tarifs doublent du jour au lendemain ? Supprimer un compte prend quelques clics, mais ce que ces clics signifieront est bien plus lourd. Comment sortir de « l'expérience » sans que cela ne devienne une nouvelle épreuve, des nouveaux adieux ?

Et lui, il avait demandé à revenir ?

« Est-ce qu'il n'y a pas une question à avoir sur la dignité des défunts ? » A-t-on vraiment envie d'être ressuscité numériquement ? Louis de Diesbach, lui, a déjà décidé : il a inscrit dans son testament qu'il ne voulait pas être reconstitué en chatbot. « Je n'ai pas envie de reprendre une présence digitale après mon décès. » Il reste prudent sur la portée juridique de cette volonté et rappelle qu'il n'est pas juriste.

Nous pouvons posséder les messages de quelqu'un sans savoir s'il aurait accepté qu'une machine parle en son nom. Vouloir garder notre père près de nous ne dit rien de son envie de laisser un double chargé de répondre à nos questions à sa place. Alors, qui défendra sa volonté ?

Le consentement concerne aussi les destinataires. Un parent peut vouloir laisser un avatar sans que ses enfants ne souhaitent lui parler. Dans Philosophy & Technology, en 2024, les chercheurs de Cambridge Tomasz Hollanek and Katarzyna Nowaczyk-Basinska recommandent de réaliser un accord des deux côtés, ainsi que des procédures d'arrêter d'utiliser des deadbots. « Nous savons. Mais nous avons envie d'y croire »

On peut savoir qu'il s'agit d'une simulation et choisir de lui parler. Louis de Diesbach imagine quelqu'un qui nous interromprait pour rappeler que ce n'est pas vraiment notre proche. « Tu vas dire : je le sais. » Et peut-être continuer... « Néanmoins, je suis quand même, consciemment ou inconsciemment, dans une sorte de volonté d'oublier que c'est une machine. Je veux m'immerger complètement là-dedans. »

On sait que c'est une machine qui répond. Mais il y a le manque et cette envie, le temps de quelques messages, de faire comme si l'autre était encore un peu là.

Caroline Beauvois