Les robots de deuil IA pourraient changer notre façon de pleurer – mais il existe de sérieux risques à venir

Lorsque Roro (ce n’est pas son vrai nom) a perdu sa mère à cause d’un cancer, son chagrin était sans fin. Au milieu de la vingtaine et travaillant comme créatrice de contenu en Chine, elle était hantée par la nature inachevée de leur relation. Leur lien a toujours été compliqué – façonné par des ressentiments tacites et une enfance au cours de laquelle les soins étaient souvent suivis de près par les critiques.

Après la mort de sa mère, Roro s’est retrouvée incapable de concilier le désordre de leur passé avec le silence qui a suivi. Elle a partagé ses difficultés avec ses abonnés sur la plateforme de médias sociaux chinoise Xiaohongshu (qui signifie « Petit Livre Rouge »), dans l’espoir de les aider dans leur propre chemin de guérison.

« J’ai écrit sur ma mère, en documentant tous les événements importants de sa vie, puis en créant une histoire dans laquelle elle a été ressuscitée dans un monde d’IA », m’a raconté Roro par l’intermédiaire d’un traducteur. « Vous écrivez les événements majeurs de la vie qui façonnent la personnalité du protagoniste et vous définissez ses modèles de comportement. Une fois que vous avez fait cela, l’IA peut générer des réponses par elle-même. Après avoir généré des résultats, vous pouvez continuer à l’ajuster en fonction de ce que vous voulez qu’il soit. »

Au cours du processus de formation, Roro a commencé à réinterpréter son passé avec sa mère, modifiant des éléments de leur histoire pour créer une figure plus idéalisée – une version plus douce et plus attentive d’elle. Cela l’a aidée à gérer sa perte, ce qui a abouti à la création de Xia (霞), un chatbot public avec lequel ses abonnés pouvaient également interagir.

Après sa sortie, Roro a reçu un message d’une amie disant que sa mère serait si fière d’elle. « J’ai fondu en larmes », a déclaré Roro. « C’était incroyablement curatif. C’est pourquoi je voulais créer quelque chose comme ça – non seulement pour me guérir moi-même, mais aussi pour fournir aux autres quelque chose qui pourrait dire les mots qu’ils avaient besoin d’entendre. »

Le chagrin à l’ère des robots de la mort

Comme je le raconte dans mon nouveau livre Machines d’amourl’histoire de Roro reflète les nouvelles possibilités que la technologie a ouvertes aux gens pour faire face au deuil grâce à l’IA conversationnelle. Grands modèles de langage peuvent être formés à l’aide de matériel personnel, notamment des e-mails, des SMS, des notes vocales et des publications sur les réseaux sociaux, pour imiter le style de conversation d’un être cher décédé.

Ces « Deathbots » ou « Griefbots » sont l’un des cas d’utilisation plus controversés de Chatbots IA. Certains sont basés sur du texte, tandis que d’autres représentent également la personne via un avatar vidéo. Entreprise américaine « Grieftech » Vous, seulement virtuelpar exemple, crée un chatbot à partir de conversations (orales et écrites) entre le défunt et l’un de ses amis ou parents vivants, produisant une version de la façon dont il est apparu à cette personne en particulier.

Revenu d’entre les morts : l’IA pourrait-elle mettre fin au deuil ? – YouTube

Regarder dessus

Alors que certains robots de la mort restent des représentations statiques d’une personne au moment de sa mort, d’autres ont accès à Internet et peuvent « évoluer » au fil des conversations. Vous, PDG de Only Virtual, Justin Harrisonsoutient qu’il ne s’agirait pas d’une version authentique d’une personne décédée si son IA ne pouvait pas suivre l’évolution de son temps et répondre aux nouvelles informations.

Mais cela soulève une foule de questions difficiles quant à savoir si l’estimation du développement d’une personnalité humaine est même possible avec la technologie actuelle, et quel effet l’interaction avec une telle entité pourrait avoir sur les proches d’une personne décédée.

Xingye, la plateforme sur laquelle Roro a créé le chatbot de sa défunte mère, est l’une des principales invites à proposition de nouveaux règlements de l’Administration chinoise du cyberespace, le régulateur et censeur national du contenu Internet, qui cherche à réduire le préjudice émotionnel potentiel des « services d’IA interactifs de type humain ».

Quel effet la résurrection numérique a-t-elle sur le deuil ?

Les Deathbots changent fondamentalement le processus de deuil car, contrairement aux vieilles lettres ou photos du défunt, ils interagissent avec IA générative peut introduire des éléments nouveaux et inattendus dans le processus de deuil. Pour Roro, créer et interagir avec une version IA de sa mère était étonnamment thérapeutique, lui permettant d’exprimer des sentiments qu’elle n’avait jamais exprimés et d’atteindre un sentiment de clôture.

Mais tout le monde ne partage pas cette expérience, y compris la journaliste londonienne Lottie Hayton, qui a perdu subitement ses deux parents en 2022 et a écrit à propos de ses expériences en les recréant avec l’IA. Elle a dit qu’elle trouvait les simulations étranges et pénibles : la technologie n’était pas tout à fait là, et les imitations maladroites donnaient l’impression qu’elles dévalorisaient ses vrais souvenirs plutôt que de les honorer.

Eternal You – Bande-annonce officielle du Royaume-Uni – YouTube
Eternal You - Bande-annonce officielle du Royaume-Uni - YouTube

Regarder dessus

Il existe également d’importantes questions éthiques concernant le consentement requis pour la création d’un robot mortel, l’endroit où il serait autorisé à être affiché et l’impact qu’il pourrait avoir sur les autres membres de la famille et les amis.

Le désir d’un proche de créer un compagnon symbolique qui l’aiderait à donner un sens à sa perte lui donne-t-il le droit d’afficher publiquement un robot mortel sur son compte de réseau social, là où d’autres le verront – ce qui pourrait exacerber son chagrin ? Que se passe-t-il lorsque différents membres de la famille ne sont pas d’accord sur la question de savoir si un parent ou un partenaire aurait souhaité ressusciter numériquement ?

Les entreprises qui créent ces robots de la mort ne sont pas des conseillers neutres en matière de deuil ; ce sont des plateformes commerciales animées par des incitations familières autour de la croissance, de l’engagement et de la collecte de données. Cela crée une tension entre ce qui est émotionnellement sain pour les utilisateurs et ce qui est rentable pour les entreprises. Un robot mortel que les gens visitent de manière compulsive, ou à qui ils ont du mal à arrêter de parler, peut être une réussite commerciale mais un piège psychologique.

Ces risques ne signifient pas que nous devrions interdire toutes les expériences de deuil médié par l’IA ou rejeter le véritable réconfort que certaines personnes, comme Roro, y trouvent. Mais cela signifie que la décision de « ressusciter » les morts ne peut pas être laissée uniquement aux start-ups et au capital-risque.

L’industrie a besoin de règles claires sur le consentement, de limites sur la manière dont les données posthumes peuvent être utilisées et de normes de conception qui donnent la priorité au bien-être psychologique plutôt qu’à un engagement sans fin. En fin de compte, la question n’est pas seulement de savoir si l’IA devrait être autorisée à ressusciter les morts, mais aussi de savoir qui peut le faire, à quelles conditions et à quel prix.

Cet article comprend un lien vers bookshop.org. Si vous cliquez sur le lien et continuez à acheter sur bookshop.org, The Conversation UK peut gagner une commission.

Cet article édité est republié à partir de La conversation sous licence Creative Commons. Lire le article original.

Anissa Chauvin

Je m'appelle Anissa, rédactrice passionnée au cœur battant pour Reveil Citoyen Media. Mon parcours, de la plume lycéenne aux salles de rédaction, est guidé par une curiosité insatiable et le désir ardent de révéler les vérités cachées. Chaque article que je rédige est une invitation à réfléchir, à questionner et, surtout, à agir pour un monde meilleur.