Chatbots qui ressuscitent les morts : des experts juridiques s’expriment sur une technologie « perturbante »

par Edina Hartbinja, Senior Lecturer in Media/Privacy Law, Aston University, Lilian Edwards, Professor of Law, Innovation & Society, Newcastle Law School, Newcastle University, Melissa McVey, Research fellow, Aston University

Innovation technologique, réglementation et éthique : c’est la loi du futur et un mélange qui pose souvent beaucoup de questions. Trois femmes de droit britanniques font le point sur une technologie chatbot (agent conversationnel) qui pose beaucoup de questions.

Il a récemment été révélé qu’en 2017, Microsoft a breveté un chatbot qui, s’il était construit, ressusciterait numériquement les morts. Grâce à l’IA et à l’apprentissage automatique, le chatbot proposé ramènerait notre personnage numérique à la vie pour que notre famille et nos amis puissent lui parler. Lorsqu’ils ont été interrogés sur cette technologie, les représentants de Microsoft ont admis que le chatbot était « perturbant » et qu’il n’était pas prévu de le mettre en production.

Il semble néanmoins que les outils techniques et les données personnelles soient en place pour rendre les réincarnations numériques possibles. Les chatbots d’IA ont déjà passé le « test de Turing« , ce qui signifie qu’ils ont trompé d’autres humains en leur faisant croire qu’ils étaient eux-mêmes également humains. Par ailleurs, la plupart des personnes vivant dans le monde moderne laissent désormais suffisamment de données pour apprendre aux programmes d’IA nos particularités en matière de conversation. Les doubles numériques convaincants ne sont peut-être pas loin.

Mais il n’existe actuellement aucune loi régissant la réincarnation numérique. Votre droit à la confidentialité des données après votre mort est loin d’être gravé dans le marbre, et il n’existe actuellement aucun moyen pour vous de refuser d’être ressuscité numériquement. Cette ambiguïté juridique laisse le champ libre aux entreprises privées pour créer des chatbots à partir de vos données après votre mort.

Nos recherches ont porté sur la question juridique étonnamment complexe de savoir ce qu’il advient de vos données après votre mort. À l’heure actuelle, et en l’absence de législation spécifique, il n’est pas clair qui pourrait avoir le pouvoir ultime de redémarrer votre personnage numérique après que votre corps physique a été mis au repos.

Le chatbot de Microsoft utiliserait vos messages électroniques pour créer une réincarnation numérique à votre image après votre décès. Un tel chatbot utiliserait l’apprentissage automatique pour répondre aux messages texte comme vous l’auriez fait de votre vivant. Si vous laissez derrière vous des données vocales riches, elles pourraient également être utilisées pour créer votre ressemblance vocale, c’est-à-dire une personne avec laquelle vos proches pourraient parler, par l’intermédiaire d’un téléphone ou d’un robot humanoïde.

Microsoft n’est pas la seule entreprise à s’intéresser à la résurrection numérique. La société d’intelligence artificielle Eternime a créé un chatbot doté d’intelligence artificielle qui récolte des informations – notamment la géolocalisation, les mouvements, l’activité, les photos et les données Facebook – permettant aux utilisateurs de créer un avatar d’eux-mêmes qui vivra après leur mort. Ce n’est peut-être qu’une question de temps avant que les familles n’aient le choix de réanimer leurs proches décédés en utilisant des technologies d’IA telles que celle d’Eternime.

Si les chatbots et les hologrammes d’outre-tombe sont appelés à devenir monnaie courante, nous devrons élaborer de nouvelles lois pour les régir. Après tout, ressusciter numériquement une personne dont le corps repose sous une pierre tombale portant la mention « Repose en paix » semble être une violation du droit à la vie privée.

Des corps en version binaire

Les lois nationales ne sont pas cohérentes quant à l’utilisation de nos données après le décès. Dans l’UE, la loi sur la confidentialité des données ne protège que les droits des vivants. Cela laisse aux États membres la possibilité de décider comment protéger les données des personnes décédées. Certains, comme l’Estonie, la France, l’Italie et la Lettonie, ont légiféré sur les données post mortem. Les lois britanniques sur la protection des données ne l’ont pas fait.

Pour compliquer encore les choses, nos données sont principalement contrôlées par des plateformes en ligne privées telles que Facebook et Google. Ce contrôle repose sur les conditions de service auxquelles nous souscrivons lorsque nous créons des profils sur ces plateformes. Ces conditions protègent farouchement la vie privée des personnes décédées.

Par exemple, en 2005, Yahoo! a refusé de fournir les détails de connexion d’un compte de messagerie à la famille survivante d’un Marine américain tué en Irak. L’entreprise a fait valoir que ses conditions de service étaient conçues pour protéger la vie privée du Marine. Un juge a finalement ordonné à la société de fournir à la famille un CD contenant des copies des e-mails, créant ainsi une jurisprudence.

Quelques initiatives, telles que le gestionnaire de compte inactif de Google et le Contact légataire de Facebook, ont tenté d’aborder la question des données post-mortem. Elles permettent aux utilisateurs vivants de prendre certaines décisions sur ce qu’il advient de leurs données après leur décès, ce qui permet d’éviter de vilaines batailles judiciaires sur les données des personnes décédées à l’avenir. Mais ces mesures ne remplacent pas les lois.

Pour améliorer la législation sur les données post mortem, il faudrait suivre l’exemple du don d’organes. La loi britannique sur le don d’organes, dite « opt out », est particulièrement pertinente, car elle considère que les organes d’une personne décédée sont donnés à moins que cette personne n’ait spécifié le contraire de son vivant. Le même système d’opt-out pourrait être appliqué aux données post-mortem.

Ce modèle pourrait nous aider à respecter la vie privée des morts et les souhaits de leurs héritiers, tout en considérant les avantages qui pourraient découler du don de données : les donneurs de données pourraient contribuer à sauver des vies, tout comme le font les donneurs d’organes.

À l’avenir, des entreprises privées pourraient proposer aux familles un choix angoissant : abandonner l’être cher à la mort ou payer pour le faire revivre numériquement. Le chatbot de Microsoft est peut-être trop dérangeant à l’heure actuelle, mais c’est un exemple de ce qui est à venir. Il est temps d’écrire les lois qui régissent cette technologie.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante