L’histoire aurait pu sortir tout droit de la science-fiction : des scientifiques ont cultivé des cellules de cerveau humain en laboratoire et leur ont appris à jouer au jeu vidéo pong, comme au squash ou au tennis. Mais cela ne s’est pas passé sur grand écran. Cela s’est passé dans un laboratoire de Melbourne, en Australie, et cela soulève la question fondamentale du statut juridique de ces soi-disant réseaux neuronaux.

Sont-ils la propriété de l’équipe qui les a créés, ou méritent-ils un statut spécial, voire des droits ?

La raison pour laquelle cette question doit être posée est que la capacité de jouer au pong peut être un signe que ces cellules cérébrales cultivées en laboratoire ont atteint la sentience – souvent définie comme la capacité de sentir et de réagir à un monde extérieur à soi. Et il existe un large consensus sur le fait que la sensibilité est un seuil important pour le statut moral. Les éthiciens estiment que les êtres sensibles sont capables d’avoir le droit moral de ne pas être maltraités, et la conscience des implications de la sensibilité est de plus en plus ancrée dans les pratiques de recherche impliquant des animaux.

Si les neurones de Melbourne sont sensibles, cela peut signifier qu’ils sont capables de souffrir – peut-être en ressentant de la douleur ou une autre gêne évitable. Comme il existe un large consensus moral sur le fait que nous ne devons pas causer de souffrance inutile, cela pourrait signifier qu’il existe des limites morales à ce que nous pouvons faire avec ces réseaux neuronaux.

Il faut dire que l’équipe qui a créé les cellules ne pense pas qu’elles en soient encore là, car le système fermé dans lequel l’expérience s’est déroulée signifie que, même si nous admettons que les neurones répondent à un stimulus externe, nous ne savons pas s’ils le font en connaissance de cause et en comprenant comment leurs actions peuvent provoquer certains résultats.

Mais vu où l’on en est, il n’est pas impossible que la sensibilité soit la prochaine étape. Et si c’est le cas, les éthiciens ne sont pas les seuls à devoir être attentifs – les législateurs devraient également suivre de près cette technologie.

Problème juridique

En effet, depuis l’époque romaine, le droit classe tout ce qui existe en tant que personne ou en tant que bien. Les personnes morales sont capables d’avoir des droits. En revanche, la propriété est quelque chose qui ne peut pas avoir de droits. Donc, si nous pensons que nos réseaux neuronaux pourraient bientôt avoir un statut moral, et que cela devrait se refléter dans des protections juridiques, nous devrions reconnaître qu’ils ne sont plus des biens, mais des personnes morales. Le cas de Happy, un éléphant du zoo du Bronx que les militants voulaient transférer dans un sanctuaire pour éléphants, nous montre pourquoi nous devons être proactifs dans ce domaine.

Les tribunaux de New York ont récemment été interrogés sur le droit de Happy à la liberté et ont répondu par la négative, car elle n’était pas une personne morale. Un aperçu complet de l’affaire est disponible ici, mais pour nos besoins, l’élément clé à retenir du jugement est le suivant : les tribunaux ont reconnu que Happy était un être moral qui méritait la protection de ses droits, mais ils étaient impuissants à agir. En effet, changer son statut juridique de propriété à personne était un changement trop important pour eux. Au lieu de cela, c’était un travail pour le législateur – qui a choisi de ne rien faire.

En reconnaissant une revendication morale qu’ils ne peuvent pas faire respecter, les tribunaux – et la loi en général – perpétuent ce qu’ils considèrent comme une injustice. C’est particulièrement choquant quand on sait que le terme « personne morale » n’a jamais eu la même signification que « être humain ». Tout au long de l’histoire et dans les systèmes juridiques du monde entier, nous avons vu des temples, des idoles, des navires, des sociétés et même des rivières classés comme des personnes morales. Au lieu de cela, il s’agit simplement d’un signifiant que le porteur est capable d’avoir des droits légaux.

La leçon que nous pouvons en tirer est que nous devons préparer la loi pour l’avenir. Il vaut mieux être proactif pour éviter un problème prévisible que d’essayer de le rattraper quand il s’est déjà produit.

Et comme nous l’avons dit plus haut, ce problème est prévisible en ce qui concerne les neurones de Melbourne. Même s’ils ne sont pas encore sensibles, le potentiel est là – et c’est donc quelque chose que nous devons prendre au sérieux. Parce que si nous acceptons que ces réseaux sont sensibles, et qu’ils ont de ce fait un statut moral, alors il est souhaitable que la loi reflète cela et accorde des protections proportionnelles à leurs intérêts.

Cette affirmation n’a rien de révolutionnaire et nous nous sommes déjà retrouvés dans une situation similaire. Lorsque la technologie de la FIV est apparue dans les années 1980, le droit a dû faire face pour la première fois à la question du statut juridique des embryons in vitro. L’approche adoptée a été de convoquer une enquête pour examiner les questions morales soulevées par cette nouvelle technologie, qui a abouti à des recommandations contenues dans le rapport Warnock. Ces recommandations ont constitué la base du cadre législatif britannique relatif à la FIV, qui crée une sorte de « troisième statut » pour ces embryons – pas des personnes juridiques à part entière, mais avec des restrictions importantes sur ce qui peut leur être fait en raison de leur statut moral.

Les influences du rapport Warnock sont encore visibles aujourd’hui – il n’y a donc aucune raison pour qu’une approche similaire ne puisse pas être adoptée à l’égard des questions soulevées à Melbourne. Oui, il y a beaucoup de questions sans réponse sur les capacités de ces réseaux neuronaux et nous pourrions très bien conclure qu’ils ne méritent pas encore de protection juridique.

Mais il y a certainement suffisamment de questions autour de cette technologie pour justifier une tentative de réponse.

Pour aller plus loin …

Texte paru initialement dans The Conversation, traduit par la Rédaction. La traduction est protégée par les droits d’auteur, en conséquence notre article n’est pas libre de droits.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

L’histoire de Happy l’éléphant est triste. Elle réside actuellement au zoo du Bronx, aux États-Unis, où le Nonhuman Rights Project (organisation de défense des droits civils) affirme qu’elle est soumise à une détention illégale. Les militants ont demandé une ordonnance d’habeas corpus au nom de Happy pour demander qu’elle soit transférée dans une réserve d’éléphants.

Historiquement, ce droit ancien qui offre un recours à une personne détenue illégalement était limité aux humains. Un tribunal de New York avait précédemment décidé qu’il excluait les animaux non humains. Donc, si les tribunaux voulaient se prononcer en faveur de Happy, ils devaient d’abord convenir qu’elle était légalement une personne.

C’est cette question qui est parvenue jusqu’à la cour d’appel de New York, qui a publié son jugement le 14 juin 2022. Par une majorité de 5 contre 2, les juges ont donné raison au zoo du Bronx. La juge en chef DiFiore a estimé que Happy n’était pas une personne aux fins d’une ordonnance d’habeas corpus, et la requête a été rejetée. En tant que chercheur spécialisé dans la notion de personnalité juridique, je ne suis pas convaincu par leur raisonnement.

La juge DiFiore a d’abord discuté de ce que signifie être une personne. Elle n’a pas contesté le fait que Happy soit intelligent, autonome et qu’il ait une conscience émotionnelle. Ce sont des éléments que de nombreux juristes universitaires considèrent comme suffisants pour le statut de personne, car ils suggèrent que Happy peut bénéficier de la liberté protégée par une ordonnance d’habeas corpus. Mais le juge DiFiore a rejeté cette conclusion, signalant que l’habeas corpus « protège le droit à la liberté des humains parce qu’ils sont des humains avec certains droits fondamentaux à la liberté reconnus par la loi ». En clair, la question de savoir si Happy est une personne n’est pas pertinente, car même si elle l’est, elle n’est pas humaine.

Cela peut sembler sensé, mais cela n’a rien à voir avec l’autorité juridique utilisée par Mme DiFiore pour étayer ses conclusions. Deux pages auparavant, elle faisait référence à l’article 1, section 6 de la constitution de l’État de New York, qui stipule que « [l]es personnes privées de liberté ont le droit de contester devant les tribunaux la légalité de leur détention ». Il n’est pas du tout question d’êtres humains ici.

Sa deuxième raison, à la page 10, soutient le point de vue selon lequel il faut être capable de comprendre et de supporter des devoirs pour avoir un droit. Cela semble logique, et repose sur l’idée que, en tant que membres d’une société, nous sommes tous liés par un contrat social. Mon droit de ne pas être agressé implique un devoir de votre part de ne pas m’agresser. Mais, bien sûr, nous accordons des droits aux personnes incapables de comprendre les devoirs – les nouveau-nés en sont un exemple.

La troisième raison suit ce que l’on appelle un argument de pente glissante. Si la Cour d’appel reconnaissait des droits aux éléphants, elle serait bientôt inondée de demandes de droits pour toutes sortes d’animaux. Cette approche fragmentaire, dit-on, pourrait déstabiliser la société. Il s’agit peut-être d’une raison pragmatique pour refuser à Happy le droit à la liberté par le biais d’une ordonnance d’habeas corpus, mais ce n’est pas une raison morale. L’objectif du droit à la liberté est de protéger les individus de l’oppression de la majorité, ce qui est lui-même lié au principe moral d’égalité. Il est donc étonnant que la juge DiFiore donne la priorité à la stabilité du statu quo.

De même, une approche au coup par coup n’est pas nécessairement mauvaise. Les tribunaux procèdent quotidiennement à des analyses au cas par cas, notamment dans les affaires de droits de l’homme où les droits individuels doivent être mis en balance avec les intérêts de l’État. En fait, de nombreux experts juridiques considèrent cette approche comme une force, car elle permet aux tribunaux de remédier aux injustices résultant de lacunes dans la législation – de dire quand des affaires similaires doivent être traitées de la même manière, et de faire la différence quand il est important de le faire.
Un problème pour aujourd’hui

DiFiore révèle dans son dernier paragraphe de la page 17 qu’elle n’a aucun problème conceptuel à accorder des droits aux êtres non humains, mais qu’elle considère que c’est au gouvernement de l’État de résoudre ce problème par la législation. C’est une position que les tribunaux américains ont adoptée dans le passé, en l’utilisant pour refuser aux baleines et aux dauphins le droit à une compensation pour les perturbations causées par les sonars de la marine.

Le problème avec cette excuse, c’est que les législatures ont échoué à plusieurs reprises à adopter des lois pour résoudre le problème. Tant qu’ils continueront à ignorer la question, Happy et les autres animaux sensibles continueront à souffrir d’une protection inadéquate de leurs intérêts parce qu’ils continuent à être considérés comme des biens. C’est une chose que la majorité des gens accepteraient comme une mauvaise chose. Par exemple, dans une enquête menée en 2017 auprès de 2 000 propriétaires d’animaux de compagnie au Royaume-Uni, 90 % ont déclaré que leur animal était un membre de la famille, et non un bien. Vivre avec des animaux nous permet de voir leur sensibilité comme quelque chose qui leur donne un statut spécial. En refusant d’aligner la loi sur ce point, les tribunaux ne parviennent pas à remédier à une carence manifeste.

C’est un problème qui ne fera que s’aggraver. Récemment, un ancien ingénieur logiciel de Google a annoncé qu’il pensait que LaMDA – une IA avec laquelle il travaillait – avait atteint la sentience. Bien que Google ait contesté cette affirmation, les revendications de droits (y compris la revendication du statut de personne) formulées par LaMDA dans ces transcriptions soulèvent de sérieuses questions, notamment celle de savoir s’il est éthique d’entreprendre certains types de recherche, comme tenter de déterminer si et comment LaMDA éprouve des sentiments, sans obtenir son consentement préalable.

Si cette question abstraite est préoccupante, il en va de même pour les problèmes juridiques spécifiques qui pourraient émerger de l’IA sensible. Loin d’être des problèmes pour l’avenir, les tribunaux du Royaume-Uni, des États-Unis et de l’Australie ont déjà examiné si l’IA peut être un inventeur aux fins de l’enregistrement d’un brevet, et Lord Hodge – vice-président de la Cour suprême du Royaume-Uni – a déclaré dans une conférence de 2019 qu’il n’y avait aucun problème conceptuel à reconnaître légalement le statut de personne d’une IA.

Alors pourquoi spéculons-nous sur les droits d’une IA sensible dans le futur tout en ignorant le sort d’êtres que nous savons sensibles et dont les intérêts sont lésés quotidiennement ? En affirmant simplement que ce problème est mieux résolu par la législation, la Cour d’appel de New York a simultanément accepté et reporté le cas moral qui lui était soumis.

Cette position est intenable. Les tribunaux ne pourront pas s’en cacher éternellement. Le moment est venu pour eux de forcer la main du législateur.

Pour aller plus loin …

Texte paru initialement dans The Conversation, traduit par la Rédaction. La traduction est protégée par les droits d’auteur, en conséquence notre article n’est pas libre de droits.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !