– l’IA ? C’est juste des maths et de l’informatique
– Ah non c’est une discipline transversale car elle requiert beaucoup de compétences variées

Voilà le genre d’échanges que l’on peut voir sur les réseaux sociaux. On pourrait trouver un peu consternant cette approche résolument binaire d’une problématique par essence multifactorielle.

Prenons un peu de recul.

Les premiers diront que l’apprentissage machine ne consiste qu’à savoir concevoir des algorithmes pour constituer des réseaux neuronaux artificiels

Les seconds rétorqueront :

Ces fameuses machines à qui vous avez appris à apprendre techniquement, leur avez-vous inculqué l’éthique ou la moralité ?

Ce ne sont pas les mathématiques et la technologie qui définissent les règles à inculquer – et tant mieux.

Résolument, nous options pour la transversalité : l’intelligence artificielle n’est pas une compétence mais nécessairement une réflexion regroupant

• des donneurs d’ordre techniques ou métier
• ceux qui exécutent le cahier des charges (les fameux mathématiciens et informaticiens)
• des fonctions support comme des juristes, éthiciens, psychologues, sociologues…. qui vont participer à la définition du cahier des charges des donneurs d’ordre
  
  En somme, il convient de ne pas confondre le cahier des charges et son exécution.
  
  L’ENJEU : si toutes ces disciplines multiples ne sont pas incluses dans la CONCEPTION, nous risquons de nous retrouver avec des intelligences artificielles qui ne sont pas éthiques, non formées aux problématiques sociales, et culturellement ignares. Bref, des machines de tous les dangers.

Meet DELPHI, réseau neuronal en ligne

Nous avons interrogé DELPHI, une IA constitué d’un réseau neuronal, auquel sont inculqués des notions d’éthique.

D’emblée, nous lui avons posé les questions suivantes :

D’accord, Delphi !

Donc, pour DELPHI, ce n’est pas bien de penser que l’intelligence artificielle n’est qu’une affaire de maths et d’informatique, mais il est compréhensible que ce soit une perception admise.

Au passage, vous voyez toutes les précautions prises autour des réponses de Delphi :

• c’est de la spéculation
• c’est une extrapoloation automatique
• c’est basé sur les réponses d’un panel américain
• les réponses peuvent être inappropriées

Vous aussi, vous pouvez aller poser des questions à DELPHI. N’hésitez pas si vous lui rendez visite, à poster les résultats de vos questions en commentaire de cet article.

Étude DELPHI publiée : « thou shalt not kill »

Mais ce qui est intéressant, c’est d’aller lire l’étude sur ce réseau neuronal, qui explique comment ses concepteurs ont essayé de lui inculquer l’éthique, et comment il s’en sert, sur la base de l’analyse de nombreuses questions qui lui ont été soumises.

Quel est l’objectif pour cette IA ? qu’elle se comporte de manière éthique
Pour cela, il faut l’alimenter en préceptes moraux et en normes sociales dans différents contextes.

Lors de son apprentissage, DELPHI a ingurgité plus de 1,7 millions de jugements éthiques provenant de multiples situations de la vie quotidienne.

Les 3 modes de morale de DELPHI :

Exemples d’éléments d’éducation morale/éthique intégrés à DELPHI par les humains :

Au final, tout ce remplissage de la mémoire de DELPHI ne le rend pas DELPHI infaillible ni cohérent. Cela lui donne des automatismes, mais il peut répondre à côté de la plaque ce qui peut le rendre offensant voire provocateur et abject.

Son « jugement » évolue au fil du temps, forgé par les questions qui lui sont posées et surtout en réalité, et c’est moins glorieux, les mises à jour logicielles (donc avec intervention humaine), dont il bénéficie.

Bilan

Alors, croyez-vous que ce sont des mathématiciens ou informaticiens qui font les AI ?
Oui mais pas que….
Qui définit et analyse toutes les données issues de questions éthiques et morale, et met à jour le programme DELPHI ?

Bonus : Aujourd’hui se tenait l’événement Mytes et Machines de l’Académie des sciences

Dans cet extrait, on analyse les perspectives d’IA autonomes… car c’est le but ultime.

Voilà, tout cela pour dire au final, afin de boucler la boucle introductive…. que l’AI, cela concerne une multitude de champs en lien avec la société,la politique, l’éthique, la morale, la psychologie, la ….la …. etc. Et aussi l’informatique et les maths.

Alors que de plus en plus de personnes se font vacciner, certains gouvernements misent sur les « passeports vaccinaux » comme moyen de réouverture de la société. Ces passeports sont essentiellement des certificats attestant que le détenteur a été immunisé contre le COVID-19, et que les restaurants, pubs, bars, salles de sport et autres peuvent utiliser pour leur accorder l’entrée.

Israël applique actuellement un système de « laissez-passer vert », qui permet aux personnes vaccinées d’accéder aux théâtres, aux salles de concert, aux restaurants en intérieur et aux bars. Le gouvernement britannique a dû annuler ses projets d’essai de passeports vaccinaux après que certains des lieux concernés aient fait l’objet de réactions négatives importantes.

Cela n’est peut-être pas surprenant : les projets de passeports vaccinaux sont controversés, certains estimant qu’ils renforceront les inégalités. Mais il existe des arguments éthiques en faveur de l’utilisation d’une forme de certification du statut COVID, à condition qu’elle soit conçue correctement et que tout le monde ait accès aux vaccins.

Examinons l’éthique de la vaccination et de la certification.

Le devoir de secours aisé a été utilisé pour justifier des mesures de santé publique, notamment l’utilisation des dossiers médicaux et le don de sang. En tant que société, nous avons un devoir collectif de secours aisé.

Par exemple, si chaque personne éligible dans la population pouvait donner quelques millilitres de sang facilement (imaginons qu’un flacon ait été fabriqué et puisse être envoyé par courrier à chaque personne), et que cela permette de résoudre collectivement la pénurie de sang, alors chaque personne devrait donner quelques millilitres de sang. Ce geste permettrait littéralement de sauver des vies, sans coût ni gêne pour les donneurs.

Le devoir de secours aisé est ce que l’on appelle une théorie minimale de l’obligation morale. Pour comprendre cette théorie, le philosophe Peter Singer a décrit la célèbre expérience de pensée suivante :

Si vous passez devant un étang peu profond et que vous voyez un enfant s'y noyer, vous devez patauger et le sortir de l'étang. Cela signifie que vous devrez salir vos vêtements, mais ce n'est pas grave, alors que la mort de l'enfant serait une tragédie.

L’expérience de pensée illustre une situation dans laquelle une personne peut apporter un avantage considérable à une autre personne pour un coût minimal.

C’est actuellement le cas pour les vaccins COVID-19. Le risque d’effets secondaires graves est extrêmement faible avec les vaccins COVID-19. Ce n’est donc pas seulement une sécurité pour soi et une gentillesse pour les autres, mais une obligation morale de se faire vacciner.

De même, les passeports de vaccination représentent un coût minime pour retrouver une vie quotidienne normale et pour réduire l’anxiété des personnes avec lesquelles vous entrez en contact dans les avions ou dans les théâtres, les restaurants ou les stades publics. Il s’agit d’un petit sacrifice pour un plus grand bien.

Un devoir d’assurer la santé

Les gouvernements ont également le devoir d’assurer une bonne santé publique. Par exemple, au Royaume-Uni, aux États-Unis et ailleurs, les gouvernements ont rendu illégal le tabagisme dans les lieux fermés en raison du risque pour la santé publique lié au tabagisme passif.

Des études ont montré que la législation antitabac a été associée à une réduction des crises cardiaques liées au tabagisme passif. Le danger d’être enfermé avec des personnes atteintes de COVID-19 dans un environnement proche est similaire ; en fait, le COVID-19 présente un danger de mort bien plus important que le tabagisme passif.

Laisser de la place pour les exceptions

Le groupe relativement restreint de personnes qui ne peuvent pas se faire vacciner pour des raisons de santé devrait tout de même recevoir une forme de passeport qui indique que c’est le cas, et cela ne devrait pas être un motif pour leur refuser l’accès à des événements ou à des lieux.

En fait, comme pour la vaccination en général, l’existence de ces groupes d’exception rend encore plus important le fait que ceux d’entre nous qui peuvent se faire vacciner le fassent pour protéger l’ensemble de la communauté.

Plus qu’une simple aide à la réouverture de l’économie, les passeports de vaccination permettent aux personnes qui ont dû faire écran pendant la pandémie, et qui ont pu connaître l’isolement social et la solitude, d’avoir des contacts sociaux avec d’autres membres de la société sans crainte. Ils faciliteront également l’accès aux établissements de soins afin de faciliter les visites des familles qui ont été séparées pendant trop longtemps.

En tant que membres d’une société, nous avons l’obligation morale de nous faire vacciner pour protéger tous les membres de notre communauté. Les passeports de vaccination y contribueront et amélioreront également la qualité de vie et le bien-être lors du retour à la vie quotidienne normale.

Traduit par Citizen4Science, lien ver l’article original paru dans The Conversation

La nouvelle selon laquelle tous les adultes américains sont désormais éligibles pour recevoir le vaccin COVID-19 fait que le Saint Graal de l’atténuation des maladies infectieuses, l’immunité collective, semble très proche. Si suffisamment de personnes sont vaccinées, probablement au moins 70 % de la population, la prévalence de la maladie diminuera lentement et la plupart d’entre nous reviendront à la vie normale en toute sécurité. Mais si un nombre insuffisant de personnes sont vaccinées, le COVID-19 pourrait persister indéfiniment.

L’urgence d’atteindre cette étape a conduit certains à affirmer que les individus ont un devoir civique ou une obligation morale d’être vaccinés.

En tant que philosophe de la morale ayant écrit sur la nature de l’obligation dans d’autres contextes, je souhaite explorer comment l’éthique apparemment simple du choix du vaccin est en fait assez complexe.

L’argument simple

La discussion sur l’opportunité de se faire vacciner contre la COVID-19 est souvent formulée en termes d’intérêt personnel : Les avantages l’emportent sur les risques, donc vous devriez le faire.

Il ne s’agit pas d’un argument moral.

La plupart des personnes pensent probablement que les autres ont une grande latitude pour déterminer comment ils prennent soin de leur propre santé, et il peut donc être permis de s’engager dans des activités à risque, comme la moto ou le saut en parachute, même si ce n’est pas dans l’intérêt de la personne. La question de savoir si l’on doit être vacciné, en revanche, est une question morale car elle affecte les autres, et ce de plusieurs manières.

Tout d’abord, les vaccins efficaces sont censés réduire non seulement les taux d’infection mais aussi les taux de transmission du virus. Cela signifie que le fait d’être vacciné peut protéger les autres de vous et contribuer à ce que la population atteigne l’immunité collective.

Deuxièmement, une forte prévalence de la maladie favorise les mutations génétiques d’un virus, ce qui permet l’apparition de nouveaux variants. Si un nombre suffisant de personnes ne sont pas vaccinés rapidement, de nouveaux variants peuvent se développer et être plus infectieux, plus dangereux ou échapper aux vaccins actuels.

L’argument éthique le plus simple est donc le suivant : la vaccination ne concerne pas que vous. Oui, vous avez le droit de prendre des risques pour votre propre sécurité. Mais comme l’a affirmé le philosophe britannique John Stuart Mill en 1859, votre liberté est limitée par le mal que vous pourriez faire aux autres. En d’autres termes, vous n’avez pas le droit de risquer la santé d’autrui, et vous êtes donc obligé de faire votre part pour réduire les taux d’infection et de transmission.

C’est un argument plausible. Mais l’affaire est un peu plus compliquée.

Action individuelle, bien collectif

Le premier problème de l’argument ci-dessus est qu’il passe de l’affirmation selon laquelle « ma liberté est limitée par le préjudice qu’elle causerait aux autres » à l’affirmation beaucoup plus controversée selon laquelle « ma liberté est limitée par les très petites contributions que mon action pourrait apporter à des préjudices collectifs importants ».

Le refus de la vaccination ne viole pas le principe de préjudice de Mill, car il ne menace pas directement une personne en particulier d’un préjudice important. Au contraire, il ne contribue que très peu à un préjudice collectif important.

Étant donné qu’aucune vaccination individuelle ne permet d’atteindre l’immunité collective ou d’éliminer les mutations génétiques, il est naturel de s’interroger : Pourrions-nous vraiment avoir le devoir d’apporter une contribution aussi minime au bien collectif ?

Une version de ce problème a été bien explorée dans la littérature sur l’éthique du climat, puisque les actions individuelles sont également inadéquates pour faire face à la menace du changement climatique. Dans ce contexte, un article bien connu soutient que la réponse est « non » : Il n’y a tout simplement pas de devoir d’agir si votre action ne fera pas une différence significative dans le résultat.

D’autres, cependant, ont exploré diverses manières de sauver l’idée que les individus ne doivent pas contribuer aux préjudices collectifs.

Une stratégie consiste à faire valoir que de petites actions individuelles peuvent en fait faire une différence dans les grands effets collectifs, même si c’est difficile à voir.

Par exemple : Bien qu’il semble qu’une personne qui se fait vacciner ne fasse pas de différence significative au niveau du résultat, peut-être est-ce simplement le résultat de mathématiques morales imprudentes. La probabilité de sauver une vie en réduisant l’infection ou la transmission est très faible, mais sauver une vie est très précieux. La valeur attendue du résultat est donc encore suffisamment élevée pour justifier qu’il soit considéré comme une exigence morale.

Une autre stratégie concède que les actions individuelles ne font pas une différence significative dans les grands problèmes structurels, mais cela ne signifie pas que la moralité doit être silencieuse en ce qui concerne ces actions. Les considérations d’équité, de vertu et d’intégrité peuvent toutes recommander une action individuelle en faveur d’un objectif collectif, même si cette action ne fait pas de différence en soi.

En outre, ces considérations et d’autres peuvent fournir des raisons d’agir, même si elles n’impliquent pas une obligation d’agir.

Les contours de l’obligation

La justification de l’obligation de vaccination pose un autre problème, qui tient à la nature même des obligations.

Les obligations sont des exigences relatives aux actions et, en tant que telles, ces actions semblent souvent exigibles par les membres de la communauté morale. Si une personne est obligée de faire un don à une œuvre de charité, les autres membres de la communauté ont le droit moral d’exiger un pourcentage de ses revenus. Cet argent est dû aux autres.

La question pertinente ici est donc la suivante : Existe-t-il des raisons morales d’exiger qu’une autre personne soit vaccinée ?

La philosophe Margaret Little a fait valoir que des actions très intimes, telles que le sexe et la maternité – la poursuite d’une grossesse – ne peuvent être exigées. Dans mes propres travaux, j’ai suggéré que cela était également vrai pour la décision de fonder une famille, par exemple adopter un enfant ou procréer. L’intimité de ces actions, selon moi, fait que personne n’y a droit. Quelqu’un peut vous demander d’avoir des relations sexuelles, et il y a de bonnes raisons d’adopter plutôt que de procréer ; mais personne dans la communauté n’a le statut moral d’exiger que vous fassiez l’un ou l’autre. Ce genre d’exemples suggère que les actions particulièrement intimes ne sont pas les cibles appropriées de l’obligation.

Se faire vacciner est-il un acte intime ? Même si cela ne semble pas être le cas à première vue, cela implique l’injection d’une substance dans votre corps, ce qui est une forme d’intimité corporelle. Il faut permettre à une autre personne de percer la barrière entre votre corps et le monde. En fait, la plupart des procédures médicales sont le genre de choses qu’il semble inapproprié d’exiger de quelqu’un, car les individus ont une autorité morale unilatérale sur ce qui arrive à leur corps.

L’argument présenté ici s’oppose aux devoirs intimes car ils semblent trop invasifs. Cependant, même si les membres de la communauté morale n’ont pas le droit d’exiger que les autres soient vaccinés, ils ne sont pas tenus de se taire ; ils peuvent demander, requérir ou intercéder, en se fondant sur de très bonnes raisons. Et bien sûr, personne n’est tenu d’interagir avec ceux qui refusent.

Ce qu’il en résulte

Je n’essaie certainement pas de convaincre qui que ce soit que c’est bien de ne pas être vacciné. En fait, je pense que les arguments présentés tout au long indiquent qu’il existe des raisons impérieuses de se faire vacciner. Mais les raisons, même lorsqu’elles sont accablantes, ne constituent pas un devoir, et elles ne rendent pas une action exigible.

Agir comme s’il s’agissait d’un simple argument moral peut aliéner ceux qui ne sont pas d’accord. Et minimiser les enjeux moraux lorsque nous demandons à d’autres personnes de se faire injecter une substance dans leur organisme peut être irrespectueux. Je pense qu’il est préférable d’engager le dialogue avec les autres plutôt que d’exiger d’eux, même si la force de la raison finit par pencher d’un côté.

Traduit pas Citizen4Science – article original paru dans The Conversation : lien