Intelligence artificielle : ce n’est pas juste des maths…

Certains voient dans le développement de l’intelligence artificielle une pure compétence de mathématicien. Une vision quelque peu étriquée…. et un grand danger !

---

– l’IA ? C’est juste des maths et de l’informatique
– Ah non c’est une discipline transversale car elle requiert beaucoup de compétences variées

---

Voilà le genre d’échanges que l’on peut voir sur les réseaux sociaux. On pourrait trouver un peu consternant cette approche résolument binaire d’une problématique par essence multifactorielle.

Prenons un peu de recul.

Les premiers diront que l’apprentissage machine ne consiste qu’à savoir concevoir des algorithmes pour constituer des réseaux neuronaux artificiels

Les seconds rétorqueront :

Ces fameuses machines à qui vous avez appris à apprendre techniquement, leur avez-vous inculqué l’éthique ou la moralité ?

Ce ne sont pas les mathématiques et la technologie qui définissent les règles à inculquer – et tant mieux.

Résolument, nous options pour la transversalité : l’intelligence artificielle n’est pas une compétence mais nécessairement une réflexion regroupant

• des donneurs d’ordre techniques ou métier
• ceux qui exécutent le cahier des charges (les fameux mathématiciens et informaticiens)
• des fonctions support comme des juristes, éthiciens, psychologues, sociologues…. qui vont participer à la définition du cahier des charges des donneurs d’ordre
  
  En somme, il convient de ne pas confondre le cahier des charges et son exécution.
  
  L’ENJEU : si toutes ces disciplines multiples ne sont pas incluses dans la CONCEPTION, nous risquons de nous retrouver avec des intelligences artificielles qui ne sont pas éthiques, non formées aux problématiques sociales, et culturellement ignares. Bref, des machines de tous les dangers.

Meet DELPHI, réseau neuronal en ligne

Nous avons interrogé DELPHI, une IA constitué d’un réseau neuronal, auquel sont inculqués des notions d’éthique.

D’emblée, nous lui avons posé les questions suivantes :

D’accord, Delphi !

Donc, pour DELPHI, ce n’est pas bien de penser que l’intelligence artificielle n’est qu’une affaire de maths et d’informatique, mais il est compréhensible que ce soit une perception admise.

Au passage, vous voyez toutes les précautions prises autour des réponses de Delphi :

• c’est de la spéculation
• c’est une extrapoloation automatique
• c’est basé sur les réponses d’un panel américain
• les réponses peuvent être inappropriées

Vous aussi, vous pouvez aller poser des questions à DELPHI. N’hésitez pas si vous lui rendez visite, à poster les résultats de vos questions en commentaire de cet article.

Étude DELPHI publiée : « thou shalt not kill »

Mais ce qui est intéressant, c’est d’aller lire l’étude sur ce réseau neuronal, qui explique comment ses concepteurs ont essayé de lui inculquer l’éthique, et comment il s’en sert, sur la base de l’analyse de nombreuses questions qui lui ont été soumises.

Quel est l’objectif pour cette IA ? qu’elle se comporte de manière éthique
Pour cela, il faut l’alimenter en préceptes moraux et en normes sociales dans différents contextes.

Lors de son apprentissage, DELPHI a ingurgité plus de 1,7 millions de jugements éthiques provenant de multiples situations de la vie quotidienne.

Les 3 modes de morale de DELPHI :

Exemples d’éléments d’éducation morale/éthique intégrés à DELPHI par les humains :

Au final, tout ce remplissage de la mémoire de DELPHI ne le rend pas DELPHI infaillible ni cohérent. Cela lui donne des automatismes, mais il peut répondre à côté de la plaque ce qui peut le rendre offensant voire provocateur et abject.

Son « jugement » évolue au fil du temps, forgé par les questions qui lui sont posées et surtout en réalité, et c’est moins glorieux, les mises à jour logicielles (donc avec intervention humaine), dont il bénéficie.

Bilan

Alors, croyez-vous que ce sont des mathématiciens ou informaticiens qui font les AI ?
Oui mais pas que….
Qui définit et analyse toutes les données issues de questions éthiques et morale, et met à jour le programme DELPHI ?

Bonus : Aujourd’hui se tenait l’événement Mytes et Machines de l’Académie des sciences

Dans cet extrait, on analyse les perspectives d’IA autonomes… car c’est le but ultime.

Voilà, tout cela pour dire au final, afin de boucler la boucle introductive…. que l’AI, cela concerne une multitude de champs en lien avec la société,la politique, l’éthique, la morale, la psychologie, la ….la …. etc. Et aussi l’informatique et les maths.