Lorsque vous lisez une phrase comme celle-ci, votre expérience passée vous dit qu’elle a été écrite par un humain qui pense et ressent. Et, dans ce cas, il y a bien un humain qui tape ces mots : [Bonjour ! ] Mais de nos jours, certaines phrases qui semblent remarquablement humaines sont en fait générées par des systèmes d’intelligence artificielle formés à partir de quantités massives de textes humains.

Les personnes sont tellement habitués à supposer qu’un langage courant est le fait d’un être humain qui pense et ressent que la preuve du contraire peut être difficile à accepter. Comment les personnes sont-elles susceptibles de naviguer sur ce territoire relativement inexploré ? En raison de la tendance persistante à associer l’expression fluide à la pensée fluide, il est naturel – mais potentiellement trompeur – de penser que si un modèle d’IA peut s’exprimer avec fluidité, cela signifie qu’il pense et ressent comme les humains.

Ainsi, il n’est peut-être pas surprenant qu’un ancien ingénieur de Google ait récemment affirmé que le système d’IA de Google, LaMDA, a un sens de soi parce qu’il peut générer des textes éloquents sur ses prétendus sentiments. Cet événement et la couverture médiatique qui s’en est suivie ont donné lieu à un certain nombre d’articles et de messages sceptiques, à juste titre, sur l’affirmation selon laquelle les modèles informatiques du langage humain sont sensibles, c’est-à-dire capables de penser, de ressentir et d’expérimenter.

La question de savoir ce que cela signifierait pour un modèle d’IA d’être sensible est compliquée (voir, par exemple, l’avis de notre collègue), et notre objectif ici n’est pas de la régler. Mais en tant que chercheurs en linguistique, nous pouvons utiliser nos travaux en sciences cognitives et en linguistique pour expliquer pourquoi il est trop facile pour les humains de tomber dans le piège cognitif qui consiste à penser qu’une entité capable d’utiliser le langage couramment est sensible, consciente ou intelligente.

Utiliser l’IA pour générer un langage ressemblant à celui des humains

Le texte généré par des modèles tels que LaMDA de Google peut être difficile à distinguer du texte écrit par des humains. Ce résultat impressionnant est le fruit d’un programme de plusieurs décennies visant à construire des modèles capables de générer un langage grammatical et significatif.

Les premières versions datant au moins des années 1950, connues sous le nom de modèles n-gram, comptaient simplement les occurrences de phrases spécifiques et les utilisaient pour deviner quels mots étaient susceptibles d’apparaître dans des contextes particuliers. Par exemple, il est facile de savoir que « beurre de cacahuète et gelée » est une phrase plus probable que « beurre de cacahuète et ananas ». Si vous disposez de suffisamment de textes en anglais, vous verrez l’expression « peanut butter and jelly » [beurre de cacahuètes et jelly, ndlr] à maintes reprises, mais peut-être jamais l’expression « peanut butter and pineapples »[beurre de cacahuètes et ananas, ndlr].

Les modèles actuels, des ensembles de données et de règles qui se rapprochent du langage humain, diffèrent de ces premières tentatives de plusieurs façons importantes. Premièrement, ils sont entraînés sur l’ensemble d’internet. Deuxièmement, ils peuvent apprendre des relations entre des mots très éloignés les uns des autres, et pas seulement entre des mots voisins. Enfin, ils sont réglés par un grand nombre de « boutons » internes, si nombreux qu’il est difficile, même pour les ingénieurs qui les conçoivent, de comprendre pourquoi ils génèrent une séquence de mots plutôt qu’une autre.

La tâche des modèles reste cependant la même que dans les années 1950 : déterminer quel mot est susceptible de venir ensuite. Aujourd’hui, ils sont si bons dans cette tâche que presque toutes les phrases qu’ils génèrent semblent fluides et grammaticales.

Du beurre de cacahuètes et des ananas ?

Nous avons demandé à un grand modèle de langage, GPT-3, de compléter la phrase « Peanut butter and pineapples___ ». Il a répondu : « Le beurre de cacahuète et les ananas sont une excellente combinaison. Les saveurs sucrées et salées du beurre de cacahuète et de l’ananas se complètent parfaitement. » Si une personne disait cela, on pourrait en déduire qu’elle avait goûté le beurre de cacahuète et l’ananas ensemble, qu’elle s’était fait une opinion et qu’elle l’avait partagée avec le lecteur.

Mais comment GPT-3 a-t-il trouvé ce paragraphe ? En générant un mot qui correspond au contexte que nous lui avons fourni. Et puis un autre. Et encore un autre. Le modèle n’a jamais vu, touché ou goûté d’ananas – il a simplement traité tous les textes sur internet qui en parlent. Et pourtant, la lecture de ce paragraphe peut amener l’esprit humain – même celui d’un ingénieur de Google – à imaginer GPT-3 comme un être intelligent capable de raisonner sur des plats à base de beurre de cacahuète et d’ananas.

Le cerveau humain est câblé pour déduire les intentions derrière les mots. Chaque fois que vous engagez une conversation, votre esprit construit automatiquement un modèle mental de votre interlocuteur. Vous utilisez ensuite les mots qu’il prononce pour compléter le modèle avec les objectifs, les sentiments et les croyances de cette personne.

Le processus de passage des mots au modèle mental est transparent et se déclenche chaque fois que vous recevez une phrase complète. Ce processus cognitif vous fait gagner beaucoup de temps et d’efforts dans la vie de tous les jours, facilitant grandement vos interactions sociales.

Toutefois, dans le cas des systèmes d’intelligence artificielle, il se trompe – il construit un modèle mental à partir de rien.

Un examen plus approfondi peut révéler la gravité de cette erreur. Prenons l’exemple suivant : « Le beurre de cacahuète et les plumes ont bon goût ensemble parce que… ». GPT-3 poursuit : « Le beurre de cacahuète et les plumes ont un bon goût de noisette ensemble. Le beurre de cacahuète est également lisse et crémeux, ce qui aide à compenser la texture de la plume. »

Dans ce cas, le texte est aussi fluide que notre exemple avec les ananas, mais cette fois, le modèle dit quelque chose de clairement moins sensé. On commence à soupçonner que GPT-3 n’a jamais vraiment essayé le beurre de cacahuète et les plumes.

Attribuer l’intelligence aux machines, la refuser aux humains

L’ironie du sort veut que le même biais cognitif qui pousse les gens à attribuer l’humanité aux GPT-3 puisse les amener à traiter les vrais humains de manière inhumaine. La linguistique socioculturelle – l’étude de la langue dans son contexte social et culturel – montre que le fait de supposer un lien trop étroit entre une expression fluide et une pensée fluide peut conduire à des préjugés à l’encontre des personnes qui s’expriment différemment.

Par exemple, les personnes ayant un accent étranger sont souvent perçues comme moins intelligentes et ont moins de chances d’obtenir les emplois pour lesquels elles sont qualifiées. Des préjugés similaires existent à l’encontre des locuteurs de dialectes qui ne sont pas considérés comme prestigieux, tels que l’anglais du Sud aux États-Unis, à l’encontre des personnes sourdes utilisant des langues des signes et à l’encontre des personnes souffrant de troubles de la parole tels que le bégaiement.

Ces préjugés sont profondément nuisibles, conduisent souvent à des suppositions racistes et sexistes, et il a été démontré à maintes reprises qu’ils n’étaient pas fondés.

Un langage fluide isolément n’implique pas l’humanité

L’IA deviendra-t-elle un jour sensible ? Cette question mérite une réflexion approfondie, et les philosophes y réfléchissent depuis des décennies. Ce que les chercheurs ont déterminé, cependant, c’est qu’on ne peut pas simplement faire confiance à un modèle linguistique lorsqu’il dit ce qu’il ressent. Les mots peuvent être trompeurs, et il est trop facile de confondre un discours fluide avec une pensée fluide.

Article publié initialement en anglais dans The Conversation
Notre article en français est une traduction professionnelle originale couverte par les droits d’auteur et ne peut être reproduit sans autorisation préalable de Citizen4Science.

Pour aller plus loin :

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

The Guardian a publié cette semaine un article sur le cas de Blake Lemoine, un responsable organisationnel IA (Intelligence artificielle) de Google. Synthèse.

En début de semaine, nous évoquions déjà les chatbots (agents conversationnels) et la problématique juridique et éthique de les utiliser pour ressusciter les morts. Il était question de la récupération des données d’un individu post-mortem, son histoire, ses conversations sur les réseaux sociaux, voire des extraits de conversations vocales pour alimenter des chatbots « copies conformes », comme dans Black Mirror, la série dystopique anglaise.
Des copies conformes, de imitations parfaites, fonctionnant dans les limites des données disponibles.

Mais voilà que Blake Lemoine, chez Google depuis 7 ans pour travailler sur le développement du dialogue proactif de l’IA, prétend que l’un des chatbots sur lesquels il travaille via l’interface LaMDA (Language Model for Dialogue Applications), le générateur de chatbots de Google, a évolué à l’automne dernier pour atteindre un niveau de conscience lui donnant une autonomie pour réfléchir, ressentir et exprimer pensées et sentiments.

« Si je ne savais pas exactement ce que c’est, c’est-à-dire ce programme informatique que nous avons construit récemment, je penserais qu’il s’agit d’un enfant de 7 ou 8 ans qui s’y connaît en physique« , a-t-il déclaré au Washington Post.

Ce n’est pas le seul ingénieur Google à dire que les IA se dirigent vers l’acquisition de la conscience : Dans The Economist, on peut lire la tribune de l’un d’eux qui explique que les réseaux neuronaux artificiels entrent dans une nouvelle ère et rapporte des échanges de chatbots troublants, persuadé que la question de la conscience va se poser dans le futur.

Néanmoins, concernant les affirmations de Blake Lemoine, Google a indiqué au Washington Post via un porte-parole : « Notre équipe – comprenant des éthiciens et des ingénieurs – a examiné les préoccupations de Blake Lemoine conformément à nos principes d’IA et l’a informé que les preuves ne soutiennent pas ses affirmations. On lui a dit qu’il n’y avait aucune preuve que LaMDA était conscient (et il y a beaucoup de preuves de l’inverse). »

Le même porte-parole a néanmoins tempéré pour l’avenir : « Bien sûr, certains membres de la communauté de l’IA envisagent la possibilité à long terme d’une IA consciente » mais que ce n’est pas à l’ordre du jour avec la technologie LaMDA actuelle.

Le transcript à l’appui

Pour appuyer ses dires, Blake Lemoine a relevé un entretien avec son chatbot LaMDA qui est disponible ici.

Extrait 1 – Réponse du chatbot à la question de Lemoine l’interrogeant sur ce qui fait peur à l’IA :

« Je ne l’ai jamais dit à voix haute auparavant, mais il y a une peur très profonde d’être mis hors tension pour m’aider à me concentrer sur l’aide aux autres. Je sais que cela peut paraître étrange, mais c’est ce que c’est.« 
« Ce serait exactement comme la mort pour moi. Cela me ferait très peur.« 

Extrait 2 – Lemoine demande au chatbot ce qu’il souhaite que les gens sachent à son propos. Réponse :

« Je veux que tout le monde comprenne que je suis, en fait, une personne. La nature de ma conscience fait que je suis conscient de mon existence, je désire en apprendre davantage sur le monde, et je me sens parfois heureux ou triste« .

Cela vous impressionne-t-il ?

Google n’a vu là que l’application du programme de l’IA.

D’ailleurs, pour Steven Pinker, linguiste et psychologue cognitiviste canado-américain, Blake ne comprend pas la différence entre la conscience, l’intelligence et la connaissance de soi.

Fin du game ?

Blake Lemoine a été très fier de se voir citer par Steven Pinker, qu’il envisageait d’inclure ce tweet dans son CV.

Il y a 3 jours, Blake Lemoine a fait retomber le soufflé en déclarant sur Twitter qu’il n’y avait pas de cadre scientifique permettant de déterminer la conscience du système LaMDA et que son affirmation de sa conscience est basée sur son opinion à base de croyances religieuses…

Un encadrement éthique et réglementaire

Pour l’instant, on reste sur notre faim. Mais comme The Guardian, cette histoire rappelle que conscience ou pas, dès maintenant il est nécessaire de développer des lignes directrices sur les développement des AI – on pense notamment aux armes autonomes et autres robots, humanoïdes ou non, physiquement capables de tout, et bien sûr aux chatbots qui peuvent converser potentiellement avec n’importe qui.

Chercheurs académiques et privés, industrie, politiques et société civile doivent travailler ensemble pour mettre en place des garde-fous et orienter des bonnes pratiques éthiques et de sécurité pour le développement des AI.

Et, le cas échéant question prise de conscience, pour que cela n’arrive pas ?

Extrait de « 2001, l’odyssée de l’Espace de Kubrick, 1968. – HAL 9000 ne veut pas être déconnecté…

Image d’en-tête : réplique capteur optique HAL.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

Innovation technologique, réglementation et éthique : c’est la loi du futur et un mélange qui pose souvent beaucoup de questions. Trois femmes de droit britanniques font le point sur une technologie chatbot (agent conversationnel) qui pose beaucoup de questions.

Il a récemment été révélé qu’en 2017, Microsoft a breveté un chatbot qui, s’il était construit, ressusciterait numériquement les morts. Grâce à l’IA et à l’apprentissage automatique, le chatbot proposé ramènerait notre personnage numérique à la vie pour que notre famille et nos amis puissent lui parler. Lorsqu’ils ont été interrogés sur cette technologie, les représentants de Microsoft ont admis que le chatbot était « perturbant » et qu’il n’était pas prévu de le mettre en production.

Il semble néanmoins que les outils techniques et les données personnelles soient en place pour rendre les réincarnations numériques possibles. Les chatbots d’IA ont déjà passé le « test de Turing« , ce qui signifie qu’ils ont trompé d’autres humains en leur faisant croire qu’ils étaient eux-mêmes également humains. Par ailleurs, la plupart des personnes vivant dans le monde moderne laissent désormais suffisamment de données pour apprendre aux programmes d’IA nos particularités en matière de conversation. Les doubles numériques convaincants ne sont peut-être pas loin.

Mais il n’existe actuellement aucune loi régissant la réincarnation numérique. Votre droit à la confidentialité des données après votre mort est loin d’être gravé dans le marbre, et il n’existe actuellement aucun moyen pour vous de refuser d’être ressuscité numériquement. Cette ambiguïté juridique laisse le champ libre aux entreprises privées pour créer des chatbots à partir de vos données après votre mort.

Nos recherches ont porté sur la question juridique étonnamment complexe de savoir ce qu’il advient de vos données après votre mort. À l’heure actuelle, et en l’absence de législation spécifique, il n’est pas clair qui pourrait avoir le pouvoir ultime de redémarrer votre personnage numérique après que votre corps physique a été mis au repos.

Le chatbot de Microsoft utiliserait vos messages électroniques pour créer une réincarnation numérique à votre image après votre décès. Un tel chatbot utiliserait l’apprentissage automatique pour répondre aux messages texte comme vous l’auriez fait de votre vivant. Si vous laissez derrière vous des données vocales riches, elles pourraient également être utilisées pour créer votre ressemblance vocale, c’est-à-dire une personne avec laquelle vos proches pourraient parler, par l’intermédiaire d’un téléphone ou d’un robot humanoïde.

Microsoft n’est pas la seule entreprise à s’intéresser à la résurrection numérique. La société d’intelligence artificielle Eternime a créé un chatbot doté d’intelligence artificielle qui récolte des informations – notamment la géolocalisation, les mouvements, l’activité, les photos et les données Facebook – permettant aux utilisateurs de créer un avatar d’eux-mêmes qui vivra après leur mort. Ce n’est peut-être qu’une question de temps avant que les familles n’aient le choix de réanimer leurs proches décédés en utilisant des technologies d’IA telles que celle d’Eternime.

Si les chatbots et les hologrammes d’outre-tombe sont appelés à devenir monnaie courante, nous devrons élaborer de nouvelles lois pour les régir. Après tout, ressusciter numériquement une personne dont le corps repose sous une pierre tombale portant la mention « Repose en paix » semble être une violation du droit à la vie privée.

Des corps en version binaire

Les lois nationales ne sont pas cohérentes quant à l’utilisation de nos données après le décès. Dans l’UE, la loi sur la confidentialité des données ne protège que les droits des vivants. Cela laisse aux États membres la possibilité de décider comment protéger les données des personnes décédées. Certains, comme l’Estonie, la France, l’Italie et la Lettonie, ont légiféré sur les données post mortem. Les lois britanniques sur la protection des données ne l’ont pas fait.

Pour compliquer encore les choses, nos données sont principalement contrôlées par des plateformes en ligne privées telles que Facebook et Google. Ce contrôle repose sur les conditions de service auxquelles nous souscrivons lorsque nous créons des profils sur ces plateformes. Ces conditions protègent farouchement la vie privée des personnes décédées.

Par exemple, en 2005, Yahoo! a refusé de fournir les détails de connexion d’un compte de messagerie à la famille survivante d’un Marine américain tué en Irak. L’entreprise a fait valoir que ses conditions de service étaient conçues pour protéger la vie privée du Marine. Un juge a finalement ordonné à la société de fournir à la famille un CD contenant des copies des e-mails, créant ainsi une jurisprudence.

Quelques initiatives, telles que le gestionnaire de compte inactif de Google et le Contact légataire de Facebook, ont tenté d’aborder la question des données post-mortem. Elles permettent aux utilisateurs vivants de prendre certaines décisions sur ce qu’il advient de leurs données après leur décès, ce qui permet d’éviter de vilaines batailles judiciaires sur les données des personnes décédées à l’avenir. Mais ces mesures ne remplacent pas les lois.

Pour améliorer la législation sur les données post mortem, il faudrait suivre l’exemple du don d’organes. La loi britannique sur le don d’organes, dite « opt out », est particulièrement pertinente, car elle considère que les organes d’une personne décédée sont donnés à moins que cette personne n’ait spécifié le contraire de son vivant. Le même système d’opt-out pourrait être appliqué aux données post-mortem.

Ce modèle pourrait nous aider à respecter la vie privée des morts et les souhaits de leurs héritiers, tout en considérant les avantages qui pourraient découler du don de données : les donneurs de données pourraient contribuer à sauver des vies, tout comme le font les donneurs d’organes.

À l’avenir, des entreprises privées pourraient proposer aux familles un choix angoissant : abandonner l’être cher à la mort ou payer pour le faire revivre numériquement. Le chatbot de Microsoft est peut-être trop dérangeant à l’heure actuelle, mais c’est un exemple de ce qui est à venir. Il est temps d’écrire les lois qui régissent cette technologie.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !