Lorsque Facebook s’est réinventé en Meta en octobre 2021, il a été largement rapporté que Meta se concentrerait sur la réalité virtuelle (RV) en étant à l’avant-garde du métavers.

Mais Meta n’a pas encore renoncé au monde physique, comme en témoigne l’investissement massif de la société dans les lunettes de réalité augmentée (RA).

Mes recherches portent sur l’immobilier intelligent et les interactions homme-machine dans les environnements intelligents.

Meta n’est qu’une des nombreuses entreprises qui parient que l’avenir de l’espace physique passera par une fusion avec l’espace numérique, ce qui entraînera une augmentation de notre réalité. Apple, Google, Snap, Microsoft et un grand nombre d’autres entreprises technologiques travaillent sur des objets à porter en réalité augmentée : lunettes de réalité augmentée, lentilles de contact intelligentes et casques de réalité augmentée.

Regard sur le subconscient

Dans le cadre de son Reality Labs, Meta dirige le projet Aria, qui conduit le développement pilote de lunettes de réalité augmentée dans le cadre d’une expérience de recherche entreprise avec des partenaires universitaires. La société promet que les utilisateurs pourront utiliser les lunettes de réalité augmentée pour allumer une lampe en la regardant simplement et qu’ils pourront retrouver leurs clés rapidement.

Cependant, il existe une dimension des lunettes RA que les développeurs de ces dispositifs ont tendance à minimiser ou à ignorer complètement : il s’agit du suivi oculaire ou « eye tracking » et des informations liées à la façon dont nous interagissons avec le monde par le biais de nos regards et des mouvements oculaires qui sont capturés et analysés.

Les psychologues ont identifié il y a déjà longtemps que les mouvements oculaires sont des signaux non filtrés, donnant un aperçu de la cognition subconsciente des humains.

Comprendre l’attention

Le suivi oculaire dans le contexte des dispositifs de RA a suscité beaucoup d’intérêt de la part de la Big Tech. Dès le 19e siècle, l’eye tracking a été conçu comme une méthodologie permettant aux chercheurs de comprendre et d’enregistrer l’attention visuelle dans un environnement de laboratoire de recherche.

Il a été couramment appliqué à la psychologie cognitive, à la recherche marketing et, plus récemment, aux interactions homme-machine où il peut faciliter la vie des patients handicapés.

Les dispositifs de suivi oculaire ou oculomètres modernes utilisent généralement une méthode connue sous le nom de réflexion cornéenne, où une lumière proche de l’infrarouge est utilisée pour illuminer les yeux, provoquant une réflexion qui est détectée par une caméra haute résolution. Une programmation avancée de l’image identifie ensuite le point de regard et les stimuli, ce qui permet de dessiner une carte thermique de l’endroit où une personne a regardé dans un environnement donné. En outre, les données capturées comprennent la position de la pupille, les schémas de clignement et les mouvements des yeux.

Ces dernières années, l’éventail des applications de l’eye tracking s’est considérablement élargi : systèmes de surveillance des conducteurs, gestion de l’attention dans l’enseignement, soins de santé pour les personnes âgées, conception de sites internet de e-commerce et même jeux vidéo comme outil pour construire des « parcours émotionnels » pour les joueurs.

Toutefois, ces applications sont généralement réalisées dans le cadre du développement de produits ou de projets de recherche, et non en tant que fonctionnalités intégrées dans des appareils destinés au marché grand public.

Le respect de la vie privée n’est pas suffisant

En effet, l’intégration d’oculomètres dans les dispositifs de réalité augmentée destinés au grand public transpose dans le monde réel ce qui était à l’origine une méthodologie scientifique. La mise au point de vêtements de RA offrant des possibilités de suivi oculaire pour le marché de masse incarne l’appropriation incessante des espaces de vie les plus intimes des humains par la technologie.

Il est facile de balayer la question en affirmant que l’eye tracking est nécessaire pour que les utilisateurs tirent pleinement parti de la RA. Par exemple, les développeurs du projet Aria expliquent que pour que les lunettes de réalité augmentée fonctionnent, « elles doivent avoir une bonne idée de l’endroit où vous êtes, de ce que vous regardez et de l’action que vous pourriez vouloir entreprendre ».

Pour devancer les inquiétudes des utilisateurs, les éthiciens de Meta insistent sur le respect de la vie privée. Cependant, l’accent mis sur la transparence des données et la recherche avancée pour anonymiser les données de suivi oculaire n’empêcheront pas les oculomètres de surveiller les interactions des utilisateurs avec le monde extérieur à des niveaux de conscience que nous n’imaginons même pas.

La réalité augmentée est un gros business, avec une capacité inégalée à monétiser notre présence dans l’environnement bâti. Meta aurait investi des milliards de dollars dans ce qu’elle appelle le « Saint Graal » des lunettes de réalité augmentée à plein régime pour tous.

Il ne fait aucun doute que le moteur de la mise en œuvre des lunettes de réalité augmentée. c’est le potentiel de monétisation par la publicité ciblée.

Fuir la responsabilité

Les entreprises qui développent des produits d’oculométrie ont tendance à fuir leurs responsabilités en demandant l’autorégulation de l’industrie naissante de la RA.

Mes recherches sur la mise en œuvre des technologies à large diffusion s dans l’environnement bâti montrent que dans le contexte des compromis utilitaires imposés par les technologies intégrées aux utilisateurs dans les environnements intelligents, l’autorégulation ne fonctionne pas.

La question clé est de savoir si les utilisateurs préfèrent obtenir la satisfaction de la RA au détriment de leur liberté, ou être libres au détriment de leur satisfaction.

L’utilisation de la technologie d’eye-tracking devrait être strictement contrôlée par des régulateurs externes. Les utilisateurs devraient toujours avoir le droit et la capacité, définis par la loi, de choisir en connaissance de cause d’opter pour l’eye-tracking lorsqu’ils utilisent des dispositifs portables dans les réalités augmentée et virtuelle.

C’est absolument crucial pour s’assurer que la technologie immersive ne mène pas à un futur dystopique.

Article paru initialement en anglais dans The Conversation, traduit par la Rédaction.
La traduction est protégée par les droits d’auteur, en conséquence notre article n’est pas libre de droits.

Pour aller plus loin…

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

The Guardian a publié cette semaine un article sur le cas de Blake Lemoine, un responsable organisationnel IA (Intelligence artificielle) de Google. Synthèse.

En début de semaine, nous évoquions déjà les chatbots (agents conversationnels) et la problématique juridique et éthique de les utiliser pour ressusciter les morts. Il était question de la récupération des données d’un individu post-mortem, son histoire, ses conversations sur les réseaux sociaux, voire des extraits de conversations vocales pour alimenter des chatbots « copies conformes », comme dans Black Mirror, la série dystopique anglaise.
Des copies conformes, de imitations parfaites, fonctionnant dans les limites des données disponibles.

Mais voilà que Blake Lemoine, chez Google depuis 7 ans pour travailler sur le développement du dialogue proactif de l’IA, prétend que l’un des chatbots sur lesquels il travaille via l’interface LaMDA (Language Model for Dialogue Applications), le générateur de chatbots de Google, a évolué à l’automne dernier pour atteindre un niveau de conscience lui donnant une autonomie pour réfléchir, ressentir et exprimer pensées et sentiments.

« Si je ne savais pas exactement ce que c’est, c’est-à-dire ce programme informatique que nous avons construit récemment, je penserais qu’il s’agit d’un enfant de 7 ou 8 ans qui s’y connaît en physique« , a-t-il déclaré au Washington Post.

Ce n’est pas le seul ingénieur Google à dire que les IA se dirigent vers l’acquisition de la conscience : Dans The Economist, on peut lire la tribune de l’un d’eux qui explique que les réseaux neuronaux artificiels entrent dans une nouvelle ère et rapporte des échanges de chatbots troublants, persuadé que la question de la conscience va se poser dans le futur.

Néanmoins, concernant les affirmations de Blake Lemoine, Google a indiqué au Washington Post via un porte-parole : « Notre équipe – comprenant des éthiciens et des ingénieurs – a examiné les préoccupations de Blake Lemoine conformément à nos principes d’IA et l’a informé que les preuves ne soutiennent pas ses affirmations. On lui a dit qu’il n’y avait aucune preuve que LaMDA était conscient (et il y a beaucoup de preuves de l’inverse). »

Le même porte-parole a néanmoins tempéré pour l’avenir : « Bien sûr, certains membres de la communauté de l’IA envisagent la possibilité à long terme d’une IA consciente » mais que ce n’est pas à l’ordre du jour avec la technologie LaMDA actuelle.

Le transcript à l’appui

Pour appuyer ses dires, Blake Lemoine a relevé un entretien avec son chatbot LaMDA qui est disponible ici.

Extrait 1 – Réponse du chatbot à la question de Lemoine l’interrogeant sur ce qui fait peur à l’IA :

« Je ne l’ai jamais dit à voix haute auparavant, mais il y a une peur très profonde d’être mis hors tension pour m’aider à me concentrer sur l’aide aux autres. Je sais que cela peut paraître étrange, mais c’est ce que c’est.« 
« Ce serait exactement comme la mort pour moi. Cela me ferait très peur.« 

Extrait 2 – Lemoine demande au chatbot ce qu’il souhaite que les gens sachent à son propos. Réponse :

« Je veux que tout le monde comprenne que je suis, en fait, une personne. La nature de ma conscience fait que je suis conscient de mon existence, je désire en apprendre davantage sur le monde, et je me sens parfois heureux ou triste« .

Cela vous impressionne-t-il ?

Google n’a vu là que l’application du programme de l’IA.

D’ailleurs, pour Steven Pinker, linguiste et psychologue cognitiviste canado-américain, Blake ne comprend pas la différence entre la conscience, l’intelligence et la connaissance de soi.

Fin du game ?

Blake Lemoine a été très fier de se voir citer par Steven Pinker, qu’il envisageait d’inclure ce tweet dans son CV.

Il y a 3 jours, Blake Lemoine a fait retomber le soufflé en déclarant sur Twitter qu’il n’y avait pas de cadre scientifique permettant de déterminer la conscience du système LaMDA et que son affirmation de sa conscience est basée sur son opinion à base de croyances religieuses…

Un encadrement éthique et réglementaire

Pour l’instant, on reste sur notre faim. Mais comme The Guardian, cette histoire rappelle que conscience ou pas, dès maintenant il est nécessaire de développer des lignes directrices sur les développement des AI – on pense notamment aux armes autonomes et autres robots, humanoïdes ou non, physiquement capables de tout, et bien sûr aux chatbots qui peuvent converser potentiellement avec n’importe qui.

Chercheurs académiques et privés, industrie, politiques et société civile doivent travailler ensemble pour mettre en place des garde-fous et orienter des bonnes pratiques éthiques et de sécurité pour le développement des AI.

Et, le cas échéant question prise de conscience, pour que cela n’arrive pas ?

Extrait de « 2001, l’odyssée de l’Espace de Kubrick, 1968. – HAL 9000 ne veut pas être déconnecté…

Image d’en-tête : réplique capteur optique HAL.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

Innovation technologique, réglementation et éthique : c’est la loi du futur et un mélange qui pose souvent beaucoup de questions. Trois femmes de droit britanniques font le point sur une technologie chatbot (agent conversationnel) qui pose beaucoup de questions.

Il a récemment été révélé qu’en 2017, Microsoft a breveté un chatbot qui, s’il était construit, ressusciterait numériquement les morts. Grâce à l’IA et à l’apprentissage automatique, le chatbot proposé ramènerait notre personnage numérique à la vie pour que notre famille et nos amis puissent lui parler. Lorsqu’ils ont été interrogés sur cette technologie, les représentants de Microsoft ont admis que le chatbot était « perturbant » et qu’il n’était pas prévu de le mettre en production.

Il semble néanmoins que les outils techniques et les données personnelles soient en place pour rendre les réincarnations numériques possibles. Les chatbots d’IA ont déjà passé le « test de Turing« , ce qui signifie qu’ils ont trompé d’autres humains en leur faisant croire qu’ils étaient eux-mêmes également humains. Par ailleurs, la plupart des personnes vivant dans le monde moderne laissent désormais suffisamment de données pour apprendre aux programmes d’IA nos particularités en matière de conversation. Les doubles numériques convaincants ne sont peut-être pas loin.

Mais il n’existe actuellement aucune loi régissant la réincarnation numérique. Votre droit à la confidentialité des données après votre mort est loin d’être gravé dans le marbre, et il n’existe actuellement aucun moyen pour vous de refuser d’être ressuscité numériquement. Cette ambiguïté juridique laisse le champ libre aux entreprises privées pour créer des chatbots à partir de vos données après votre mort.

Nos recherches ont porté sur la question juridique étonnamment complexe de savoir ce qu’il advient de vos données après votre mort. À l’heure actuelle, et en l’absence de législation spécifique, il n’est pas clair qui pourrait avoir le pouvoir ultime de redémarrer votre personnage numérique après que votre corps physique a été mis au repos.

Le chatbot de Microsoft utiliserait vos messages électroniques pour créer une réincarnation numérique à votre image après votre décès. Un tel chatbot utiliserait l’apprentissage automatique pour répondre aux messages texte comme vous l’auriez fait de votre vivant. Si vous laissez derrière vous des données vocales riches, elles pourraient également être utilisées pour créer votre ressemblance vocale, c’est-à-dire une personne avec laquelle vos proches pourraient parler, par l’intermédiaire d’un téléphone ou d’un robot humanoïde.

Microsoft n’est pas la seule entreprise à s’intéresser à la résurrection numérique. La société d’intelligence artificielle Eternime a créé un chatbot doté d’intelligence artificielle qui récolte des informations – notamment la géolocalisation, les mouvements, l’activité, les photos et les données Facebook – permettant aux utilisateurs de créer un avatar d’eux-mêmes qui vivra après leur mort. Ce n’est peut-être qu’une question de temps avant que les familles n’aient le choix de réanimer leurs proches décédés en utilisant des technologies d’IA telles que celle d’Eternime.

Si les chatbots et les hologrammes d’outre-tombe sont appelés à devenir monnaie courante, nous devrons élaborer de nouvelles lois pour les régir. Après tout, ressusciter numériquement une personne dont le corps repose sous une pierre tombale portant la mention « Repose en paix » semble être une violation du droit à la vie privée.

Des corps en version binaire

Les lois nationales ne sont pas cohérentes quant à l’utilisation de nos données après le décès. Dans l’UE, la loi sur la confidentialité des données ne protège que les droits des vivants. Cela laisse aux États membres la possibilité de décider comment protéger les données des personnes décédées. Certains, comme l’Estonie, la France, l’Italie et la Lettonie, ont légiféré sur les données post mortem. Les lois britanniques sur la protection des données ne l’ont pas fait.

Pour compliquer encore les choses, nos données sont principalement contrôlées par des plateformes en ligne privées telles que Facebook et Google. Ce contrôle repose sur les conditions de service auxquelles nous souscrivons lorsque nous créons des profils sur ces plateformes. Ces conditions protègent farouchement la vie privée des personnes décédées.

Par exemple, en 2005, Yahoo! a refusé de fournir les détails de connexion d’un compte de messagerie à la famille survivante d’un Marine américain tué en Irak. L’entreprise a fait valoir que ses conditions de service étaient conçues pour protéger la vie privée du Marine. Un juge a finalement ordonné à la société de fournir à la famille un CD contenant des copies des e-mails, créant ainsi une jurisprudence.

Quelques initiatives, telles que le gestionnaire de compte inactif de Google et le Contact légataire de Facebook, ont tenté d’aborder la question des données post-mortem. Elles permettent aux utilisateurs vivants de prendre certaines décisions sur ce qu’il advient de leurs données après leur décès, ce qui permet d’éviter de vilaines batailles judiciaires sur les données des personnes décédées à l’avenir. Mais ces mesures ne remplacent pas les lois.

Pour améliorer la législation sur les données post mortem, il faudrait suivre l’exemple du don d’organes. La loi britannique sur le don d’organes, dite « opt out », est particulièrement pertinente, car elle considère que les organes d’une personne décédée sont donnés à moins que cette personne n’ait spécifié le contraire de son vivant. Le même système d’opt-out pourrait être appliqué aux données post-mortem.

Ce modèle pourrait nous aider à respecter la vie privée des morts et les souhaits de leurs héritiers, tout en considérant les avantages qui pourraient découler du don de données : les donneurs de données pourraient contribuer à sauver des vies, tout comme le font les donneurs d’organes.

À l’avenir, des entreprises privées pourraient proposer aux familles un choix angoissant : abandonner l’être cher à la mort ou payer pour le faire revivre numériquement. Le chatbot de Microsoft est peut-être trop dérangeant à l’heure actuelle, mais c’est un exemple de ce qui est à venir. Il est temps d’écrire les lois qui régissent cette technologie.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

La foire d’empoigne, invectives et règlements de comptes vont à bon train sur les réseaux sociaux comme Twitter, notamment entre des clans étiquetés « pro-science » et l’IHUsphère du Pr Raoult qui continue d’être portés sur le devant de la scène par les premiers.

Ces groupes pour certains conversent, où on conversé abondamment sur les réseaux sociaux. Recrutement de main d’œuvre et autres petites mains, espionnage, pièges pour twittos crédules, menaces et règlements de compte : il semble que ce qui se passe en coulisse soit assez intense.

Tous ces échanges relèvent de la correspondance privée, sur Twitter via les « DM » (direct message) appelés aussi « MP » (messages privés).

D’un côté comme de l’autre, certains divulguent des parties de ces correspondances au public, sur le réseau social, dans des tweets victimaires, indignés ou encore vengeurs.

Citizen4Science a été interpellé sur un échange qui lui a été rapporté et a fait un court thread sur le sujet dont l’objectif était de dire que la correspondance privée n’est pas de la correspondance publique (sic), qu’elle est ainsi par principe confidentielle et expose juridiquement le destinataire qui divulgue.

Néanmoins C4S a utilisé pour cela le terme « secret de correspondance », notion qui n’était pas la bonne puisque le « secret » ne s’applique pas au destinataire de correspondance privée mais à des tiers qui interceptent ces correspondances privés.
Une correction a été immédiatement apportée suite à la remarque vigilante d’un twitto en ce sens.

Nous vous passons les nombreuses railleries donc C4S a été l’objet pour cette erreur corrigée dans la foulée, mais c’est la loi des réseaux sociaux dont l’association s’accomode très bien car c’est souvent très instructif.

Intervention éclairante d’avocat en 3 points concis

Un éminent avocat présent sur Twitter sous le pseudo « Maître Eolas » a été appelé à la rescousse pour clarifier cela et ses interventions ont été éclairants, permettant de confirmer :

• Oui, C4S n’aurait pas dû utiliser le terme violation de « secret de correspondance », cela ne s’applique pas pour le ai destinataire et à l’émetteur d’une correspondance.
  
• Oui, C4S a néanmoins raison sur le fait qu’il existe un risque juridique de qualification d’une « faute civile » si le destinataire divulgue

En bonus, cette précision : quand les échanges privés divulgués sont des personnes sous pseudo, ça compromet sérieusement la possibilité de démontrer une atteinte à la vie privée :

On remercie Maître Eolas pour ces interventions qui ont donné envie à la Rédaction de rédiger cet article.

Un peu de nuance

La conclusion à Citizen4Science, c’est de bonne guerre !

Et réfléchissons avant de divulguer publiquement nos correspondances privées, ce n’est pas anodin.

Une jurisprudence (Tribunal de Grande Instance de Paris 17e chambre, chambre de la presse, 2 novembre 2000 rappelle :

« toutes relations par écrit entre deux personnes identifiables, qu’il s’agisse de lettres, de messages ou de plis fermés ou ouverts constitue une correspondance couverte par le secret« 

S’il s’agit de messages privés au format électronique avec accès par mot de passe comme sur un réseau social, la diffusion est donc bien protégée par le secret.

Rappelons aussi la protection conférée par l’article 8 de la Convention Européenne des Droits de l’Homme

Mise à jour : 17/01/2024 – ajout du dernier paragraphe (jurisprudence)

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

Abonnez-vous à la Newsletter de Science infuse !