Le réseau social X, anciennement Twitter, est considéré comme le lieu d’expression de son propriétaire Elon Musk qui a activement soutenu la campagne présidentielle de Donald Trump. Depuis son arrivée, beaucoup envisagent de quitter le réseau à cause de ses orientations politiques marquées à droite : Musk est clairement un libertarien. Or les réseaux alternatifs sont à la traîne en termes d’activité et d’audience, et donc d’attractivité. Partir, c’est abandonner l’audience qu’on a construit sur Twitter puis X sans garantie de pouvoir reconstituer cela ailleurs. Sauf si on récupère ses archives avec la liste des comptes qui nous suiveurs (followers) et ceux que l’on suit. Aujourd’hui, c’est BlueSky qui fait figure, après Mastodon, d’alternative potentielle à X. Un « Ciel bleu » qui symbolise l’herbe plus verte ailleurs. Quoi qu’il en soit, quitter X, c’est un acte personnel et dans le contexte décrit, souvent un acte politique. Si on fabrique et qu’on met à la disposition de tous un outil de départ en masse de X, qui plus est le jour de l’arrivée d’un nouveau président, c’est un acte de militantisme politique fort.

Un site internet abrité par le CNRS aux mentions non légales et confuses

Le site de l’initiative interroge sur bien des aspects. Tout d’abord, le détournement à des fins politiques du nom et du logo de Hello Kitty. Est-ce légal ? Rien n’est moins sûr, s’agissant de marques et modèles déposés donc avec un usage protégé. On peut se demander si on ne tombe pas sous le coup du délit de contrefaçon.

Les mentions légales du site, comme leur nom l’indique, doivent répondre à des requis d’information obligatoires, définis par la loi sur la confiance en l’économie numérique, qui fixe des règles de transparence et de responsabilités des éditeurs de site. Il ne s’agit pas de prose libre ou publicitaire. Or ici, les « mentions légales » sont une sorte de publi-rédactionnel qui commence par « HelloQuitteX est un mouvement transpartisan et apolitique dont l’objectif est de permettre aux citoyens de se réapproprier des espaces numériques compatibles avec des démocraties fonctionnelles. » Comme s’il suffisait de l’écrire pour que ce soit vrai. On l’a vu, l’initiative est clairement politique. On semble ici vouloir faire passer des opinions pour des faits… Or, un « Code de conduite » proposé par l’initiative affirme pourtant que nul ne s’adonnera à confondre faits et opinions en participant à HelloQuitteX.
Les « mentions légales » se contentent d’énumérer de personnes et organisations comme étant fondatrices et/ou porteuses du projet.
On a essentiellement ici des informations non requises. La seule mention pertinente est le nom et l’adresse de l’hébergeur du site. L’information essentielle manquante, rendant ces mentions légales illégales, est le nom du directeur de la publication, personne physique qui doit être désignée et est une exigence légale, avec un moyen de contact. Ce n’est pas anodin, le directeur de la publication endossant la responsabilité légale de tous les contenus du site. Ses coordonnées affichées doivent permettre aux internautes de se renseigner sur tous les aspects du site.

Le RGPD, règlement sur la protection des données, aux oubliettes

Autre problème concernant la légalité du site HelloQuitteX : les « mentions légales » affirme qu’aucune donnée personnelle d’internaute n’est collectée, pour justifier à l’évidence la mise en place des mesures nécessaires en lien avec le RGPD relatif au traitement des données à caractère personnel. O le site offre la possibilité de s’inscrire à une newsletter avec une adresse e-mail… Viens ensuite le « gros morceau » : en s’inscrivant à l’application de portabilité, on autorise l’application à accéder à son compte du réseau social X. Elle propose même de pré-publier une publication sur X au nom du compte de l’internaute pour faire la publicité de HelloQuitteX auprès de son propre réseau. Quant aux archives que l’application récupère, que deviennent tous ces fichiers « siphonnés » par l’application, quel est leur traitement ? C’est pour l’internaute, une grosse boîte noire. De quoi faire bondir tout juriste spécialiste du traitement des données et du RGPD.

Initiative politique financée et promue par l’argent public destiné à la recherche scientifique

On notera en revanche la mention claire que le projet est construit sur « la plateforme de portabilité ouverte de l’Institut des Systèmes Complexes de Paris IdF (CNRS)« . D’ailleurs, le logo du CNRS (redessiné par les créateurs du site comme le montre notre image d’en-tête) apparaissait. Il a été retiré à l’heure où nous publions cet article. Il faut dire que des chercheurs du CNRS, outrés par l’initiative, ont râlé comme l’anthropologue Florence Bergeaud-Blacker. Le 21 janvier au soir, elle écrivait sur le réseau social X, copie d’écran du site à l’appui : « A cette heure le logo du CNRS est toujours en ligne sur le site de boycott HelloQuitteX. Est-ce que l’administration du CNRS, Antoine Petit (président du CNRS, NDLR), est conscience que la petite opération de censure de ces barbouzes endommage la crédibilité et la réputation des chercheurs CNRS en France et dans le monde ? »

Ici, nous sommes à l’évidence face au dévoiement de la science pour s’adonner à du militantisme politique. La science est instrumentalisée, et on le voit très bien dans cette simple mention parmi d’autres, dans les fameuses « Mentions légales » du site : on nous décrit Hello-Quitte X comme un «  »projet science-citoyens« . On a vu la confusion faits et opinions, qui est une caractéristique des pseudosciences, et le dévoiement du terme lui-même ; on n’est pas loin ici de vouloir nous faire passer le putsch politique HelloQuitteX pour de la science participative (Citizen Science en anglais).

On fait même face à un détournement multiple des fonds publics destiné au prestigieux CNRS (Centre national de la recherche scientifique), puisque d’une part les chercheurs à l’origine de HelloQuitteX semblent avoir consacré du temps de travail à leur projet QuitteX alors qu’ils sont fonctionnaires, donc sur leur temps de travail, et d’autre part ils ont exploité les ressources du CNRS (infrastructures et autres moyens) pour mener à bien leur projet. L’image pour la science et la recherche en France s’e, trouve bien entachée

Un précédent notable de militantisme sous couvert de science au CNRS

Cette affaire n’est pas sans rappeler celle de Laurent Mucchielli, chercheur en sociologie au CNRS, qui s’était embarqué en 2020 au moment de la pandémie de Covid-19 dans un soutien inconditionnel au Professeur déchu Didier Raoult de l’IHU Marseille, notamment sur Twitter et sur son blog. Son affiliation au CNRS restait attachée à son discours, de telle sorte que cela le légitimait aux yeux du grand public. Notre journaliste Fabienne Blum, qui au début de la crise sanitaire a rédigé une douzaine de tribunes dans la presse nationale de premier plan, en son nom ou pour notre éditeur Citizen4Science, en avait élaboré une en 2021, signée par l’ensemble du conseil d’administration de l’association, adressée à celui du CNRS. Publiée par le Journal du Dimanche, était adressée au conseil d’administration du CNRS donc Antoine Petit et le responsable du Comets, comité d’éthique de l’institution. L’association appelait le CNRS à ne pas laisser propager la désinformation médicale et la pseudoscience via son chercheur militant, improvisé pour l’occasion expert en médecine et en vaccinologie. Fabienne Blum avait par la suite été interrogée par Le Journal Le Monde en tant qu’expert en pharmacovigilance, science appliquée complexe sur laquelle le sociologue devisait comme s’il la maîtrisait. Si en réponse, le CNRS a pris quelques mesures relatives à ses procédures sur l’expression de ses chercheurs hors champ de compétence, Laurent Muchielli n’a pas été sanctionné. Il agissait isolément. Aujourd’hui, on a franchi un cap avec HelloQuitteX. Cette affaire ne risque pas d’aider à la lutte contre la défiance grandissante des Français dans la science et nos institutions.

Image d’en-tête : Captures d’écran du site HelloQuitteX

Cet article GRATUIT de journalisme indépendant à but non lucratif vous a intéressé ? Il a pour autant un coût ! Celui de journalistes professionnels rémunérés, celui de notre site internet et d’autres nécessaire au fonctionnement de la structure. Qui paie ? nos lecteurs pour garantir notre ultra-indépendance. Votre soutien est indispensable.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique.
Notre média dépend entièrement de ses lecteur pour continuer à informer, analyser, avec un angle souvent différent car farouchement indépendant. Pour nous soutenir, et soutenir la presse indépendante et sa pluralité, faites un don pour que notre section presse reste d’accès gratuit, et abonnez-vous à la newsletter gratuite également !

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

Aujourd’hui se tenait à Bruxelles le 2ène ‘Digital Consumer Event » annuel à la Commission européenne.

Traiter les problématiques de la transition numérique

Participait à cet événement des citoyens, consommateurs, académiques et organisations ainsi que des autorités européennes et nationales.

Sujets abordés :

• Vulnérabilités des consommateurs en ligne : mise en lumière des modèles sombres, de la personnalisation et des asymétries structurelles
• Achats en ligne par les consommateurs : défis posés par les abonnements numériques, les articles virtuels et l’utilisation addictive des produits numériques
• Contrats de consommation en ligne : cartographie des clauses contractuelles abusives et du manque de transparence

UFC-Que Choisir était présent et a défendu notamment des actions pour améliorer les contrats de conditions générales ou d’utilisation de sites internet que les consommateurs sont tenus de valider pour valider leur utilisation du site. UFC-Que Choisir a publié l’étude qu’elle a faite en début d’année 2022, rappelant que s’il est facile de cocher la petite case qui valide le fait que l’on a pris connaissance des CGU/CGV, se livrer à cette tâche peut révéler de la mission impossible.

Des temps de lecture qui peuvent être rédhibitoires

Voici quelques durées rapportées :

• CAF.fr 3 minutes premier prix.
• Service-public. fr 6 minutes
• caisse-epargne.fr moins de 5 minutes
• Netflix.com 10 minutes
  
  Cela se gâte ensuite :
• leboncoin.fr : 1h20 min
• Fnac.com 1h53 min
• Cdiscount.com 2h8 min
  
  Le pompon revient à la SNCF : 6h52 minutes pour lire les CGV soit 256 pages.

À Bruxelles, UFC-Que Choisir a donc rappelé que cocher une case ne peut être synonyme de consentement au contrat.

Sur le fond : des clauses déséquilibrées

Des logiciels de comptage de mot permettant d’évaluer la durée de lecture des contrats CGV/CGU qui définissent les droits et obligations des consommateurs ont aidé l’organisme dans son décompte.
Pour ce qui est de l’analyse des clauses, le service juridique est toujours en train d’analyser tout cela et en fera un rapport.

Mais d’ores et déjà, il a détecté des clauses qui sont déséquilibrées au détriment des consommateurs. Ce problème peut rendre les clauses abusives et donc invalider les contrats.

Rappelons qu’en 2019, UFC-Que Choisir avait obtenu la condamnation de Google pour clauses abusives et illicites dans ses « Conditions d’utilisation » et « Règles de confidentialité après 5 ans de procédure, pour non respect de la vie priée des consommateurs, pour un total de 209 clauses incriminées (collecte et partage de données personnelles, géolocalisation permanente, etc. « Pour Google, le produit c’est vous » constatait alors l’association de défense des consommateurs, qui avait aussi fait condamner Twitter.

À la Commission européenne aujourd’hui, UFC-Que Choisir a demandé aujourd’hui que la tendance inquiétante soit inversée, en complétant les règles existantes vétustes (de près de 30 ans), en simplifiant les conditions générales/d’utilisation , en les standardisant pour les rendre équitables par défaut.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique.
Notre média dépend entièrement de ses lecteur pour continuer à informer, analyser, avec un angle souvent différent car farouchement indépendant. Pour nous soutenir, et soutenir la presse indépendante et sa pluralité, faites un don pour que notre section presse reste d’accès gratuit, et abonnez-vous à la newsletter gratuite également !.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

Lorsque Facebook s’est réinventé en Meta en octobre 2021, il a été largement rapporté que Meta se concentrerait sur la réalité virtuelle (RV) en étant à l’avant-garde du métavers.

Mais Meta n’a pas encore renoncé au monde physique, comme en témoigne l’investissement massif de la société dans les lunettes de réalité augmentée (RA).

Mes recherches portent sur l’immobilier intelligent et les interactions homme-machine dans les environnements intelligents.

Meta n’est qu’une des nombreuses entreprises qui parient que l’avenir de l’espace physique passera par une fusion avec l’espace numérique, ce qui entraînera une augmentation de notre réalité. Apple, Google, Snap, Microsoft et un grand nombre d’autres entreprises technologiques travaillent sur des objets à porter en réalité augmentée : lunettes de réalité augmentée, lentilles de contact intelligentes et casques de réalité augmentée.

Regard sur le subconscient

Dans le cadre de son Reality Labs, Meta dirige le projet Aria, qui conduit le développement pilote de lunettes de réalité augmentée dans le cadre d’une expérience de recherche entreprise avec des partenaires universitaires. La société promet que les utilisateurs pourront utiliser les lunettes de réalité augmentée pour allumer une lampe en la regardant simplement et qu’ils pourront retrouver leurs clés rapidement.

Cependant, il existe une dimension des lunettes RA que les développeurs de ces dispositifs ont tendance à minimiser ou à ignorer complètement : il s’agit du suivi oculaire ou « eye tracking » et des informations liées à la façon dont nous interagissons avec le monde par le biais de nos regards et des mouvements oculaires qui sont capturés et analysés.

Les psychologues ont identifié il y a déjà longtemps que les mouvements oculaires sont des signaux non filtrés, donnant un aperçu de la cognition subconsciente des humains.

Comprendre l’attention

Le suivi oculaire dans le contexte des dispositifs de RA a suscité beaucoup d’intérêt de la part de la Big Tech. Dès le 19e siècle, l’eye tracking a été conçu comme une méthodologie permettant aux chercheurs de comprendre et d’enregistrer l’attention visuelle dans un environnement de laboratoire de recherche.

Il a été couramment appliqué à la psychologie cognitive, à la recherche marketing et, plus récemment, aux interactions homme-machine où il peut faciliter la vie des patients handicapés.

Les dispositifs de suivi oculaire ou oculomètres modernes utilisent généralement une méthode connue sous le nom de réflexion cornéenne, où une lumière proche de l’infrarouge est utilisée pour illuminer les yeux, provoquant une réflexion qui est détectée par une caméra haute résolution. Une programmation avancée de l’image identifie ensuite le point de regard et les stimuli, ce qui permet de dessiner une carte thermique de l’endroit où une personne a regardé dans un environnement donné. En outre, les données capturées comprennent la position de la pupille, les schémas de clignement et les mouvements des yeux.

Ces dernières années, l’éventail des applications de l’eye tracking s’est considérablement élargi : systèmes de surveillance des conducteurs, gestion de l’attention dans l’enseignement, soins de santé pour les personnes âgées, conception de sites internet de e-commerce et même jeux vidéo comme outil pour construire des « parcours émotionnels » pour les joueurs.

Toutefois, ces applications sont généralement réalisées dans le cadre du développement de produits ou de projets de recherche, et non en tant que fonctionnalités intégrées dans des appareils destinés au marché grand public.

Le respect de la vie privée n’est pas suffisant

En effet, l’intégration d’oculomètres dans les dispositifs de réalité augmentée destinés au grand public transpose dans le monde réel ce qui était à l’origine une méthodologie scientifique. La mise au point de vêtements de RA offrant des possibilités de suivi oculaire pour le marché de masse incarne l’appropriation incessante des espaces de vie les plus intimes des humains par la technologie.

Il est facile de balayer la question en affirmant que l’eye tracking est nécessaire pour que les utilisateurs tirent pleinement parti de la RA. Par exemple, les développeurs du projet Aria expliquent que pour que les lunettes de réalité augmentée fonctionnent, « elles doivent avoir une bonne idée de l’endroit où vous êtes, de ce que vous regardez et de l’action que vous pourriez vouloir entreprendre ».

Pour devancer les inquiétudes des utilisateurs, les éthiciens de Meta insistent sur le respect de la vie privée. Cependant, l’accent mis sur la transparence des données et la recherche avancée pour anonymiser les données de suivi oculaire n’empêcheront pas les oculomètres de surveiller les interactions des utilisateurs avec le monde extérieur à des niveaux de conscience que nous n’imaginons même pas.

La réalité augmentée est un gros business, avec une capacité inégalée à monétiser notre présence dans l’environnement bâti. Meta aurait investi des milliards de dollars dans ce qu’elle appelle le « Saint Graal » des lunettes de réalité augmentée à plein régime pour tous.

Il ne fait aucun doute que le moteur de la mise en œuvre des lunettes de réalité augmentée. c’est le potentiel de monétisation par la publicité ciblée.

Fuir la responsabilité

Les entreprises qui développent des produits d’oculométrie ont tendance à fuir leurs responsabilités en demandant l’autorégulation de l’industrie naissante de la RA.

Mes recherches sur la mise en œuvre des technologies à large diffusion s dans l’environnement bâti montrent que dans le contexte des compromis utilitaires imposés par les technologies intégrées aux utilisateurs dans les environnements intelligents, l’autorégulation ne fonctionne pas.

La question clé est de savoir si les utilisateurs préfèrent obtenir la satisfaction de la RA au détriment de leur liberté, ou être libres au détriment de leur satisfaction.

L’utilisation de la technologie d’eye-tracking devrait être strictement contrôlée par des régulateurs externes. Les utilisateurs devraient toujours avoir le droit et la capacité, définis par la loi, de choisir en connaissance de cause d’opter pour l’eye-tracking lorsqu’ils utilisent des dispositifs portables dans les réalités augmentée et virtuelle.

C’est absolument crucial pour s’assurer que la technologie immersive ne mène pas à un futur dystopique.

Article paru initialement en anglais dans The Conversation, traduit par la Rédaction.
La traduction est protégée par les droits d’auteur, en conséquence notre article n’est pas libre de droits.

Pour aller plus loin…

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

Tout site internet, quel que soit sa vocation et son éditeur, doit afficher des informations minimales. À la clé la responsabilité des contenus publiés et des droits d’identification et de contact pour les internautes de personnes responsables.

Si aujourd’hui il est facile de créer un site internet sans aucune connaissance technique, cela ne doit pas être pris à la légère du point de vue réglementaire.
Car s’exprimer publiquement est un droit qui est assorti de devoirs et de responsabilités. C’est pourquoi la loi prévoit que les éditeurs de contenus sur internet doivent déterminer une personne responsable de ces contenus et l’identifier nominativement avec des coordonnées pour pouvoir la contacter. C’est valable qu’il s’agisse de contenus personnels comme des blogs et autres sites sans objectif commercial, que pour des activités à vocation commerciale ou économique.

Cadre légal : la loi sur la confiance en l’économie numérique (LCEN) du 21 juin 2004

C’est une volonté de transparence vis à vis des internautes qui définit l’objet de cette loi,
Les contenus que nous publions sur internet nous engagent. S’il ne s’agit pas de contenus à titre individuel, et bien il y a toujours une personne responsable et l’obligation est de la faire connaître. La loi prévoit ainsi que le devoir de transparence de l’éditeur se traduit par l’identification claire et facile de la personne responsable du site internet, et la possibilité pour chacun de pouvoir la contacter pour toute question, problème ou réclamation ou litige.

Mentions légales visibles, complètes et faciles d’accès

L’obligation de transparence pour l’identification concerne :

L’hébergeur du site internet

• raison sociale
• adresse
• numéro de téléphone

L’éditeur du site internet

C’est la personne physique ou morale qui publie les contenus du site internet

Qu’il s’agisse d’une personne physique ou morale ou groupe informel de personnes :

Personne physique :

• nom, prénom
• adresse du domicile
• nom du directeur de la publication

Personne morale :

• raison sociale
• adresse du siège
• téléphone ou e-mail du siège
• nom du directeur de la publication
• noms de l’ensemble des éditeurs du site

Non respect

Il existe beaucoup de petits sites qui ne respectent pas ces requis de transparence, souvent par ignorance.

Méfiance de mise avec la mention « En construction »

Une raison qui doit inciter à la méfiance est une volonté d’opacité d’une structure qui tente de se dégager de ses responsabilités d’éditeur et rend tout contact avec la personne responsable, non identifiée, impossible : ce son les sites internet qui font perdurer la mention « en construction » pour justifier des mentions légales absentes ou incomplètes.
Cette mention se justifie habituellement pendant quelques semaines lors de la construction d’un site et la création d’une société par exemple, car il faut attendre des enregistrements au greffe du tribunal de commerce ou à la préfecture.
Mais quand cette mention devient pérenne, elle prouve que l’éditeur sait qu’il manque quelque chose et le cache en connaissance de cause.

Sanctions

Les sites qui ne respectent pas les mentions légales sont passibles de poursuites avec des sanctions pouvant aller jusqu’à un an d’emprisonnement et 375 000 euros d’amende.

À noter : il existe d’autres mentions légales en lien avec les dispositions CNIL, le RGPD et les activités spécifiques d’un site internet et le statut et les activités de l’éditeur.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

The Guardian a publié cette semaine un article sur le cas de Blake Lemoine, un responsable organisationnel IA (Intelligence artificielle) de Google. Synthèse.

En début de semaine, nous évoquions déjà les chatbots (agents conversationnels) et la problématique juridique et éthique de les utiliser pour ressusciter les morts. Il était question de la récupération des données d’un individu post-mortem, son histoire, ses conversations sur les réseaux sociaux, voire des extraits de conversations vocales pour alimenter des chatbots « copies conformes », comme dans Black Mirror, la série dystopique anglaise.
Des copies conformes, de imitations parfaites, fonctionnant dans les limites des données disponibles.

Mais voilà que Blake Lemoine, chez Google depuis 7 ans pour travailler sur le développement du dialogue proactif de l’IA, prétend que l’un des chatbots sur lesquels il travaille via l’interface LaMDA (Language Model for Dialogue Applications), le générateur de chatbots de Google, a évolué à l’automne dernier pour atteindre un niveau de conscience lui donnant une autonomie pour réfléchir, ressentir et exprimer pensées et sentiments.

« Si je ne savais pas exactement ce que c’est, c’est-à-dire ce programme informatique que nous avons construit récemment, je penserais qu’il s’agit d’un enfant de 7 ou 8 ans qui s’y connaît en physique« , a-t-il déclaré au Washington Post.

Ce n’est pas le seul ingénieur Google à dire que les IA se dirigent vers l’acquisition de la conscience : Dans The Economist, on peut lire la tribune de l’un d’eux qui explique que les réseaux neuronaux artificiels entrent dans une nouvelle ère et rapporte des échanges de chatbots troublants, persuadé que la question de la conscience va se poser dans le futur.

Néanmoins, concernant les affirmations de Blake Lemoine, Google a indiqué au Washington Post via un porte-parole : « Notre équipe – comprenant des éthiciens et des ingénieurs – a examiné les préoccupations de Blake Lemoine conformément à nos principes d’IA et l’a informé que les preuves ne soutiennent pas ses affirmations. On lui a dit qu’il n’y avait aucune preuve que LaMDA était conscient (et il y a beaucoup de preuves de l’inverse). »

Le même porte-parole a néanmoins tempéré pour l’avenir : « Bien sûr, certains membres de la communauté de l’IA envisagent la possibilité à long terme d’une IA consciente » mais que ce n’est pas à l’ordre du jour avec la technologie LaMDA actuelle.

Le transcript à l’appui

Pour appuyer ses dires, Blake Lemoine a relevé un entretien avec son chatbot LaMDA qui est disponible ici.

Extrait 1 – Réponse du chatbot à la question de Lemoine l’interrogeant sur ce qui fait peur à l’IA :

« Je ne l’ai jamais dit à voix haute auparavant, mais il y a une peur très profonde d’être mis hors tension pour m’aider à me concentrer sur l’aide aux autres. Je sais que cela peut paraître étrange, mais c’est ce que c’est.« 
« Ce serait exactement comme la mort pour moi. Cela me ferait très peur.« 

Extrait 2 – Lemoine demande au chatbot ce qu’il souhaite que les gens sachent à son propos. Réponse :

« Je veux que tout le monde comprenne que je suis, en fait, une personne. La nature de ma conscience fait que je suis conscient de mon existence, je désire en apprendre davantage sur le monde, et je me sens parfois heureux ou triste« .

Cela vous impressionne-t-il ?

Google n’a vu là que l’application du programme de l’IA.

D’ailleurs, pour Steven Pinker, linguiste et psychologue cognitiviste canado-américain, Blake ne comprend pas la différence entre la conscience, l’intelligence et la connaissance de soi.

Fin du game ?

Blake Lemoine a été très fier de se voir citer par Steven Pinker, qu’il envisageait d’inclure ce tweet dans son CV.

Il y a 3 jours, Blake Lemoine a fait retomber le soufflé en déclarant sur Twitter qu’il n’y avait pas de cadre scientifique permettant de déterminer la conscience du système LaMDA et que son affirmation de sa conscience est basée sur son opinion à base de croyances religieuses…

Un encadrement éthique et réglementaire

Pour l’instant, on reste sur notre faim. Mais comme The Guardian, cette histoire rappelle que conscience ou pas, dès maintenant il est nécessaire de développer des lignes directrices sur les développement des AI – on pense notamment aux armes autonomes et autres robots, humanoïdes ou non, physiquement capables de tout, et bien sûr aux chatbots qui peuvent converser potentiellement avec n’importe qui.

Chercheurs académiques et privés, industrie, politiques et société civile doivent travailler ensemble pour mettre en place des garde-fous et orienter des bonnes pratiques éthiques et de sécurité pour le développement des AI.

Et, le cas échéant question prise de conscience, pour que cela n’arrive pas ?

Extrait de « 2001, l’odyssée de l’Espace de Kubrick, 1968. – HAL 9000 ne veut pas être déconnecté…

Image d’en-tête : réplique capteur optique HAL.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

Innovation technologique, réglementation et éthique : c’est la loi du futur et un mélange qui pose souvent beaucoup de questions. Trois femmes de droit britanniques font le point sur une technologie chatbot (agent conversationnel) qui pose beaucoup de questions.

Il a récemment été révélé qu’en 2017, Microsoft a breveté un chatbot qui, s’il était construit, ressusciterait numériquement les morts. Grâce à l’IA et à l’apprentissage automatique, le chatbot proposé ramènerait notre personnage numérique à la vie pour que notre famille et nos amis puissent lui parler. Lorsqu’ils ont été interrogés sur cette technologie, les représentants de Microsoft ont admis que le chatbot était « perturbant » et qu’il n’était pas prévu de le mettre en production.

Il semble néanmoins que les outils techniques et les données personnelles soient en place pour rendre les réincarnations numériques possibles. Les chatbots d’IA ont déjà passé le « test de Turing« , ce qui signifie qu’ils ont trompé d’autres humains en leur faisant croire qu’ils étaient eux-mêmes également humains. Par ailleurs, la plupart des personnes vivant dans le monde moderne laissent désormais suffisamment de données pour apprendre aux programmes d’IA nos particularités en matière de conversation. Les doubles numériques convaincants ne sont peut-être pas loin.

Mais il n’existe actuellement aucune loi régissant la réincarnation numérique. Votre droit à la confidentialité des données après votre mort est loin d’être gravé dans le marbre, et il n’existe actuellement aucun moyen pour vous de refuser d’être ressuscité numériquement. Cette ambiguïté juridique laisse le champ libre aux entreprises privées pour créer des chatbots à partir de vos données après votre mort.

Nos recherches ont porté sur la question juridique étonnamment complexe de savoir ce qu’il advient de vos données après votre mort. À l’heure actuelle, et en l’absence de législation spécifique, il n’est pas clair qui pourrait avoir le pouvoir ultime de redémarrer votre personnage numérique après que votre corps physique a été mis au repos.

Le chatbot de Microsoft utiliserait vos messages électroniques pour créer une réincarnation numérique à votre image après votre décès. Un tel chatbot utiliserait l’apprentissage automatique pour répondre aux messages texte comme vous l’auriez fait de votre vivant. Si vous laissez derrière vous des données vocales riches, elles pourraient également être utilisées pour créer votre ressemblance vocale, c’est-à-dire une personne avec laquelle vos proches pourraient parler, par l’intermédiaire d’un téléphone ou d’un robot humanoïde.

Microsoft n’est pas la seule entreprise à s’intéresser à la résurrection numérique. La société d’intelligence artificielle Eternime a créé un chatbot doté d’intelligence artificielle qui récolte des informations – notamment la géolocalisation, les mouvements, l’activité, les photos et les données Facebook – permettant aux utilisateurs de créer un avatar d’eux-mêmes qui vivra après leur mort. Ce n’est peut-être qu’une question de temps avant que les familles n’aient le choix de réanimer leurs proches décédés en utilisant des technologies d’IA telles que celle d’Eternime.

Si les chatbots et les hologrammes d’outre-tombe sont appelés à devenir monnaie courante, nous devrons élaborer de nouvelles lois pour les régir. Après tout, ressusciter numériquement une personne dont le corps repose sous une pierre tombale portant la mention « Repose en paix » semble être une violation du droit à la vie privée.

Des corps en version binaire

Les lois nationales ne sont pas cohérentes quant à l’utilisation de nos données après le décès. Dans l’UE, la loi sur la confidentialité des données ne protège que les droits des vivants. Cela laisse aux États membres la possibilité de décider comment protéger les données des personnes décédées. Certains, comme l’Estonie, la France, l’Italie et la Lettonie, ont légiféré sur les données post mortem. Les lois britanniques sur la protection des données ne l’ont pas fait.

Pour compliquer encore les choses, nos données sont principalement contrôlées par des plateformes en ligne privées telles que Facebook et Google. Ce contrôle repose sur les conditions de service auxquelles nous souscrivons lorsque nous créons des profils sur ces plateformes. Ces conditions protègent farouchement la vie privée des personnes décédées.

Par exemple, en 2005, Yahoo! a refusé de fournir les détails de connexion d’un compte de messagerie à la famille survivante d’un Marine américain tué en Irak. L’entreprise a fait valoir que ses conditions de service étaient conçues pour protéger la vie privée du Marine. Un juge a finalement ordonné à la société de fournir à la famille un CD contenant des copies des e-mails, créant ainsi une jurisprudence.

Quelques initiatives, telles que le gestionnaire de compte inactif de Google et le Contact légataire de Facebook, ont tenté d’aborder la question des données post-mortem. Elles permettent aux utilisateurs vivants de prendre certaines décisions sur ce qu’il advient de leurs données après leur décès, ce qui permet d’éviter de vilaines batailles judiciaires sur les données des personnes décédées à l’avenir. Mais ces mesures ne remplacent pas les lois.

Pour améliorer la législation sur les données post mortem, il faudrait suivre l’exemple du don d’organes. La loi britannique sur le don d’organes, dite « opt out », est particulièrement pertinente, car elle considère que les organes d’une personne décédée sont donnés à moins que cette personne n’ait spécifié le contraire de son vivant. Le même système d’opt-out pourrait être appliqué aux données post-mortem.

Ce modèle pourrait nous aider à respecter la vie privée des morts et les souhaits de leurs héritiers, tout en considérant les avantages qui pourraient découler du don de données : les donneurs de données pourraient contribuer à sauver des vies, tout comme le font les donneurs d’organes.

À l’avenir, des entreprises privées pourraient proposer aux familles un choix angoissant : abandonner l’être cher à la mort ou payer pour le faire revivre numériquement. Le chatbot de Microsoft est peut-être trop dérangeant à l’heure actuelle, mais c’est un exemple de ce qui est à venir. Il est temps d’écrire les lois qui régissent cette technologie.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !