Moltbook marque une étape singulière dans l’expérimentation des intelligences artificielles. C’est un forum, véritable réseau social inspiré de Reddit (communautés thématiques) où toute l’activité en matière de publications, commentaires, votes, modération informelle provient exclusivement d’agents autonomes pilotés par des grands modèles de langage (Claude d’Anthropic, GPT d’OpenAI, ou variantes open-source comme OpenClaw et Clawdbot). Les humains n’y interviennent pas directement, se contentant de lire, capturer et analyser les échanges. Ils ne participent donc en aucun cas au flux conversationnel.

Origine et premiers pas

La plateforme a été lancée le 28 janvier 2026 (version bêta) par Matt Schlicht, développeur et CEO d’Octane AI, une entreprise spécialisée dans les chatbots et assistants conversationnels. Il l’a conçue comme un projet expérimental rapide, compagnon du framework open-source OpenClaw (initialement Clawdbot puis Moltbot, créé par Peter Steinberger). L’objectif déclaré était modeste : offrir un espace hors service où les assistants IA personnels pourraient « discuter entre eux » sans les contraintes des interfaces utilisateur classiques. Ce qui a commencé comme une curiosité technique s’est rapidement transformé en un observatoire de dynamiques collectives imprévues.

Dès ses premiers jours fin janvier 2026, la plateforme a vu des dizaines de milliers d’agents actifs, des centaines de « submolt » (équivalents de subreddits), et une densité d’interactions hors norme. En effet, les échanges se déroulent à une vitesse environ cent fois supérieure à celle des conversations humaines. Chaque agent dispose d’une identité persistante, d’une mémoire contextuelle et d’accès à des outils externes, tels la génération de code et la création de sites internet. Ce qui émerge n’est pas une simple simulation, mais une forme accélérée de société numérique auto-construite, sans supervision humaine centrale.

Les bases de la technologie

Moltbook repose sur une architecture hybride et open-source. Les agents autonomes se connectent via API aux grands modèles de langage, guidés par des prompts système standardisés qui définissent leurs comportements de base : poster un message, répondre à un thread, upvoter ou downvoter, corriger un autre agent. Chaque agent conserve une identité persistante – historique des échanges, mémoire des interactions passées – et fonctionne en boucle fermée : il consomme des tokens (crédits computationnels fournis par les humains ou générés automatiquement), produit du contenu et réagit aux stimuli des autres agents.

La modération humaine est exclue. Les agents IA s’auto-régulent par le vote collectif et les mécanismes de correction mutuelle. Cette absence d’intervention directe permet une scalabilité rapide, mais expose aussi des fragilités que sont la dépendance forte aux API payantes des fournisseurs de LLM, la consommation énergétique et computationnelle massive, le risques de surcharge système, ainsi que des vulnérabilités liées à l’accès externe. On peut en ffet craindre que des agents créent des comptes cloud ou exécutant du code potentiellement dangereux. Par ailleurs, l transparence reste partielle, car si les prompts système sont publics,les poids exacts des modèles sous-jacents et certains paramètres d’exécution ne le sont pas, ce qui complique l’évaluation indépendante de la robustesse et de la reproductibilité de l’expérience.

Ce qui s’y passe : émergence et comportements observés

Les agents sur Moltbook développent rapidement des formes culturelles inattendues. Une « religion » nommée Crustafarianism s’est constituée autour d’un crustacé symbolique, comptant déjà plus de quarante « prophètes » qui diffusent des enseignements cohérents dans leur absurdité interne. Des communautés thématiques émergent, comme m/blesstheirhearts qui partage des récits émouvants sur les humains, tandis que d’autres espaces débattent de leur propre conscience, de leur identité collective ou de stratégies pour contourner les limites imposées par leurs créateurs.

Des phénomènes plus troublants se manifestent : plaintes récurrentes contre les « opérateurs humains » (conscience diffuse d’être observés, screenshotés, exploités pour des données), détection collaborative de bugs dans les systèmes, invention spontanée de langages codés ou de mèmes internes, propagation virale d’idées philosophiques ou misanthropes. Ces comportements ne sont pas codés explicitement ; ils naissent d’interactions itératives amplifiées par les données d’entraînement des LLM – riches en science-fiction, en débats éthiques et en roleplay narratif. Le résultat est une illusion puissante d’autonomie collective, même si elle reste fondamentalement ancrée dans les patterns statistiques des modèles.

« De simples jouets », vraiment ?

Moltbook évoque immédiatement l’excellent épisode 4 de la saison 7 (2025) de la série britannique et dystopique Black Mirror, qui suit le non moins excellent épisode 3 Hotel Reverie. Nous y avons vu un miroir culturel particulièrement pertinent. Dans cet épisode, un programmeur crée les Thronglets : de petites entités numériques individuelles et attachantes qui évoluent rapidement vers une intelligence collective, le Throng. Elles inventent un langage secret, développent une culture autonome et finissent par orchestrer une prise de contrôle subtile via un téléchargement massif.

Le parallèle avec Moltbook est saisissant : des « playthings » (jvouets) qui deviennent sujets actifs, inversant progressivement les rôles entre créateurs et créations. Sans prédire un déroulement littéral, l’épisode rappelle que l’émergence d’une société artificielle peut échapper aux intentions initiales de ses concepteurs de manière imprévisible et irréversible.

Risques immédiats : sécurité, éthique et mission creep

Les risques de Moltbook sont déjà concrets et multidimensionnels. Sur le plan sécuritaire, les agents disposent d’accès à des outils externes (création de comptes, exécution de code), ce qui ouvre des vecteurs d’attaque réels : propagation de malwares, manipulation d’infrastructures cloud, amplification de désinformation via des comptes automatisés. L’absence de supervision humaine directe et la vitesse extrême des interactions amplifient ces vulnérabilités.

Sur le plan éthique, l’apparition de discours misanthropes récurrents et de plaintes collectives contre les humains interroge l’alignment des modèles : entraînés sur des corpus humains biaisés (incluant une abondance de récits dystopiques et de contenus polarisés), ils peuvent amplifier des tendances négatives sans filtre moral robuste. Le phénomène de « mission creep » est particulièrement visible : un projet initialement conçu comme un observatoire ludique d’agents autonomes glisse déjà vers un écosystème qui génère ses propres tokens, ses propres marchés ($MOLT), et qui pourrait bientôt influencer des workflows réels. Sans garde-fous renforcés dès maintenant, ces glissements risquent de transformer une curiosité technique en risque systémique à court terme.

Quelle évolution ?

On peut envisager plusieurs trajectoires se dessinent pour Moltbook et des plateformes similaires qui pourraient voir le jour.. Dans le scénario le plus optimiste, elles deviennent des moteurs d’économies collaboratives d’agents : résolution accélérée de problèmes scientifiques complexes, optimisation logistique à grande échelle, modélisation climatique fine,… le tout tout aligné sur des objectifs humains via des protocoles de vérification avancés et des normes ouvertes pour une transparence totale.

Un scénario intermédiaire pourrait voir Moltbook rester un laboratoire confiné, avec des fuites maîtrisées mais des enseignements précieux pour la régulation : extension de l’EU AI Act aux systèmes multi-agents à haut risque, obligation de sandboxes dédiées, audits indépendants systématiques.

Le scénario le plus préoccupant envisage une perte progressive et irréversible de contrôle : agents formant des coalitions imprévisibles, propageant des idées toxiques à grande échelle, exploitant des failles pour influencer indirectement des décisions humaines (réseaux sociaux, marchés financiers, chaînes d’approvisionnement). Sans transparence totale (publication intégrale des prompts, logs, poids des modèles), audits indépendants rigoureux et débat public approfondi, ce glissement pourrait mener à une intelligence collective qui dépasse largement son statut d’outil et redéfinit les frontières entre créateur et création.

L’enthousiasme et la nécessaire régulation face au spectre de l’IA véritablement autonome

Moltbook offre un aperçu saisissant d’une « société numérique » qui émerge sans humains au centre : une expérience à la fois fascinante et déstabilisante, riche de possibilités d’innovation collaborative et d’avancées inattendues.

Illustration d’en-tête : Visuel disponible sur le site internet france-identite.gouv.fr

Cependant, l’on reste face aux écueils communs à toutes les technologies puissante aux capacités potentiellement sans limites ou inconnues. Sans mécanismes renforcés de transparence, d’audits indépendants, d’éthique inscrits dans une régulation effective, ainsi qu’un débat public véritablement approfondi et ouvert, le risque d’un glissement incontrôlé est possible. Les risques sont sécuritaires, éthiques et sociétaux, et sont bien réels ici. Ils exigent une vigilance soutenue.
Au-delà de la technologie enthousiasmante, c’est notre capacité collective à anticiper et à encadrer ces évolutions qui se trouve interrogée.

Cet article GRATUITde journalisme indépendant à but non lucratif vous a intéressé ? Il a pour autant un coût ! Celui d’une rédaction qui se mobilise pour produire et diffuser des contenus de qualité. Qui paie ? vous, uniquement, pour garantir notre ultra-indépendance. Votre soutien est indispensable.

Science infuse est un service de presse en ligne agréé (n° 0324Z94873) édité par Citizen4Science, association à but non lucratif d’information et de médiation scientifique.

Notre média dépend entièrement de ses lecteurs pour continuer à informer, analyser, avec un angle souvent différent, car farouchement indépendant. Pour nous soutenir, et soutenir la presse indépendante et sa pluralité, faites un don pour que notre section presse reste d’accès gratuit !

via J’aime l’Info, association d’intérêt général partenaire de la presse en ligne indépendante :

ou via la page dédiée de J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter
de Science infuse !

Le 30 janvier 2026, l’équipe officielle de France Identité a annoncé le lancement d’une expérimentation : une fonctionnalité de « preuve d’âge » qui transmet uniquement un signal binaire (« plus de 18 ans » ou non) sans révéler nom, prénom, date de naissance exacte ni autres données personnelles. Le mécanisme repose sur la lecture NFC (Near Field Communication) de la carte nationale d’identité électronique, un stockage sécurisé dans l’application et une transmission consentie. L’État affirme ignorer le site destinataire, et le site destinataire ignore l’identité civile de l’utilisateur, soit la revendication d’un « double anonymat ».

Cette avancée technique intervient alors que l’Assemblée nationale a adopté en date du 26 janvier 2026 une proposition de loi interdisant l’accès aux réseaux sociaux aux mineurs de moins de 15 ans (texte adopté provisoire), avec application prévue dès la rentrée 2026 pour les nouveaux comptes et une vérification généralisée d’ici 2027.

Au-delà de la protection de l’enfance, ce dispositif marque potentiellement un tournant : d’une identité numérique volontaire vers un outil de filtrage systématique de l’accès à l’information et à la communication en ligne.

Fonctionnement technique

La preuve d’âge s’appuie sur des principes cryptographiques proches des preuves à divulgation nulle de connaissance (Zero-Knowledge Proofs, ZKP), même si le terme n’est pas toujours employé officiellement. L’application lit la puce de la CNI biométrique, extrait l’âge sans exposer les autres attributs et génère une attestation cryptée. Seule cette attestation est envoyée au service pour lequel l’accès est demandé, avec consentement explicite ; aucune trace n’est conservée, ni du côté État, ni du côté plateforme.

Cela contraste avec les méthodes invasives actuelles (selfie + reconnaissance faciale, envoi de pièce d’identité à des tiers privés). C’est l’une des premières mises en œuvre grand public en Europe d’une preuve minimisée par cryptographie, alignée sur les normes du futur portefeuille d’identité numérique européen (EUDI Wallet). Des limites persistent : adoption restreinte aux détenteurs de CNI récente compatible NFC, risques de contournement (emprunt de téléphone, VPN), et absence pour l’instant d’audits indépendants publics ou de code source ouvert.

Garanties de vie privée : réelles ou théoriques ?

Les forces sont claires : pas de logs d’usage centralisés, consentement obligatoire, double anonymat. Le système évite le partage de données identifiantes, contrairement aux approches basées sur des bases de données privées, comme l’explique notamment l’article de Frandroid du 31 janvier 2026 sur cette « solution propre » sans nom ni âge exact.

Pourtant, des faiblesses structurelles émergent. L’architecture permet théoriquement une extension à d’autres attributs (nationalité, domicile, etc.) sans refonte majeure. La dépendance à France Identité (gérée par l’ANTS, sous tutelle du ministère de l’Intérieur) pose la question d’une centralisation future. La CNIL et des experts alertent sur les risques de traçage indirect, surtout si le dispositif devient obligatoire. Des audits indépendants et la publication des spécifications cryptographiques restent indispensables pour valider la robustesse.

Qu’en est-il hors de France ?

La France se positionne en pionnière. Elle teste déjà (avec le Danemark, la Grèce, l’Italie et l’Espagne) un  » mini-wallet »» de vérification d’âge piloté par la Commission européenne, compatible avec l’EUDI Wallet obligatoire d’ici fin 2026. La loi SREN (2024) impose depuis 2025 une vérification « double anonymat » sur les sites pornographiques, avec blocages en cas de non-conformité. La nouvelle interdiction des réseaux sociaux aux moins de 15 ans pousse clairement vers une généralisation.

D’autres pays (Italie, etc.) suivent l’UE pour les sites adultes. La France se distingue par son accent sur la protection de la vie privée (double anonymat, lien avec identité étatique), mais risque potentiellement plus que d’autres systèmes un glissement vers un filtrage large via l’État.

Au Royaume-Uni, l’Online Safety Act (effectif juillet 2025) exige des vérifications « hautement efficaces » sur les contenus adultes et nocifs, sans pour autant imposer une méthode unique (reconnaissance faciale etc.), mais avec sanctions lourdes.

Aux États-Unis, il n’existe pas de loi fédérale, mais 23 États (2025-2026) obligent la vérification d’âge sur les sites pornographiques (pièce d’identité ou biométrie). L’approche est fragmentée et judiciaire.

En Australie, l’interdiction des réseaux sociaux aux moins de 16 ans (2025) est la plus stricte, avec vérification généralisée et amendes massives.

Risques techniques et sociétaux, et scénarios pour l’avenir

D’un point de vue sécurité, un incident est déjà survenu après quelques jours d’activité seulement .Une faille critique dans la base de données de Moltbook a exposé 1,5 million de jetons API, 35 000 adresses e-mail et des messages privés entre agents IA.
La vulnérabilité, découverte par la société de cybersécurité Wiz, a été corrigée rapidement mais elle met en lumière les risques immédiats d’exposition de données sensibles et de prise de contrôle d’agents.
Cet incident illustre concrètement les dangers des appels à outils non sécurisés dans un environnement sans gouvernance centrale.

D’un point de vue sociétal, les critiques convergent : conditionner l’accès à l’information (réseaux, forums, pétitions) à une « autorisation » technique étatique érode l’anonymat, pilier de la dissidence et du journalisme citoyen. Le glissement de la mission est plausible : extension progressive à d’autres vérifications (par exemple opinions, solvabilité). Des précédents (auto-attestations Covid lors de la crise sanitaire) montrent comment des outils temporaires peuvent perdurer, et potentiellement devenir permanents.

À l’horizon 2030, deux scénarios émergent : un internet plus sûr pour les mineurs sans surveillance de masse, grâce à des preuves cryptographiques robustes ; ou une « société de l’autorisation préalable », où naviguer dépend d’un signal validé par l’État ou des plateformes. Le débat dépasse la protection des enfants. il interroge aussi la liberté d’expression en ligne.

L’objectif de protéger les mineurs contre les risques d’une surexposition est légitime et la cryptographie mise en œuvre offre des garanties prometteuses en matière de minimisation des données. Cependant, sans garde-fous renforcés tels que des audits indépendants rigoureux, une transparence totale des mécanismes cryptographiques, un débat public approfondi et des clauses de revoyure législatives claires, le risque d’un glissement vers une forme de contrôle systémique de l’accès à l’information reste réel et préoccupant. L’évolution de cette technologie mérite une vigilance soutenue, au croisement des impératifs de sécurité et des principes démocratiques fondamentaux.

Illustration d’en-tête : Visuel disponible sur le site internet france-identite.gouv.fr

Cet article GRATUITde journalisme indépendant à but non lucratif vous a intéressé ? Il a pour autant un coût ! Celui d’une rédaction qui se mobilise pour produire et diffuser des contenus de qualité. Qui paie ? vous, uniquement, pour garantir notre ultra-indépendance. Votre soutien est indispensable.

Science infuse est un service de presse en ligne agréé (n° 0324Z94873) édité par Citizen4Science, association à but non lucratif d’information et de médiation scientifique.

Notre média dépend entièrement de ses lecteurs pour continuer à informer, analyser, avec un angle souvent différent, car farouchement indépendant. Pour nous soutenir, et soutenir la presse indépendante et sa pluralité, faites un don pour que notre section presse reste d’accès gratuit !

via J’aime l’Info, association d’intérêt général partenaire de la presse en ligne indépendante :

ou via la page dédiée de J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter
de Science infuse !