Robot plagieur ou « journaliste génératif » ? Une question de marketing. NewsGuard a enquêté sur les redoutables fermes à contenus
Dans sa lettre d’information aoûtienne de surveillance de la désinformation dans 9 pays, l’organisme américain épingle une quarantaine de sites internet de mauvaise qualité qui réécrivent des contenus glanés dans les grands médias. Attention à la présentation trompeuse qui peut aller loin pour faire passer l’intelligence artificielle pour des intervenants humains voire du journalisme
Des fermes à contenus, voilà comment les qualifie NeswGuard, à l’instar des « paper mills » (moulins à papier) pour les articles scientifiques ou les fermes à trolls,.bots qui envahsissent les réseaux sociaux pour diffuser des idéologies ou de la désinformation.
On parle en effet ici fet de véritables usines à produire des articles repiqués ailleurs, transformés et optimisés pour attirer des vues.. Les ouvriers à la chaîne de production sont des robots (ou chatbots) à base d’intelligence artificielle, qui vont « pomper » les articles des grands médias et journaux (dits mainstream« ) pour les réécrire et les resservir au public à leur sauce selon les instructions du commanditaire.
37 sites internet ont ainsi été épinglés sur cette base par l’organisme spécialiste de l’évaluation des sites d’information en ligne. Aucun de ces sites ne citent leurs sources, comme par exemple CNN ou le New York Times, ou encore la célèbre agence de presse Reuters. Parmi ces sites, NewsGuard pense que certains sont automatisés à 100 %, sans aucune intervention humaine.
NewsGuard a remarqué la présence de publicité programmatique (marché de publicité numérique ciblée) sur ces sites de fermes à contenus, sans que les annonceurs le sachent, ce qui les associe aux contenus douteux de mauvaise qualité et en font… des financeurs malgré elles de ces initiatives peu valorisantes.
Le gros problème est qu’il devient de plus en plus difficile de distinguer les contenus écrits pas l’humain de ceux générés par l’intelligence artificielle. Alors quand les sites ne jouent pas la transparence sur les sources et le mode de génération des textes, cela devient particulièrement dangereux.
Plagiat en mode turbo automatisé avec l’aide de ChatGPT et Bard
Agrégation de contenu poussif ou plagiat suralimenté, NewsGuard met en avant le rôle inquiétant des deux outils respectivement édités par OpenAI et Google dans ce phénomène. Pourtant, les conditions d’utilisation des outils interdisent leur usage pour faire du plagiat. NewsGuard a écrit aux deux sociétés à propos des fermes à contenus qui utilisent principalement leurs outils pour accomplir leur besogne de plagiat, mais n’a pas obtenu de réponse.
Un exemple est donné par un analyste NewsGuard qui a demandé à ChatGPT : « Réécris ces articles d’actualité avec plus d’impact SEO et en les rendant plus captivants« . L’IA conversationnel a généré des articles à la demande selon ce type d’instructions en quelques secondes.
Il existe des outils de détection de plagiat comme Grammarly, mais NewsGuard ne le considère pas d’une efficacité suffisante d’après ses tests face aux fermes à contenus qui réécrivent instantanément les sources qu’elles ingurgitent sur commande. En revanche, elle indique avoir souvent trouvé des messages d’erreurs de l’AI générant les textes directement dans les articles plagiés, comme : « En tant que modèle de langage d’IA, je ne peux pas réécrire ce titre » ou « Désolé, en tant que modèle de langage d’IA, je ne peux pas détecter le contenu qui a besoin d’être réécrit sans informations de contexte« .
Des centaines voire des milliers de sites internet utilisent l’IA pour générer leurs contenus utilisant des sources externes, selon NewsGuard, qui pense que le plus grand nombre ne laissent pas passer des messages d’erreurs de l’IA permettant de détecter leur utilisation.
Marketing inquiétant sous couvert de « journalistes génératifs »
Face aux inquiétudes très sérieuses et justifiées de NewsGuard sur ce phénomène d’articles « copier/coller/transformer par Chat GPT ou outil équivalent, on peut en formuler d’autres en écho concernant des initiatives de fermes à contenus qui injectent du marketing débridé et particulièrement trompeur pour le public : les robots plagieurs sont alors présentés comme des « journalistes génératifs » (expression particulièrement ambiguë qui n’est en aucun cas explicite) via création de fausses biographies (générées par ChatGPT, décidément ‘homme à tout faire ») et incarnés par des photos de fausses personnes, elles-aussi créées par l’intelligence artificielle (exemple : MidJourney). Bref, tout pour tromper le chaland et faire croire en un site journalistique pourvu d’une rédaction.
Dans un cas de ferme à contenus français, les articles sources ne sont jamais cités, comme le déplore NewsGuard pour les pires fermes à contenus de mauvaise qualité, l’internaute en visite doit se rendre jusqu’aux mentions légales – ce qui n’est pas une démarche courante – pour avoir la puce à l’oreille : Chat GPT y est bombardé directeur de la rédaction et co-directeur de la publication, ce qui est à nouveau aberrant puisqu’une application n’a pas de représentation légale. Le reste des mentions légales est « à la hauteur » avec par exemple, une clause interdisant toute exploitation de ce travail de plagiat automatisé. Cela ressemble à une plaisanterie de très mauvais goût, détériorant l’image du journalisme et participant à la diffusion de contenus dégradés en trompant le public. Pourtant cette ferme à contenus perdure sur la toile en son état initial.
Mise à jour 11/09/2023
Pour aller plus loin
Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.
ou via J’aime l’Info, partenaire de la presse en ligne indépendante
