Dans la deuxième saison du thriller policier de la BBC The Capture, les deepfakes menacent l’avenir de la démocratie et la sécurité nationale britannique. Dans une dystopie se déroulant dans le Londres d’aujourd’hui, des pirates informatiques utilisent l’IA pour insérer ces fausses images et vidéos très réalistes de personnes dans des émissions d’information en direct afin de détruire la carrière de politiciens.

Cependant les recherches de mon équipe ont montré combien il est difficile de créer des deepfakes convaincants dans la réalité. En fait, les professionnels de la technologie et de la création ont commencé à collaborer à des solutions pour aider les gens à repérer les fausses vidéos de politiciens et de célébrités. Nous avons une bonne chance de garder une longueur d’avance sur les fraudeurs.

Dans mon projet de recherche, Virtual Maggie, j’ai tenté d’utiliser des « deepfakes » pour ressusciter numériquement l’ancienne première ministre britannique Margaret Thatcher pour une nouvelle pièce de théâtre. Après des mois de travail, nous ne sommes pas parvenus à créer une Maggie virtuelle acceptable pour la diffusion.

Produire des « deepfakes » convaincants en haute définition nécessite du matériel de pointe, beaucoup de temps informatique et une intervention humaine pour corriger les problèmes de résultat. Cela ne m’a pas empêché d’apprécier ‘The Capture’, tout en sachant que le drame de Ben Chanan n’était pas un scénario susceptible de se dérouler dans un avenir proche. Comme toute bonne dystopie, il contenait le germe de quelque chose qui pourrait un jour être possible.

L’utilisation des deepfakes depuis leur apparition en 2017 est quelque chose qui choque. La majorité des deepfakes sur internet sont des agressions contre les femmes, s’emparant d’images faciales sans consentement et les insérant dans des contenus pornographiques. L’expert en deepfakes Henry Ajder a constaté que 96% des deepfakes trouvés en ligne étaient pornographiques, et que 100% d’entre eux étaient des images vidéo de femmes.

La prémisse de ‘The Capture’ est fondée sur des faits. Les deepfakes menacent la démocratie. Lors des élections générales britanniques de 2019, l’artiste Bill Posters a publié une vidéo provocante de Boris Johnson disant que nous devrions voter pour Jeremy Corbyn.

Le deepfake de Bill Posters était beaucoup plus convaincant que le deepfake russe défectueux montrant le président ukrainien Volodymyr Zelenskyy demandant à ses troupes de se rendre. Pourtant, contrairement au Kremlin, l’artiste britannique a fait en sorte qu’il soit évident que son IA Boris n’était pas réelle, en faisant en sorte que « Boris » dirige les spectateurs vers un site Web consacré aux deepfakes. Il voulait ainsi souligner notre vulnérabilité à la propagande politique truquée.

Croisée des chemins

La menace des « deepfakes » a donné lieu à une recherche intensive de solutions technologiques. Une coalition d’entreprises a formé la Content Authenticity Initiative (CAI) pour fournir « un moyen d’évaluer la vérité dans les médias qui nous sont présentés ».

C’est une approche prometteuse. Les collaborateurs de la CAI et les entreprises technologiques Truepic et Qualcomm ont créé un système qui intègre l’historique d’une image dans ses métadonnées afin qu’elle puisse être vérifiée. La photographe américaine Sara Naomi Lewkowicz a réalisé un projet expérimental avec l’IPE qui intègre des informations sur les sources dans ses photos.

Mais les professionnels de la création et de la technologie ne souhaitent pas nécessairement s’attaquer à la technologie émergente des deepfakes. Des chercheurs du Media Lab du Massachusetts Institute of Technology ont réfléchi à des moyens d’utiliser les deepfakes à bon escient. Certaines d’entre elles concernent les soins de santé et les traitements.

Les ingénieurs de recherche Kate Glazko et Yiwei Zheng utilisent les deepfakes pour aider les personnes atteintes d’aphantasie, l’incapacité à créer des images mentales dans l’esprit. Le simulateur de rupture, en cours de développement, vise à utiliser les deepfakes pour « atténuer l’anxiété d’une conversation difficile par la répétition ».

Les utilisations positives les plus profondes des deepfakes incluent les campagnes pour le changement politique. Les parents de Joaquin Oliver, tué lors d’une fusillade dans un lycée de Floride en 2018, ont utilisé cette technologie pour le faire revenir dans une vidéo percutante appelant au contrôle des armes à feu.

Sur la voie de la créativité

Il existe également des applications culturelles des deepfakes. Au musée Dali en Floride, un Salvador Dali deepfake accueille les visiteurs et leur parle de lui et de son art. Selon la chercheuse Mihaela Mihailova, cela donne aux visiteurs « un sentiment d’immédiateté, de proximité et de personnalisation ». Le Deepfake Dali vous offre même la possibilité de prendre un selfie avec lui.

Les Deepfakes et les personnages générés par l’IA peuvent être éducatifs. À Shanghai, pendant le confinement, le professeur associé Jiang Fei a remarqué que l’attention de ses étudiants baissait pendant les cours en ligne. Pour les aider à mieux se concentrer, il a utilisé une version animée de lui-même pour mettre en avant son enseignement. Jiang Fei a déclaré : « L’enthousiasme des étudiants en classe et l’amélioration de la qualité des devoirs à la maison ont fait des progrès évidents. »

Channel Four a utilisé son message de Noël alternatif 2020 pour divertir les téléspectateurs avec une reine deepfake, tout en faisant un point sérieux sur le fait de ne pas faire confiance à tout ce que l’on voit sur les vidéos

Un réseau croissant de producteurs de films, de chercheurs et de technologues en IA au Royaume-Uni, hébergé par l’université de Reading et financé par l’Alan Turing Institute cherche à exploiter le potentiel positif des deepfakes dans la production audiovisuelle créative. Le cinéaste Benjamin Field a expliqué au groupe, lors d’un atelier, comment il a utilisé les deepfakes pour « ressusciter » l’animateur qui a créé Thunderbirds pour Gerry Anderson : A Life Uncharted, un documentaire sur la vie mouvementée du héros de la télévision pour enfants.

Field et son coproducteur, Jamie, le plus jeune fils d’Anderson, ont découvert de vieilles cassettes audio et ont utilisé des « deepfakes » pour construire une interview « filmée » du célèbre marionnettiste. Field fait partie d’un petit groupe de créatifs déterminés à trouver des moyens positifs d’utiliser les deepfakes dans la radiodiffusion.

Les deepfakes et les personnages de l’IA font partie de notre avenir et les exemples ci-dessus montrent comment cela pourrait être au moins partiellement positif. Mais nous avons également besoin de lois pour protéger les personnes dont les images sont volées ou utilisées de manière abusive, et de directives éthiques sur la manière dont les deepfakes sont utilisés par les réalisateurs. Des producteurs responsables ont déjà formé un partenariat sur l’IA et rédigé un code de conduite qui pourrait contribuer à éviter la vision catastrophique du futur que nous avons vue dans ‘The Capture’.

Texte paru initialement en anglais dans The Conversation, traduit par la Rédaction. La traduction étant protégée par les droits d’auteurs, l’article ne peut être que partagé avec mention Citizen4Science/Science Infuse.

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !

Jusqu’ici, on avait surtout évoqué l’utilisation malicieuse du deepfake pour tromper le public. Thierry Ardisson a eu l’idée de l’utiliser à titre médioatico-historique.

Le deepfake est une technologie qui utilise l’intelligence artificielle pour modifier images, vidéos pour permettre des trucages hyperréalistes susceptibles de tromper le public. En pratique, on connaît le deepfake pour des détournements decélébrités.

Ici, Jack Nichoslon dans lefilm Shining a été remplacé par Jim Carrey dans la scène suivante :

Là, c’est un faux Tom Cruise qui nous donne un cours de golf « à s’y méprendre », nous explique le Huffingto Post, tout en sensibilisant sur le risque de détournement malveillant :

Thierry Ardisson est connu pour ces talk-shows et entretiens décalés. Il a donc eu l’idée d’interviewer des célébrités disparues.

Technologie « Face Retriever » par Mac Guff

C’est une entreprise française qui a décroché le contrat pour la « Hôtel du temps ». Il s’agit bien sûr d’intelligence artificielle, sur la base classique du deepfake : fort d’une base de données d’images et de vidéos de l’artiste à « faire revivre », à l’aide d’algorithmes, de mathématiques et de deep learning, une sorte de « fusion » est pratiquée entre le visage d’un comédien et les images de la personnalité disparue.

Pour la voix, une autre entreprise intervient mettant à contribution l’Ircam : Institut de recherche et coordination acoustique. Tout est explicite dans ce nom.

C’est la comédienne Julie Chevallier qui a joué le rôle de Dalida :

Le résultat ? bluffant, parole de spectateur de l’émission.

Droit à l’image ?

Il n’y en a pas pour les personnes décédées. C’est ainsi qu’affluent les biopics à rythme débridé. Néanmoins, Thierry Ardisson précise que pour des raison éthiques, il a consulté la famille, comme pour ce premier numéro, le frère de Dalida, qui dit avoir été bluffé.

Sur FR3, à 21h10

Prochain épisode : Coluche

Mise à jour : 03/05/2022

Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.

ou via J’aime l’Info, partenaire de la presse en ligne indépendante

Abonnez-vous à la Newsletter de Science infuse !