Pourquoi les “deep fake” sont une bonne nouvelle

En nous plongeant dans l’ère du soupçon généralisé, les “deep fake” nous invitent finalement à développer un bon réflexe : tout soumettre à notre esprit critique.

Aujourd’hui Internet a quelque chose de bien plus perfectionné que les fake news à vous proposer : le deep fake. Un mot valise fabriqué à partir de « deep learning », la technique d’apprentissage de l’intelligence artificielle, et de « fake », le factice ou le faux.

Autrement dit, du faux intégral généré par intelligence artificielle qui ressemble à s’y méprendre à du vrai.

On a pu en voir la démonstration éloquente sur Internet dans une vidéo retravaillée qui fait dire à Barack Obama – en transformant sa voix et le mouvement de ses lèvres – le contraire de ce qu’il a effectivement dit sur la vidéo d’origine.

C’est presque indécelable à l’œil nu.

Pour l’heure, cette arnaque nécessite encore le recours à des logiciels sophistiqués et coûteux et la manipulation de professionnels.

Mais on peut imaginer sans peine que dans un futur plus ou moins proche tout le monde pourra s’adonner au deep fake moyennant une simple application sur son smartphone.

C’est l’extension du domaine de Photoshop à l’ensemble des contenus.

Face à cette nouvelle prouesse de l’IA, les esprits se sont échauffés pour craindre le pire et imaginer un futur digne de la série Black Mirror. Un monde où l’on ne pourrait plus accorder crédit à aucune vidéo, qui pourrait faire dire n’importe quoi à n’importe qui à n’importe quel moment, où chacun pourrait discréditer son adversaire politique ou se refaire une virginité politique en réécrivant ses archives télévisées…

À l’inverse, toute personne en délicatesse dans une vidéo réelle pourrait se défausser en disant qu’il s’agit d’un deep fake qui cherche à lui nuire… Sans compter les usages privés et publics qui pourraient en être fait pour assouvir des vengeances personnelles à coup de fausses vidéos compromettantes (comme fans des cas de revenge porn).

Vu sous cet angle-là, c’est forcément terrifiant.

Mais à la réflexion, l’apparition du deep fake ne devrait pas nous effrayer.

D’abord parce que ce n’est pas nouveau. On vit avec des deep fake bien avant le deep fake. Celui-ci n’a pas attendu la technologie pour se manifester.

Un montage ou un tronquage avec de simples ciseaux a toujours été capable de faire dire à une photo — que l’on pense à la propagande stalinienne qui faisait disparaître les gens sur les photos officielles—ou à quelqu’un le contraire de ce qu’il a réellement déclaré—combien de montages audios ou vidéos d’interviews produisent même de façon bien intentionnée des contresens. Ou comme en 1995, la vidéo proto deep fake de l’autopsie de l’extraterrestre de Roswell – sensée avoir été filmée 50 ans auparavant – qui a été diffusée sur les chaînes de télévisions du monde entier avant que l’auteur ne révèle la supercherie.

Comme à l’inverse, des rumeurs avaient fait état que les premiers pas de l’Homme sur la Lune en 1969 retransmis urbi et orbi étaient un deep fake tourné en studio par Stanley Kubrick à fin de propagande gouvernemantale en pleine guerre froide.

Bref, la guerre du deep fake ne date pas d’aujourd’hui.

E t le locataire de la Maison Blanche, en Monsieur Jourdain du deep fake, n’a pas besoin de technologie pour brouiller allègrement les frontières entre le vrai et le faux. Par exemple, quand il rédige, comme récemment, des tweets assassins sur ses homologues européens à bord de l’Air Force One au-dessus de l’Atlantique et, à peine le pied posé en Europe, se met à dire l’exact contraire face à ses interlocuteurs. Une stratégie délibérée pour brouiller totalement le vrai et le faux – un effet de deep fake – dans les négociations

Alors les deep fakes constituent-ils des menaces pour la démocratie, comme on l’entend dire parfois ?

Pour notre part, nous sommes persuadé que l’apparition du deep fake est une bonne nouvelle. Comme le disait Bernard Stiegler, il pourrait être un pharmakon : le poison qui est aussi le remède.

En développant nos capacités de soupçon comme un anti-corps. Car trop souvent nous n’exerçons notre soupçon de façon sélective, faisant une confiance aveugle à certaines sources et nous laissant bercer par certains contenus.

Puisque tout est falsifiable alors tout doit être vérifié. Le soupçon généralisé qu’induit l’émergence des deep fake pourrait nous imposer une saine gymnastique : faire travailler notre esprit critique sur tout contenu quel qu’il soit et d’où qu’il provienne (et pas seulement quand c’est visible).

Cette technique de falsification pourrait aussi avoir un effet libérateur en mettant notamment en échec les systèmes de surveillance d’Etat comme ceux qui s’exercent en Chine : par le dérèglement des outils de reconnaissance faciale commec certains logiciels proposent désormais de le faire pour rendre inidentifiables vos photos sur Facebook ou Instagram…

En ce sens le deep fake pourrait alors devenir une arme de résistance anti-totalitaire.

E t, enfin, en nous plongeant dans l’ère du soupçon généralisé le deep fake pourrait également nous aider à nous libérer d’un vieux réflexe pavlovien auquel nous sommes tous soumis : celui de croire aveuglément ce que nous voyons. Les sens sont trompeurs —ce n’est pas un scoop—mais il n’empêche que pris dans le flux incessant des contenus sur les réseaux sociaux nous l’oublions. Tout contenu devrait être soumis au soupçon ou a minima à l’interrogation.

Oui, tout bien pesé, les deep fake sont une bonne nouvelle. Ils nous invitent à développer un sain réflexe : celui d’exercer notre esprit critique sur tout contenu quel qu’il soit. Un état de veille sur tous les discours quotidiens. ¶