Les outils de détection des deepfakes 

C’était à prévoir. L’arrivée des IA générative allait faire franchir un palier important dans la courte histoire des deepfakes.

En améliorant de façon drastique la génération par ordinateur de fausses images ou vidéos visant à tromper le spectateur, les deepfakes vont certainement arrêter de nous faire systématiquement rire.

Fini de rire

Canteloup et ses grandes illusions, les fake vidéos du célèbre pilote de Top Gun, « DeepTomCruise » et la série de la plateforme britannique ITVX, « Neighbour Wars », qui met en scène des querelles de voisinage entre des stars dont le seul point commun est de n’avoir jamais participé aux tournages des différents épisodes, tous ont désormais leurs pendant beaucoup, mais alors beaucoup moins drôle. 

On se souvient de la diffusion, il y a quelques mois, d’une vidéo glaçante du président de l’Ukraine, Volodymyr Zelensky, appelant à la capitulation de son pays face à l’avancée de l’armée russe. Le deepfake est désormais utilisé de plus en plus massivement par les cybercriminels pour personnaliser leurs attaques.

Europol sonne la sirène d’alarme

Les cybercriminels intègrent désormais des deepfakes dans leurs méthodes d’attaque pour échapper aux contrôles de sécurité », alerte Rick McElroy, stratège cybersécurité chez VMware.

Europol a récemment sonné l’alarme quant aux deepfakes, mettant en garde contre la menace représentée par cette technologie. Outre la manipulation de l’information auprès du public, les deepfakes peuvent être utilisés pour modifier les titres d’identité, perturber les marchés financiers, faciliter l’exploitation sexuelle en ligne des enfants, perpétrer des extorsions et des fraudes, selon l’agence.

Europol a déclaré que la priorité absolue pour les forces de l’ordre devait être la prévention et la détection des deepfakes. Cela nécessite la formation des services de répression à leur détection, ainsi que l’investissement dans des capacités techniques. Ces recommandations devraient également être suivies par les entreprises, les organisations publiques et les particuliers qui peuvent également être ciblées par ces images.

Des (rares) outils de détection

Dans son article du 17 mars 2023, le JDN présente 5 outils qui se proposent de les détecter avant qu’elles ne se propagent. Le JDN note par ailleurs qu’à l’instar des dispositifs de cybersécurité, elles ont, par ailleurs, souvent un train de retard sur les faussaires de contenus.

Ces outils se basent eux aussi sur l’IA qui est en moyenne 10 fois plus rapide que les humains pour analyse les photos truquées selon les chercheurs de la société russe ID R&D, qui ont comparé les niveaux de performances d’une IA spécialisée et d’individus lambdas. 

Video Authenticator

En septembre 2020, Microsoft a dévoilé Video Authenticator, un outil qui analyse les photos et vidéos pour déterminer leur authenticité. Il établit un score de confiance en détectant des éléments imperceptibles à l’œil humain, tels que des déformations dans les niveaux de gris ou des décolorations de l’image.

Microsoft a également développé une autre solution sur Azure pour garantir l’authenticité et la provenance des contenus en ajoutant des fonctions de hachage cryptographique et des certificats numériques. Video Authenticator n’a pas été rendu public pour éviter qu’il soit utilisé par des cybercriminels, mais il est destiné aux médias et aux équipes de campagnes électorales pour lutter contre la désinformation.

Deepware

Deepware est un outil open source utilisant des algorithmes d’apprentissage automatique pour analyser des vidéos sur des plateformes telles que YouTube, Facebook ou Twitter. Il se concentre sur la détection faciale et a remporté le Deepfake Detection Challenge organisé par Facebook. Développé par l’éditeur turque Zemana, il est également disponible sous forme d’API, de SDK, d’outil en ligne de commandes sous Windows et Linux et d’application Android.

Truepic

Startup basée à San Diego, Truepici se concentre sur la garantie de l’authenticité des photos et vidéos. Sa technologie, appelée Truepic Lens, signe les photos et les vidéos en prenant en compte les métadonnées d’horodatage et la composition des pixels capturés.

Truepic commercialise également une application mobile, Truepic Vision, qui peut être utilisée par les compagnies d’assurance pour garantir l’intégrité des photos prises lors de sinistres. La startup est membre fondateur de la Coalition for Content Provenance and Authenticity, un consortium qui élabore des normes techniques pour lutter contre la désinformation en ligne.

FakeCatcher

FakeCatcher est une solution récente présentée par Intel en novembre 2022 qui permet de détecter les fausses vidéos en temps réel avec une précision revendiquée de 96%.

La méthode utilisée, la photopléthysmographie, analyse les veines du visage qui changent de couleur en fonction de l’afflux sanguin. Le modèle basé sur le deep learning d’Intel analyse une trentaine de zones du visage pour identifier les fausses vidéos.

DuckDuckGoose

DuckDuckGoose est une startup néerlandaise qui a développé des outils pour détecter les deepfakes avec une précision estimée à 95%. DeepDetector est leur solution principale sous forme d’API ou d’application, avec un modèle tarifaire combinant abonnement et paiement à l’usage. Ils proposent également un plugin gratuit pour navigateur appelé DeepfakeProof, qui détecte automatiquement les deepfakes en ligne.

En plus de cela, la startup propose un outil de génération de deepfakes appelé Replicant, utilisé à des fins de tests. Ils se positionnent sur plusieurs cas d’usage tels que l’authentification de contenus, la vérification d’identité numérique, la conformité KYC (Know Your Client) et la protection des utilisateurs sur les médias sociaux.

Autres

Notons aussi le réseau de détection de deepfakes (DFDN), qui est un projet open source créé par des chercheurs universitaires et des experts en sécurité. Le DFDN utilise l’apprentissage automatique pour détecter les deepfakes en analysant les caractéristiques du visage, telles que les mouvements des yeux, des sourcils et de la bouche.

Synthèse des différents outils

Article du JDN

Demain, voir ne sera plus forcément croire.

Il y a deux ou trois ans, remplacer un visage par un autre ou une voix par une autre, de façon crédible restait l’apanage des gros studios d’Hollywood. Aujourd’hui, avec du temps et un peu de matériel, les pratiques se démocratisent, noires ou blanches suivant les points de vue, coté glaive ou coté bouclier suivant l’exploitant. 

De plus, l’explosion des IA générative vont certainement nous conduire à modifier nos approches des médias et à renforcer les mesures de « formation à la désinformation ».

Vous pouvez me contacter si ce type d’article vous intéresse.