Deepfake peut-il tromper la reconnaissance faciale? Une nouvelle étude dit oui !

Les Deepfakes et les vidéos générées par l'IA sont là pour rester. Mais au cours des dernières années, ils ont augmenté en qualité et en quantité, ce qui fait que beaucoup de gens s'inquiètent de la sécurité nationale et de la vie privée.

Pourtant, peu importe à quel point les utilisateurs en ligne anonymes ont essayé de rendre leur fausse vidéo réaliste, ils ne pourraient jamais dépasser les logiciels avancés de reconnaissance faciale. Jusqu'à maintenant.

API de reconnaissance faciale trompeuses

Des chercheurs de l'Université Sungkyunkwan de Suwon, en Corée du Sud, testé la qualité de la technologie deepfake actuelle. Ils ont testé les API Amazon et Microsoft à l'aide d'un logiciel de génération de vidéo deepfake open source et couramment utilisé pour voir à quel point ils fonctionnent.

Les chercheurs ont utilisé les visages de célébrités hollywoodiennes. Afin de créer des deepfakes solides, le logiciel a besoin de beaucoup d'images de haute qualité provenant de différents angles des mêmes personnes, qui sont beaucoup plus faciles à acquérir des célébrités au lieu des ordinaires gens.

Les chercheurs ont également décidé d'utiliser l'API de Microsoft et d'Amazon comme référence pour leur étude, car les deux sociétés proposent des services de reconnaissance faciale de célébrités. Ils ont utilisé des ensembles de données accessibles au public et créé un peu plus de 8 000 deepfakes. De chaque vidéo deepfake, ils ont extrait plusieurs faceshots et les ont soumis aux API en question.

Avec Azure Cognitive Services de Microsoft, les chercheurs ont pu tromper le système 78 % du temps en utilisant des deepfakes. Les résultats d'Amazon étaient légèrement meilleurs, avec 68% des visages soumis identifiés comme réels.

Qu'en est-il des détecteurs Deepfake ?

Les détecteurs Deepfake fonctionnent plus ou moins de la même manière que Deepfake. Les détecteurs sont des logiciels qui ont été formés à l'aide de modèles d'apprentissage automatique sur la façon de détecter les vidéos deepfake.

Mais au lieu de se concentrer sur la création d'une vidéo hyper-réaliste pour tromper les détecteurs, les deepfakes peuvent désormais inclure des exemples contradictoires dans chaque image pour embrouiller le système d'IA. En fait, les attaques deepfake de ce type ont des taux de réussite allant de 78 à 99 pour cent.

Ça devient pire

Deepfakes est une application d'apprentissage automatique. Pour en créer un qui soit même à distance convaincant, vous avez besoin de centaines d'images du visage de la même personne sous différents angles et affichant diverses émotions.

En raison du besoin de quantités massives de données, on pourrait penser que seules les personnes ayant une forte présence en ligne sont à risque, comme les célébrités et les politiciens. Mais ce n'est plus le cas.

Selon Deeptrace, le nombre de deepfakes en ligne a augmenté de 330% en moins d'un an, d'octobre 2019 à juin 2020. Sans oublier que les logiciels et algorithmes utilisés par les fabricants de deepfake sont de plus en plus puissants et plus facilement disponibles et accessibles.

Qui est à risque de deepfakes ?

Lorsque les deepfakes sont devenus courants, le principal les soucis étaient pour la vie privée et la sécurité nationale. Les gens craignaient qu'on ne puisse plus faire confiance aux séquences vidéo de politiciens et de fonctionnaires.

Mais s'il serait irresponsable de ne pas tenir compte du risque de sécurité posé par les deepfakes, plusieurs sondages ont révélé que les fabricants de deepfakes ne sont pas encore intéressés à perturber la politique. La majorité des vidéos deepfakes en ligne peuvent être divisées en deux catégories: des vidéos amusantes d'interviews de célébrités, et des films et du matériel pornographique.

Alors que la récente étude a été menée en utilisant des visages de célébrités pour s'assurer que les deepfakes étaient de haute qualité pour tromper les API, cela ne signifie pas que vous ne pouvez pas faire de deepfakes avec moins de données. Bien sûr, ils n'ont peut-être aucune chance de tromper les systèmes avancés de reconnaissance faciale, mais ils peuvent être suffisamment convaincants pour tromper les autres.

De nos jours, les deepfakes de toute personne ayant une présence sociale peuvent être faits de manière convaincante. Tout ce dont ils ont besoin, ce sont quelques photos de vous et peut-être une vidéo dans laquelle vous apparaissez. Le deepfake qui en résulte peut être de mauvaise qualité, mais il est toujours faisable et peut être dommageable.

L'avenir est encore inconnu

Il existe de nombreuses prédictions contradictoires concernant l'état des deepfakes, car ils ne vont pas disparaître de sitôt.

Certains s'attendent à un cyber-avenir apocalyptique où vous ne pouvez faire confiance à aucune séquence que vous rencontrez en ligne. D'autres sont plus optimistes, comparant les deepfakes à l'animation et affirmant que cela pourrait avoir un avenir dans la production de contenu.

Comment vous protéger des vidéos Deepfake

Les deepfakes sont de plus en plus répandus. Voici comment ils peuvent menacer votre vie privée en ligne et comment éviter d'être dupés.

Lire la suite

A propos de l'auteur