Les applications Deepfake sont en mesure de falsifier des contenus médiatiques à l’aide de l’intelligence artificielle. Elles peuvent par exemple remplacer les voix et les visages des personnes apparaissant dans des photos et des vidéos existantes ou générer un tout nouveau visage. Les conséquences de ce procédé peuvent être fatales. Surtout si le deepfake n’est pas conçu comme une plaisanterie, mais a été généré dans le but d’une escroquerie ou d’un chantage. Dans cet article, vous apprendrez comment les deepfakes sont générés, quels sont les risques et les dangers qu’ils présentent et comment vous pouvez vous protéger contre une attaque par deepfake.

1. qu’est-ce qu’un deepfake ?

Le terme « deepfake » est composé des expressions anglaises « deep learning » (une méthode d’apprentissage automatique) et « fake » (en français « arnaque » ou « falsification ») et désigne la modification et la falsification de contenus médiatiques à l’aide de l’intelligence artificielle. Les réseaux neuronaux artificiels sont utilisés à cette fin et permettent même de créer des faux de manière très autonome.

Cela signifie que même les non-spécialistes sont en mesure de créer des deepfakes de haute qualité. En raison de la puissance de calcul croissante et des IA de plus en plus performantes, les contenus ainsi créés semblent extrêmement authentiques et sont souvent difficiles, voire impossibles, à identifier comme des contrefaçons.

2) Quels sont les différents types de deepfakes ?

L’un des types de deepfakes les plus connus est le  » face swapping », qui permet de remplacer les visages dans les séquences vidéo afin de faire dire aux personnes représentées des textes étrangers ou de modifier leurs mouvements. Par analogie, le « voice swapping » est une possibilité de modifier des contenus audio de manière à ce que des textes ou même des voix puissent être mis dans la bouche de personnes étrangères.

Une autre forme de deepfakes vidéo est appelée « body puppetry« . Il s’agit de transférer des mouvements individuels ou des séquences de mouvements complètes sur d’autres personnes. Comme l’IA doit pour cela reconstruire automatiquement l’arrière-plan et s’entraîner avec le matériel de base avant de modifier le contenu, ce type de deepfakes est toujours considéré comme le plus compliqué. D’autres méthodes (par exemple le face swapping ou le voice swapping) fonctionnent en revanche même en temps réel.

3. comment créer un deepfake ?

La création de deepfakes n’est certes pas un jeu d’enfant, mais elle ne pose pas non plus de grands défis aux personnes ayant des connaissances moyennes ou bonnes en informatique. Entre-temps, de nombreux outils (appelés Deepfake Creator) pour iOS, Android et Windows peuvent être téléchargés sur Internet. Ils permettent aux non-initiés d’expérimenter et de créer leurs propres deepfakes. Puzzle Deepfake pour Android est un outil de ce type que l’on peut télécharger gratuitement sur le Google Play Store. Il suffit de télécharger une photo dans l’application, d’y appliquer un filtre et – voilà – en quelques secondes, l’application crée automatiquement un deepfake rudimentaire.

Bon à savoir : En 2019, l’application deepfake Zao, qui permettait de créer des montages vidéo trompeurs sur un iPhone à partir d’une seule photo, a provoqué un tollé. L’outil n’était toutefois disponible qu’en Chine et a été abandonné depuis.

.

Les professionnels travaillent différemment et créent des deepfakes avec ce que l’on appelle des GAN (Generative Adversarial Networks), dans lesquels deux algorithmes d’apprentissage automatique sont en concurrence. Pendant que l’un d’eux génère une fausse image, l’autre essaie de la reconnaître. Si la contrefaçon a pu être détectée, l’IA améliore le résultat afin d’éviter une nouvelle identification.

Dans le même temps, le deuxième algorithme procède lui aussi à des améliorations afin de pouvoir identifier de meilleures contrefaçons. Le processus est répété jusqu’à ce que l’IA de reconnaissance dépasse l’IA de production et que le contenu paraisse ainsi trompeur. Pour utiliser un outil GAN, il vous faut toutefois, outre des moyens financiers, un ordinateur très puissant.

4. quels sont les risques et les dangers des deepfakes ?

Les deepfakes comportent de nombreux risques très sérieux et représentent un danger pour la société, le personnel social et même l’économie. Les deepfakes peuvent par exemple parfaitement être utilisés pour une fraude à grande échelle sous la forme d’une campagne de phishing. En effet, qui se méfierait d’entendre dans un message vocal la voix du supérieur hiérarchique qui ordonne un virement ?

.

L’utilisation de deepfakes dans le cadre de campagnes de diffamation et de calomnies représente un danger encore plus grand que les contenus médiatiques falsifiés. Il n’est donc guère surprenant que la plupart des deepfakes se trouvent, outre la fraude économique, dans le domaine de la pornographie. Le logiciel DeepNude pour iOS et Android, publié en 2019, était par exemple capable de générer une image de nudité à partir de la photo d’une personne habillée – mais uniquement sur le corps des femmes. Entre-temps, l’outil n’est certes plus disponible légalement, mais il circule certainement encore quelque part en téléchargement sur le World Wide Web.

Les conséquences possibles d’un tel deepfake sont fatales. En effet, les célébrités ne sont pas les seules à devoir craindre qu’un fou bricole leur visage sur le corps d’une actrice porno et diffuse ensuite la vidéo dans la moitié du monde via WhatsApp, Telegram, TikTok et autres. C’est ainsi que de fausses photos de filles nues de la classe supérieure circulent soudainement dans le chat de la classe ou que le chef de département impopulaire est dénigré dans un mail circulaire anonyme comme étant un infidèle. Par le passé, des femmes ont déjà été victimes de chantage avec de fausses images pornographiques.

5. comment puis-je reconnaître les deepfakes et m’en protéger ?

La qualité du résultat détermine si et à quelle vitesse vous pouvez reconnaître des médias falsifiés. Des contrastes flous, des émotions faciales peu naturelles, des mouvements de lèvres inappropriés ou un éclairage incorrect peuvent être des indices d’un deepfake. A l’inverse, un visage trop parfait, qui n’a plus l’air naturel, peut aussi être le signe d’un deepfake.

Vérifiez également toujours si le contenu logique a un sens. Si votre acteur préféré apparaît soudainement dans une vidéo avec une attitude complètement différente ou si certaines déclarations n’ont plus de sens dans le contexte global, il peut également s’agir d’un signe de deepfake.

Il est bon de le savoir : Les données utilisées pour créer des deepfakes proviennent souvent des réseaux sociaux. Réfléchissez donc toujours très précisément aux informations que vous souhaitez partager et sur quels canaux.

Pour démasquer un deepfake professionnel, vous avez généralement besoin d ‘un outil spécial qui vous permet de vérifier l’authenticité des contenus médiatiques. Le DeepFake-o-meter, développé par des informaticiens de l’Université de Buffalo, constitue par exemple une possibilité gratuite de ce type.

En fin de compte, les moyens les plus importants pour lutter contre les deepfakes sont toujours le bon sens et la capacité d’ appréhender certains faits dans un contexte global (plus large) . Des demandes surprenantes ou soudaines (par exemple l’ordre de virement du supérieur) doivent vous mettre la puce à l’oreille. Il est alors très facile de contrer ce type de fraude à l’aide d’une authentification multifactorielle.

En effet, pour accéder à vos appareils, les fraudeurs ne devraient pas seulement imiter votre voix et votre visage, mais aussi être capables de reconnaître des codes de lettres ou de chiffres, par exemple. L’entreprise devrait en outre établir des directives claires sur les personnes et les groupes qui ont accès à certaines informations, à quel moment et dans quelles circonstances.