Deep Fake AI : tout ce que vous devez savoir

Si vous ne connaissez pas l’IA, vous devez vivre sous un rocher car l’intelligence artificielle a pris le monde d’assaut ! L'IA se développe à la vitesse de la lumière, et la dernière technologie innovante d'apprentissage en profondeur qui fait tourner les têtes (littéralement) est la **fausse IA profonde.

L’IA peut être utilisée à la fois pour le meilleur et pour le pire, mais quel est l’impact du deep fake sur le monde virtuel ? Qu’est-ce qui est au cœur de cette technologie et comment cette forme avancée d’IA modifie-t-elle la réalité ?

Poursuivez votre lecture pour tout savoir sur cette technologie de pointe et ses implications.

Qu'est-ce que l'IA Deep Fake ?

Avez-vous déjà vu un film dans lequel le visage d'un acteur est échangé avec celui de quelqu'un d'autre ? C'est précisément ce que fait la deep fake AI. Il s’agit d’une forme d’intelligence artificielle qui utilise des algorithmes d’apprentissage profond pour résoudre des problèmes à l’aide de grands ensembles de données. Même le nom « deep fake » est dérivé de la combinaison de l’apprentissage profond et des faux résultats qu’il crée !

Le deep fake est utilisé pour échanger des visages, des corps et des voix, créant ainsi des vidéos et des sons convaincants mais faux. En fait, Gartner, une société de recherche technologique de premier plan, prédit que d’ici 2026, 30 % de toutes les entreprises considéreront l’identification et la vérification comme inutiles en raison de l’augmentation des deepfakes de l’IA.

La Deep Fake AI est souvent utilisée pour modifier des vidéos et des fichiers audio afin de dire ou de faire des choses que les gens n'ont pas faites ou dites. Cependant, il peut également être utilisé pour créer du contenu original.

Comment fonctionne l'IA Deepfake ?

Alors, comment fonctionne cette technologie captivante ? Souvent appelé « l'IA qui trompe », le contenu profondément faux est créé lorsque deux algorithmes concurrents complexes sont utilisés ensemble. Cela crée le **Generative Adversarial Network (GAN).

Les deux algorithmes concurrents sont :

• Générateur : Le générateur agit d'abord en créant un ensemble de données d'entraînement, qui crée le premier ensemble de faux contenus. Il le transmet ensuite au discriminateur.
• Discriminateur : Le discriminateur identifie le degré de réalisme ou de fausseté des données créées. Il transmet ensuite ces informations au générateur, qui peut affiner le résultat pour qu'il paraisse plus réaliste.

Ces deux algorithmes se combinent pour former le GAN, qui utilise l'apprentissage profond pour étudier et identifier différents modèles dans les images afin de créer des contrefaçons raffinées.

Lors de la création de fausses images profondes, le système GAN visualise l’image sous différents angles pour assembler des contrefaçons parfaites.

Lors de la création de fausses vidéos, le GAN étudie la vidéo, les mouvements et les comportements sous différents angles pour créer une fausse vidéo.

Vidéo fausse et profonde

Les vidéos deep fake peuvent être de deux types :

Source vidéo Deep Fakes

Dans cette méthode, un autoencoder analyse les expressions faciales, les gestes, les mouvements et les modèles de la cible à partir d'une vidéo originale. L’auto-encodeur impose ensuite les expressions et mouvements spécifiques de la cible à la vidéo à modifier.

Échange de visage

Une autre façon de réaliser de fausses vidéos consiste à utiliser la technique d'échange de visage, où le visage de la cible est échangé sur le corps de quelqu'un d'autre, lui faisant faire ou dire des choses qu'elle n'a pas réellement dites.

Fausse voix IA

Les contrefaçons audio profondes deviennent très courantes et le Traitement du langage naturel est utilisé pour les créer. Les algorithmes NLP clonent la voix cible en identifiant des modèles et des caractéristiques exceptionnelles.

Ces modèles sont ensuite utilisés pour cloner la voix et les programmeurs peuvent lui faire dire tout ce qu'ils veulent. Les modèles sont identifiés à l'aide d'échantillons de la voix cible. Plus il y a d’échantillons utilisés pour créer le clone, plus le faux audio profond sera précis. L'ensemble du processus s'appelle le clonage vocal.

Les audio deep fakes sont utilisés dans le créneau des jeux, dans l'industrie de la radio et à des fins de streaming.

Synchronisation labiale

La synchronisation labiale est l'une des façons les plus courantes d'utiliser les deep fakes. Il utilise des enregistrements vocaux ainsi que des visuels pour donner l’impression de la parole. Cela peut être très trompeur, surtout si l’audio est également un faux.

Technologie utilisée pour développer l'IA Deepfake

Il est de plus en plus facile pour l’homme ordinaire d’utiliser les dernières technologies pour développer des deepfakes vidéo, audio et photographiques. Jetons un coup d'œil aux différentes plateformes et technologies en ligne nécessaires pour réaliser des deep fakes :

GAN

Comme indiqué ci-dessus, le GAN combine deux algorithmes uniques pour créer des contrefaçons profondes. Le GAN est crucial pour les IA deepfake et est utilisé dans chaque deepfake créé.

Réseaux de neurones convolutifs, ou CNN

Les CNN sont utilisés pour la reconnaissance faciale et pour analyser divers modèles de mouvements.

Encodeurs automatiques

Les auto-encodeurs identifient les caractéristiques spécifiques de la cible, telles qu'un modèle de comportement, un mouvement spécifique ou des expressions faciales. Ils les fusionnent ensuite dans la fausse vidéo profonde.

Traitement du langage naturel

Comme mentionné précédemment, les PNL identifient les attributs du discours de la cible et les utilisent pour créer un texte original.

Calcul haute performance

Le calcul haute performance, ou HCP, fait référence aux superordinateurs qui exécutent les algorithmes d’IA nécessaires à la création de contrefaçons profondes.

Utilisations de la fausse IA profonde

La Deep Fake AI s'est taillé une niche dans un monde numérique en évolution rapide. Voici quelques domaines dans lesquels les deep fakes sont utilisés :

Industrie du divertissement

L’IA a laissé une marque indélébile sur l’industrie du divertissement. Il est largement utilisé pour cloner des acteurs et leurs voix, pour produire des scènes difficiles à tourner en post-production si un acteur n'est pas disponible, ou simplement pour gagner du temps de production.

Il est également utilisé dans l’industrie musicale pour créer de la nouvelle musique avec les voix de chanteurs existants. Il y a eu plusieurs deepfakes d'acteurs célèbres comme Morgan Freeman, Tom Cruise et même la chanteuse Taylor Swift.

Une telle vidéo de l'acteur Morgan Freeman sur YouTube semble presque réelle. Il a recueilli des millions de vues.

Services de réponse client

Plusieurs entreprises utilisent l'IA audio pour créer des voix pour des tâches simples liées au service client, à la gestion des comptes, au dépannage et au dépôt de plaintes auprès des banques et d'autres entreprises.

Les deep fakes audio sont largement utilisés dans le secteur du support client pour aider à répondre aux questions, dépanner et augmenter la satisfaction et la fidélisation des clients.

Cela peut également contribuer à augmenter le nombre de clients en communiquant dans différentes langues. Par exemple, Synthesia, l'application de formation au clavier de piano sur Play Store propose plus de 40 langues différentes !

Fraude et chantage

Une utilisation malheureuse de la deep fake AI est le chantage. Il est souvent utilisé pour diffamer et accuser à tort la cible d’extorsion. L’exemple le plus courant est celui où la cible est placée dans des situations explicites et inappropriées.

Quelques exemples très médiatisés de chantage utilisant le deep fake :

• Le président ukrainien Volodymyr Zelensky a été victime de profondes falsifications lorsqu'une vidéo a circulé dans laquelle il ordonnait à ses troupes de se rendre à la Russie.
• Pour influencer les élections américaines, le président Joe Biden a été victime de profondes contrefaçons dans lesquelles il affichait une perte cognitive.
• Le fondateur et propriétaire de Facebook, Mark Zuckerberg, a été victime de deepfakes lorsqu'une vidéo le montrait se moquant des utilisateurs de Facebook et proclamant qu'ils les « possédaient ».

Les deep fakes ont également été utilisés pour commettre des usurpations d’identité et des fraudes bancaires.

Usurpation d'identité

Malheureusement, de fausses IA profondes ont également été utilisées à des fins d’usurpation d’identité. Plusieurs escroqueries et crimes ont été commis à l’aide de cette technologie lorsque des personnes ont réussi à se faire passer pour quelqu’un d’autre et à lui voler de grosses sommes d’argent.

Un exemple récent d’une telle fraude est celui d’une entreprise multinationale de Hong Kong qui a déclaré une perte de 25 millions de dollars. Cela s’est produit à cause d’une vidéo profondément fausse se faisant passer pour le directeur financier de l’entreprise via une vidéoconférence. La vidéo a incité les employés à transférer de l'argent sur le compte bancaire du fraudeur.

Fausses preuves devant les tribunaux

De nombreuses personnes à l’esprit criminel sont également connues pour utiliser des contrefaçons profondes pour créer de fausses preuves à présenter devant les tribunaux.

Par exemple, l’IA deep fake peut être utilisée pour étudier et cloner les expressions faciales et les actions d’un criminel. Il peut alors fabriquer un alibi et créer de fausses vidéos, les montrant présents ailleurs, loin de la scène du crime.

Diffusion de fausses informations ou de désinformation

Très souvent, des contrefaçons profondes d’hommes politiques ou d’autres membres du personnel dignes de confiance peuvent être créées, qui sont utilisées pour diffuser la désinformation auprès du public. Cela conduit à la diffusion de fausses nouvelles, ce qui constitue un moyen d’induire le public en erreur.

Par exemple, une image du Pentagone est apparue sur les réseaux sociaux début 2023, montrant qu'une explosion s'était produite près de le bâtiment. Il s’agissait d’une image réalisée à l’aide de l’IA et elle était fausse. Cela entraîne une baisse du marché boursier en raison de la propagation de fausses nouvelles.

Diffamation

La diffamation est une autre façon de diffuser de fausses informations sur quelqu’un, par écrit ou verbalement. La fausse IA profonde a été utilisée avec négligence à cet égard.

Un exemple récent de cette fraude concerne l'éminente journaliste anglaise Martine Lewis, qui a intenté une action en justice contre Facebook pour la promotion de publicités en ligne portant son nom pour des investissements liés au Bitcoin qu'il n'a jamais approuvés. Bien qu'un tiers ait diffusé ces publicités, Facebook a dû payer pour régler le litige.

La fausse IA profonde peut-elle s'avérer dangereuse ?

Bien que la fausse IA soit légale, elle peut néanmoins constituer une grave menace pour la société. Les deep fakes ne sont illégaux que s’ils enfreignent des lois telles que la diffamation, la pédopornographie ou les discours de haine. Alors, tout en franchissant la frontière entre le légal et l’illégal, comment les deepfakes peuvent-ils causer du tort ?

• Diffamation et chantage.
• Diffusion de désinformation et de fausses nouvelles.
• Inciter le public et causer du tort
• Manipulation du marché boursier pour faire baisser les cours des actions.
• Création de fausses preuves audio et vidéo pour tromper la loi.
• Fraude avec usurpation d'identité et appropriation de comptes bancaires.

Dans l’ensemble, les deepfakes ne sont pas tous mauvais, mais les mauvaises utilisations des deepfakes sont préoccupantes. Et à ce stade, les mauvaises utilisations prennent le pas sur les bonnes utilisations, nous devons donc être prudents lors de l’évaluation de ces fausses informations.

Cas d'utilisation positifs de Deep Fake

Voyons comment le deep fake est utilisé pour améliorer divers secteurs de la vie :

• Redonner vie aux personnages des films pour accroître l'intérêt du public.
• Utiliser la synchronisation labiale pour traduire automatiquement des documentaires éducatifs ou ingénieux en plusieurs langues.
• Aider les enseignants à dispenser des cours plus attrayants, car cela peut donner vie à des personnages historiques dans une salle de classe.
• Créer de faux présentateurs ou journalistes pour un meilleur engagement du public.
• Création de deep fakes de célébrités (avec leur permission) pour sensibiliser aux maladies ou aux pandémies dans différentes langues.

Détection AI Deepfake

Alors, alors que les deep fakes sont si répandues en ligne, comment pouvez-vous vous protéger pour ne pas devenir une victime ? Il existe plusieurs pratiques que vous pouvez adopter pour détecter l’IA ; en voici quelques-uns :

• Lorsque vous zoomez ou agrandissez une fausse vidéo, vous pourrez peut-être déchiffrer la mauvaise synchronisation labiale ou les gestes incohérents des personnes impliquées.
• Les mouvements dans les vidéos sembleront maladroits et mal alignés.
• Les images profondément fausses contiendront des couleurs inégales, des positions corporelles et des postures inconfortables.
• L'audio sera incohérent, avec des pauses à des endroits aléatoires et du bruit de fond.
• Dans les vidéos deep fake, les personnes impliquées ne cligneront pas des yeux.

Alors, l'IA peut-elle détecter les deepfakes ? La popularité et la montée des deep fakes ont poussé plusieurs sociétés technologiques multinationales à investir dans des technologies et des outils capables de détecter l’IA.

Isgen est à l'avant-garde de la promotion d'une utilisation sûre de l'IA. Nous travaillons actuellement au développement d’une technologie permettant d’identifier les sons et les deep fake. Cela constituera une étape importante dans la garantie d’une utilisation éthique de la technologie deep fake.

En résumé

Allons-nous vers une pandémie en ligne ? L’utilisation frauduleuse de deep fake AI à des fins de chantage ou d’usurpation d’identité est en augmentation. Entre de mauvaises mains, toute technologie peut être utilisée pour nuire aux individus et à la société dans son ensemble. Deep Fake est un excellent exemple d’une telle technologie.

Nous devons veiller à ce que le public soit conscient des dommages que l’IA peut causer et à ce que des outils de détection de l’IA bon marché soient développés pour lutter contre les personnes qui utilisent l’IA de manière négative. De nombreuses grandes entreprises technologiques travaillent au développement d’outils avancés pour lutter contre l’IA. Mais pour l’instant, il semble que les humains soient en train de perdre la bataille face à l’IA.