Campaigning for facts

Search
Close this search box.

Deepfake : Une nouvelle étude révèle que les gens font plus confiance aux faux visages “IA” qu’aux vrais

Les chercheurs ont constaté que les gens ne sont pas capables de faire la différence entre un visage généré par l’intelligence artificielle – à l’aide de StyleGAN2 – et un vrai visage. Ils appellent à la mise en place de mesures de protection pour éviter les “deepfakes”.

Le Dr Sophie Nightingale, de l’université de Lancaster, et le professeur Hany Farid, de l’université de Californie à Berkeley, ont mené des expériences dans lesquelles les participants devaient distinguer les visages synthétiques StyleGAN2 de pointe des visages réels et déterminer le niveau de confiance que ces visages suscitaient.

Les résultats ont révélé que les visages générés synthétiquement sont non seulement très réalistes sur le plan photographique, mais aussi presque impossibles à distinguer des visages réels et sont même jugés plus dignes de confiance.

“AI” APPREND LES VISAGES QUE NOUS AIMONS : Les faux visages ont été créés à l’aide de réseaux adversaires génératifs (GAN), des programmes d’IA qui apprennent à créer des visages réalistes par un processus d’essais et d’erreurs.

EST-IL POSSIBLE D’IDENTIFIER UN VISAGE GÉNÉRÉ PAR “AI” ? 

THISPERSONDOESNOTEXIST.COM

Le générateur de visage IA est alimenté par StyleGAN, un réseau neuronal de Nvidia développé en 2018. GAN se compose de 2 réseaux neuronaux concurrents, l’un génère quelque chose, et le second essaie de trouver si les résultats sont réels ou générés par le premier. L’entraînement se termine lorsque le premier réseau neuronal commence à tromper constamment le second.

Il est intéressant de noter que la création de photographies de personnes inexistantes était un sous-produit : l’objectif principal était d’entraîner l’IA à reconnaître les faux visages et les visages en général. L’entreprise en avait besoin pour améliorer les performances de ses cartes vidéo en reconnaissant automatiquement les visages et en leur appliquant d’autres algorithmes de rendu.

Il est presque impossible de reconnaître l’image d’une fausse personne. L’IA est tellement développée que 90% des faux ne sont pas reconnus par une personne ordinaire et 50% ne sont pas reconnus par un photographe expérimenté. Il n’existe aucun service de reconnaissance. Il arrive qu’un réseau neuronal fasse des erreurs, c’est pourquoi des artefacts apparaissent : un motif mal plié, une couleur de cheveux étrange, etc.

Il suffit alors de regarder de plus près : le système de traitement visuel des humains est bien plus puissant que celui des ordinateurs, il est donc possible de reconnaître un faux par détection.

Jevin West et Carl Bergstrom ont créé un site Web intitulé “Which Face Is Real“, dont le but est d’apprendre aux gens à mieux analyser les portraits potentiellement faux. Avant de suggérer l’existence d’une personne sur une photo, plusieurs éléments doivent être pris en compte. L’un des plus courants est la symétrie, en particulier les lunettes et les boucles d’oreilles.

Par ailleurs, l’été dernier, des chercheurs de Facebook ont déclaré avoir mis au point une intelligence artificielle capable d’identifier les “deepfakes” et de retracer leur origine en recourant à l’ingénierie inverse.

UTILISATION ET RISQUES DU DEEPFAKE

La question des deepfakes est importante et difficile. Comme de nombreux autres types de contenus préjudiciables, il est de nature contradictoire et continuera à évoluer, et aucune organisation ne peut résoudre ces défis à elle seule. Le danger auquel nous sommes confrontés avec la propagation des deepfakes générés par l’”IA” varie entre la diffusion de fausses informations, l’inspiration de malentendus, de peur ou de dégoût et la création de faux récits sur les gens.

“DÉFIS ÉTHIQUES DE L’IA

L’utilisation responsable de l’IA est le “défi immédiat” auquel est confronté le domaine de la gouvernance de l’IA, selon le Forum économique mondial.

Dans son rapport intitulé “The AI Governance Journey : Development and Opportunities, le Forum indique que l’IA a été essentielle pour faire progresser des domaines tels que l’innovation, la durabilité environnementale et la lutte contre le COVID-19. Mais cette technologie “nous met au défi de résoudre des problèmes éthiques nouveaux et complexes” et “devance notre capacité à la gouverner”.

Le rapport examine une série de pratiques, d’outils et de systèmes pour la création et l’utilisation de l’IA.

Il s’agit notamment des systèmes de labellisation et de certification, de l’audit externe des algorithmes pour réduire les risques, de la réglementation des applications de l’IA et d’une plus grande collaboration entre l’industrie, les gouvernements, les universités et la société civile pour développer des cadres de gouvernance de l’IA.


Nous nous efforçons de vous apporter les informations et les outils les plus récents de vérification des faits. Faites un don chaque fois que vous lisez de la désinformation et l’argent sera utilisé pour payer une annonce de vérification des faits


Eine einmalige Spende tätigen

Your contribution is appreciated.

Spenden


Make a monthly donation

Your contribution is appreciated.

Spenden


Make a yearly donation

Your contribution is appreciated.

Spenden

Eine einmalige Spende tätigen

Your contribution is appreciated.

Spenden


Make a monthly donation

Your contribution is appreciated.

Spenden


Make a yearly donation

Your contribution is appreciated.

Spenden

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Protégez vous contre la désinformation

Pour lutter contre la désinformation, les escroqueries et la manipulation, il faut donner la priorité à l’éducation à l’information et aux médias. Informez-vous et informez les autres sur les stratégies de désinformation, cultivez votre discernement et remettez en question vos motivations afin de faire des choix éclairés. En outre, soutenir le journalisme indépendant, les organisations de vérification des faits et les sources d’information fiables joue un rôle crucial dans la lutte contre la propagation de la désinformation.

Pour rester informé et responsabilisé : Inscrivez-vous pour recevoir la lettre d’information de ReclaimTheFacts et nos derniers outils et matériels d’éducation aux médias et à l’information directement dans votre boîte de réception. Vous pouvez également nous suivre sur les médias sociaux pour des mises à jour régulières.

Nous travaillons assidûment pour fournir des informations éducatives de qualité sur la littératie médiatique. Votre don contribuera aux efforts de publicité, élargissant la portée de ces ressources sur les réseaux sociaux. Soutenez notre cause et aidez-nous à autonomiser davantage de personnes grâce à l’éducation.