Deepfake : Une nouvelle étude révèle que les gens font plus confiance aux faux visages "IA" qu'aux vrais

Deepfake : Une nouvelle étude révèle que les gens font plus confiance aux faux visages « IA » qu’aux vrais

Les chercheurs ont constaté que les gens ne sont pas capables de faire la différence entre un visage généré par l’intelligence artificielle – à l’aide de StyleGAN2 – et un vrai visage. Ils appellent à la mise en place de mesures de protection pour éviter les “deepfakes”.

Le Dr Sophie Nightingale, de l’université de Lancaster, et le professeur Hany Farid, de l’université de Californie à Berkeley, ont mené des expériences dans lesquelles les participants devaient distinguer les visages synthétiques StyleGAN2 de pointe des visages réels et déterminer le niveau de confiance que ces visages suscitaient.

Les résultats ont révélé que les visages générés synthétiquement sont non seulement très réalistes sur le plan photographique, mais aussi presque impossibles à distinguer des visages réels et sont même jugés plus dignes de confiance.

“AI” APPREND LES VISAGES QUE NOUS AIMONS : Les faux visages ont été créés à l’aide de réseaux adversaires génératifs (GAN), des programmes d’IA qui apprennent à créer des visages réalistes par un processus d’essais et d’erreurs.

EST-IL POSSIBLE D’IDENTIFIER UN VISAGE GÉNÉRÉ PAR “AI” ?

THISPERSONDOESNOTEXIST.COM

Le générateur de visage IA est alimenté par StyleGAN, un réseau neuronal de Nvidia développé en 2018. GAN se compose de 2 réseaux neuronaux concurrents, l’un génère quelque chose, et le second essaie de trouver si les résultats sont réels ou générés par le premier. L’entraînement se termine lorsque le premier réseau neuronal commence à tromper constamment le second.

Il est intéressant de noter que la création de photographies de personnes inexistantes était un sous-produit : l’objectif principal était d’entraîner l’IA à reconnaître les faux visages et les visages en général. L’entreprise en avait besoin pour améliorer les performances de ses cartes vidéo en reconnaissant automatiquement les visages et en leur appliquant d’autres algorithmes de rendu.

Il est presque impossible de reconnaître l’image d’une fausse personne. L’IA est tellement développée que 90% des faux ne sont pas reconnus par une personne ordinaire et 50% ne sont pas reconnus par un photographe expérimenté. Il n’existe aucun service de reconnaissance. Il arrive qu’un réseau neuronal fasse des erreurs, c’est pourquoi des artefacts apparaissent : un motif mal plié, une couleur de cheveux étrange, etc.

Il suffit alors de regarder de plus près : le système de traitement visuel des humains est bien plus puissant que celui des ordinateurs, il est donc possible de reconnaître un faux par détection.

Jevin West et Carl Bergstrom ont créé un site Web intitulé “Which Face Is Real“, dont le but est d’apprendre aux gens à mieux analyser les portraits potentiellement faux. Avant de suggérer l’existence d’une personne sur une photo, plusieurs éléments doivent être pris en compte. L’un des plus courants est la symétrie, en particulier les lunettes et les boucles d’oreilles.

Par ailleurs, l’été dernier, des chercheurs de Facebook ont déclaré avoir mis au point une intelligence artificielle capable d’identifier les “deepfakes” et de retracer leur origine en recourant à l’ingénierie inverse.

UTILISATION ET RISQUES DU DEEPFAKE

La question des deepfakes est importante et difficile. Comme de nombreux autres types de contenus préjudiciables, il est de nature contradictoire et continuera à évoluer, et aucune organisation ne peut résoudre ces défis à elle seule. Le danger auquel nous sommes confrontés avec la propagation des deepfakes générés par l’”IA” varie entre la diffusion de fausses informations, l’inspiration de malentendus, de peur ou de dégoût et la création de faux récits sur les gens.

“DÉFIS ÉTHIQUES DE L’IA

L’utilisation responsable de l’IA est le “défi immédiat” auquel est confronté le domaine de la gouvernance de l’IA, selon le Forum économique mondial.

Dans son rapport intitulé “The AI Governance Journey : Development and Opportunities, le Forum indique que l’IA a été essentielle pour faire progresser des domaines tels que l’innovation, la durabilité environnementale et la lutte contre le COVID-19. Mais cette technologie “nous met au défi de résoudre des problèmes éthiques nouveaux et complexes” et “devance notre capacité à la gouverner”.

Le rapport examine une série de pratiques, d’outils et de systèmes pour la création et l’utilisation de l’IA.

Il s’agit notamment des systèmes de labellisation et de certification, de l’audit externe des algorithmes pour réduire les risques, de la réglementation des applications de l’IA et d’une plus grande collaboration entre l’industrie, les gouvernements, les universités et la société civile pour développer des cadres de gouvernance de l’IA.

Nous nous efforçons de vous apporter les informations et les outils les plus récents de vérification des faits. Faites un don chaque fois que vous lisez de la désinformation et l’argent sera utilisé pour payer une annonce de vérification des faits