Les visages générés par l'IA semblent « plus humains » que les visages humains

Des chercheurs de l'université de Nouvelle-Galles du Sud ont découvert que certaines personnes ont des capacités exceptionnelles en matière de reconnaissance faciale et sont beaucoup plus douées pour repérer les visages générés par l'IA.

Il y a quelques années encore, les gens se moquaient de l'air ridicule de Will Smith lorsqu'il mangeait des spaghettis. Mais nous savions déjà, à l'époque, que la technologie atteindrait un stade où il serait presque impossible de distinguer les personnes générées par l'IA des personnes réelles.

D'après les explications des chercheurs, il s'avère que la technologie a non seulement atteint ce stade, mais qu'elle l'a même dépassé pour beaucoup d'entre nous. La seule chose qui nous protège aujourd'hui, c'est que les systèmes d'IA ont tendance à être « calculés », ce qui signifie que les images synthétiques semblent « trop moyennes » pour être réelles.

Pourquoi cette recherche est-elle nécessaire ?

Alors que les photos de profil et les contenus générés par l'IA envahissent les réseaux sociaux, les applications de rencontre et tous les autres recoins d'Internet, il est important de comprendre pourquoi certains visages semblent suspects, car cela pourrait aider à prévenir la fraude, les escroqueries d'identité et la désinformation.

Des chercheurs dirigés par James D. Dunn de l'Université de Nouvelle-Galles du Sud ont testé si les personnes dotées de capacités exceptionnelles de reconnaissance faciale étaient plus aptes à distinguer les visages générés par l'IA des visages réels.

L'équipe a comparé 36 super-reconnaisseurs à 89 participants motivés du groupe témoin à l'aide de 200 images faciales. La moitié des images étaient réelles et l'autre moitié avait été générée par l'IA à l'aide de StyleGAN2.

Leurs conclusions ont révélé une tendance claire :

• Les super-reconnaisseurs étaient nettement meilleurs.
• La capacité de reconnaissance faciale était positivement corrélée à la précision de détection de l'IA.
• Les visages générés par l'IA sont regroupés au « centre » statistique de l'espace facial.

Il s'avère que la capacité des personnes à reconnaître les visages leur permet également de repérer très facilement que les visages réels sont asymétriques. Les outils d'IA ont davantage tendance à créer des visages trop symétriques.

En bref, les visages générés par l'IA sont trop proportionnés et trop typiques. Les chercheurs ont décrit ce phénomène comme une « hyper-moyenneté ».

La mauvaise nouvelle, c'est que si les super-reconnaisseurs étaient 15 % plus performants que les échantillons typiques, ils n'étaient que légèrement plus performants que le hasard. Ils n'ont identifié correctement les visages générés par l'IA que dans 57 % des cas, soit seulement 7 points de pourcentage de plus que le hasard.

Concrètement, ils identifiaient incorrectement environ 4 visages sur 10.

Comment Bitdefender aide à se protéger contre la fraude d'identité basée sur l'IA

Bitdefender a lancé aux Etats-Unis They Wear Our Faces ("Ils Portent Nos Visages"), une campagne nationale de sensibilisation qui dénonce la manière dont les escrocs exploitent la confiance et les relations en utilisant l'IA pour tromper et usurper l'identité d'autrui.

Les solutions de sécurité de Bitdefender combinent :

• Détection avancée des tentatives d'hameçonnage
• Surveillance des anomalies comportementales
• Prévention des fraudes grâce à l'IA
• Outils de protection de l'identité
• Technologie de détection des escroqueries

Pour prévenir ce type d'attaques d'identité, il ne suffit pas de repérer une photo de profil suspecte, il faut également identifier le comportement qui se cache derrière.