Un groupe de chercheurs a développé un système d’intelligence artificielle (IA) capable de protéger les utilisateurs contre les scans faciaux indésirables effectués par des acteurs malveillants. Baptisé Chameleon, le modèle d’IA utilise une technologie de masquage spéciale pour générer un masque qui cache les visages dans les images sans affecter la qualité visuelle de l’image protégée.
Qu’est-ce que Chameleon AI?
Dans un article de recherche, publié dans la revue en ligne pré-imprimée arXiv, des chercheurs de l’université Georgia Tech ont détaillé le modèle d’IA. Chameleon AI peut produire un « masque de protection de la vie privée unique et personnalisé (P-3) » numérique pour les photos personnelles qui empêche les scans faciaux indésirables de détecter le visage d’une personne. De cette façon, les utilisateurs peuvent protéger leur identité contre les tentatives de scan de données faciales par des acteurs malveillants et des robots de récupération de données IA.
«Le partage et l’analyse de données préservant la confidentialité comme Chameleon contribueront à faire progresser la gouvernance et l’adoption responsable de la technologie de l’IA et à stimuler la science et l’innovation responsables», a déclaré l’auteur principal de l’étude, Ling Liu, professeur de données et d’informatique basée sur le renseignement à la School of Computer Science de Georgia Tech (qui a développé le modèle Chameleon avec d’autres chercheurs), dans un communiqué.
Les systèmes de reconnaissance faciale sont désormais monnaie courante dans la vie quotidienne, des caméras de police à Face ID dans les iPhones. Mais les scans non désirés ou non autorisés peuvent conduire les cybercriminels à collecter des images pour des escroqueries, des fraudes ou du harcèlement. Ils peuvent même collecter des images pour créer des bases de données à utiliser pour le ciblage publicitaire indésirable et les cyberattaques.
Créer des masques
Si le masquage des images n’est pas une nouveauté, les systèmes existants obscurcissent souvent les détails clés de la photo d’une personne ou ne parviennent pas à préserver une image de qualité réelle en introduisant des artefacts numériques. Pour surmonter ce problème, les chercheurs ont déclaré que Chameleon dispose de trois fonctionnalités spécifiques.
La première est l’utilisation de l’optimisation d’images croisées qui permet à Chameleon de créer un masque P3 par utilisateur, plutôt qu’un nouveau masque pour chaque image. Cela signifie que le système d’IA peut offrir une protection instantanée à un utilisateur et permet également une utilisation plus efficace des ressources informatiques limitées ; ce dernier serait probablement utile si Chameleon devait être adopté pour une utilisation dans des appareils tels que les smartphones.
Deuxièmement, Chameleon intègre « une optimisation de la perceptibilité » — cela fait référence à la façon dont une image est rendue automatiquement, sans intervention manuelle ni paramétrage — pour garantir la préservation de la qualité visuelle d’une image faciale protégée.
La troisième fonctionnalité est le renforcement d’un masque P3 afin qu’il soit suffisamment robuste pour déjouer les modèles de reconnaissance faciale inconnus. Cela se fait en intégrant l’apprentissage d’ensemble optimisé par la diversité focale dans le processus de génération de masque. En d’autres termes, il utilise une technique d’apprentissage automatique qui combine les prédictions de plusieurs modèles pour améliorer la précision de l’algorithme.
A terme, les chercheurs souhaiteraient appliquer les méthodes d’obscurcissement de Chameleon au-delà de la protection des images personnelles des utilisateurs individuels.
«Nous aimerions utiliser ces techniques pour empêcher que les images ne soient utilisées pour former des modèles génératifs d’intelligence artificielle. Nous pourrions protéger les informations de l’image contre toute utilisation sans consentement», a déclaré Tiansheng Huang, étudiant en doctorat à Georgia Tech, qui a également participé au développement de Chameleon.