L’intelligence artificielle (IA) est une discipline scientifique qui combine des approches statistiques et informatiques. Les approches récentes sont basées sur des algorithmes appelés « réseaux neuronaux profonds » (Deep neural network) qui « apprennent » sur un grand nombre d’exemples, puis peuvent ensuite classifier de nouveaux exemples.

 
19/11/2017 When algorithms discriminate
La reconnaissance faciale est l’un des domaines où ce type d’algorithme a récemment montré toute sa puissance. Le but étant d’être capable d’identifier une personne sur la base d’une image de son visage, par exemple une image d’une caméra de vidéosurveillance.
Deux articles récents montrent toute l’étendue de ce dont ces algorithmes sont capables, mais aussi comment une bonne connaissance de leur fonctionnement peut permettre de les combattre.
Dans le premier (voir l’article en anglais sur le site de Vice) on voit que les chercheurs viennent de franchir une nouvelle étape : ils ont entraîné l’algorithme pour lui permettre de reconnaître des visages partiellement masqués : « Le système a été capable de reconnaître correctement une personne au visage couvert d’un foulard dans 67% des cas ». Comme le reconnaît avec une naïveté déconcertante le chercheur : « Pour être honnête, quand j’ai développé cette méthode, je pensais juste aux criminels ». Mais on voit bien tout le potentiel d’une telle technologie au service de la répression, par exemple l’identification de manifestants masqués.
Cet article conclut : « Nous pourrions bien voir dans le futur une compétition entre experts en IA (possiblement employés par des gouvernements) qui essaient de créer des algorithmes de reconnaissance faciale contre d’autres chercheurs qui cherchent comment y échapper » .

Et c’est très précisément le thème du second article sur ce sujet, toujours dans Vice. On y apprend que l’on peut non seulement échapper à la reconnaissance faciale, mais même tromper le système en se faisant passer pour quelqu’un d’autre grâce à un « simple » port de lunettes appropriées.
Des chercheurs de la Carnegie Mellon University ont en effet développé des lunettes dont la décoration est capable de tromper les algorithmes de reconnaissance faciale. Dans 90% des cas, ces lunettes ont permis de tromper le logiciel Face++, qui est utilisé pour la détection, la traque et l’analyse de visages, permettant de trouver l’âge, le genre ou l’identité d’une personne. Il s’agit vraiment de retourner « contre nos propres généraux » les armes qu’ils ont soigneusement peaufinés pour nous contrôler. Imaginons : des dizaines de milliers d’Emmanuel Macron défilant contre la loi "travaille".

Comme le note Zeynep Tufekci, professeur à l’ Université de Caroline du Nord : « Trop de gens se préoccupent de ce que l’IA (comme une sorte d’entité indépendante) peut nous faire. Trop peu se préoccupent de ce que le pouvoir peut faire avec l’IA. » On ne doit pas sous-estimer les enjeux de ces technologies et leur impact sur nos vies. Une utilisation liberticide de l’IA doit trouver sur son chemin une utilisation libertaire.