Reconnaissance faciale, les GAFAM décident-ils pour les États ? 

Depuis le 10 juin 2020, Amazon a décidé de refuser que les polices nord-américaines utilisent son logiciel Rokognition pour la reconnaissance faciale, mais continue de commercialiser la sonnette « intelligente » de la marque « ring » qui filme et dont on peut transmettre les données au commissariat. Après IBM et Microsoft, les GAFAM prennent en ce moment des positions de suprématie inquiétantes. Faut-il attendre des géants du numérique les règles éthiques sans attendre que les États légifèrent ?

 Le mouvement « Black Lives Matter » a aussi fait émerger ce débat majeur sur la reconnaissance faciale

« Black Lives Matter », « les vies noires comptent ». Le slogan s’est répandu sur les murs nord-américains depuis plusieurs semaines, puis dans le monde y compris en Europe et en France. Après le décès de George Floyd, homme noir tué par un policier blanc, un grand mouvement de contestation s’est levé, contre le racisme et les discriminations. Au cœur des revendications, la lutte contre les violences policières, et pour ce faire l’utilisation de la reconnaissance faciale. Cette technologie est controversée partout où elle est installée — pour une expérience comme à Nice — ou durablement comme à San Francisco, où le maire l’a finalement interdite estimant qu’elle pouvait « exacerber l’injustice raciale et menacer notre capacité à vivre libre de toute surveillance permanente par le gouvernement »

De plus, la technologie n’est pas au point et se trompe sur les éléments souvent indéterminés comme l’âge, le genre ou la couleur du visage. En 2018, l’étude « Gender Shades » a montré que l’acuité de la reconnaissance faciale variait de presque 30 % entre un homme blanc et une femme noire : dans les systèmes créés par IBM, un homme blanc était reconnu à 99,7 %, une femme noire à seulement 65,3 %. L’analyse des erreurs d’un autre système, celui de Microsoft, montrait que 93,6% des erreurs de reconnaissance faciale concernaient des personnes non blanches. En 2019, toujours aux États-Unis c’est une étude fédérale, menée par l’Institut national des standards et des technologies (NIST), qui aboutit au même constat : les erreurs d’identification dans certains groupes sont jusqu’à cent 100 fois plus erronées souvent que d’autres.

 Les GAFAM tranchent seuls et décident de ne pas vendre leur technologie commercialisée depuis plusieurs années à certains clients comme l’armée ou la police états-unienne.

Dans un courrier daté du 8 juin 2020 intitulé « Lettre au Congrès sur la Réforme de la justice raciale« , le PDG d’IBM, Arvind Krishna, annonce que l’entreprise cesse ses recherches en reconnaissance faciale et s’oppose fermement à la vente de ces technologies y compris par d’autres entreprises qui intègrent leur système, pour la surveillance de masse, le contrôle au faciès,et la violation des droits humains les plus basiques.

« Nous pensons qu’est venu le temps d’un dialogue national, pour choisir si oui ou non et comment la reconnaissance faciale devrait être employée par les services de police.»

Peu après, Amazon et Microsoft ont à leur tour pris position en décidant de ne plus vendre leurs outils de reconnaissance faciale aux départements de police nord-américains.

Dans cet élan moral, Microsoft appelle les législateurs américains à réguler l’usage de cette technologie. En attendant, la firme de Redmond cesse de vendre sa technologie à la police américaine. De son côté, Amazon se contente de cesser de vendre son outil « Rekognation » à la police, sans pour autant renoncer totalement à la technologie.

Les GAFAM dictent leurs propres règles

Il aura fallu attendre que ces multinationales établissent par voie médiatique leurs propres règles éthiques pour que le Congrès nord-américain se saisisse enfin du sujet que les associations lui soumettaient de longue date.  Et pourtant, il ne légifère toujours pas. La France de son côté poursuit son cheminement, ponctué de mises en garde et d’alertes de la CNIL et les responsables français des sociétés américaines ne s’expriment pas sur l’utilisation de leurs produits en Europe ou sur d’autres continents.

Florence Durand-Tornare, fondatrice de Villes Internet se souvient du G7 sur la fracture numérique en 2000 à Tokyo, où elle a pu participer à un débat au-delà de la seule délégation française. « Comment défendre l’intérêt général et répartir le pouvoir entre les États et les multinationales du numérique pour assurer la régulation internationale ? » Rien de nouveau avant ce mois-ci quand les GAFAM s’arrogent le pouvoir de décider des méthodes de contrôle et de police. Elle questionne : « Les États démunis vont-ils accepter la loi des firmes ? Ou oseront-ils décider de créer une sorte d’autorisation de mise sur le marché des innovations à impact sur les libertés fondamentales ? Finalement, l’industrie numérique devra-t-elle comme l’industrie pharmaceutique, se soumettre a minima à l’éthique des droits humains dont les États devraient être les garants ? »

L’échelle doit être internationale pour être équitable : de fait la question de rupture est à nouveau posée : qui fait « gouvernement mondial ? »  Il y a urgence à ce que les grandes instances internationales reprennent la main en répondant fermement.

Déjà publié par Villes Internet sur ce sujet :

• La reconnaissance faciale à l’épreuve des expérimentations, sous le regard inquiet de la CNIL, publié le 14 octobre 2019
• La Cnil alimente le débat sur la reconnaissance faciale, publié le 28 novembre 2019

Pour aller plus loin : 

• Position récente de l’ONU : https://news.un.org/fr/story/2020/06/1071702
• Black Lives Matter : IBM, Amazon et Microsoft renoncent à la reconnaissance faciale
• Position de la CNIL