IBM se retire du marché de la reconnaissance faciale

Dans une lettre ouverte envoyée à des élus américains (sénateurs et représentant), le PDG d’IBM, Arvind Krishna, annonce la décision de l’entreprise de cesser d’offrir des produits ou services de reconnaissance faciale, citant les possibilités d’abus de la technologie par les forces de l’ordre (profilage racial, surveillance de masse, violations des droits et libertés). Il en appelle à un « dialogue national » sur l’utilisation de cette technologie par les services de police. 

En septembre dernier, le PDG de Microsoft, Brad Smith, avait annoncé que son entreprise ne vendrait pas des services de reconnaissance faciale susceptible d’être utilisée par les gouvernements pour la surveillance de masse.

Interdiction de la reconnaissance faciale pour les policiers en Califonie

Source : Wikimedia commons

Après plusieurs villes américaines, c’est au tour de la Californie d’interdire l’utilisation de la reconnaissance faciale par les forces policières. Cette interdiction ne porte par contre que sur les caméras d’intervention (body cams). L’utilisation de la reconnaissance faciale par la police soulève plusieurs enjeux. Il y a évidemment des questions liées à la protection de la vie privée, mais on souligne aussi que la technologie n’est pas très fiable et génère beaucoup d’identifications erronées (faux positifs), surtout chez les femmes, les jeunes et les minorités visibles. En août, l’ACLU a fait la démonstration de ce problème en utilisant le système de reconnaissance faciale d’Amazon sur les photos de 120 législateurs californiens. 26 d’entre eux ont été erronément « reconnus » comme  des délinquants fichés par la police.

Du côté de Montréal,  à la suite d’une demande de moratoire, le conseil municipal a demandé à la Commission de la sécurité publique d’étudier la question de l’utilisation de la reconnaissance faciale par les policiers et d’émettre des recommandations.

(Merci à Michel Lejeune de m'avoir mis sur cette piste).

Un moratoire sur la reconnaissance faciale à Montréal?

L’utilisation de la reconnaissance faciale pour lutter contre le crime peut sembler de prime abord intéressante, mais, selon ses critiques, cette technologie émergente n’est pas sans danger. Parmi les risques, on mentionne entre les possibilités d’abus, les atteintes à la vue privée, et surtout le fait qu’elle n’est souvent pas très fiable, particulièrement avec certaines catégories de la population comme les femmes et les minorités visibles. Elle est malgré tout utilisée par de nombreuses villes américaines. Par contre, des villes comme San Francisco, Somerville et Oakland ont récemment déclaré un moratoire sur cette technologie. Le conseiller municipal indépendant Marvin Rostrand a déposé une motion exigeant un moratoire semblable à Montréal. Celle-ci sera débattue au conseil municipal le 19 août. Une histoire à suivre...