IA, reconnaissance faciale et immigration : vers une dérive technologique ?

Clearview AI, l’entreprise spécialisée dans la reconnaissance faciale, a conclu un contrat d’une valeur de 224 000 de dollars et courant jusqu’au 4 septembre 2021 avec de l’U.S Immigration and Customs Enforcement (ICE)[1], comme le rapporte Tech Inquiry, l’organisation à but non lucratif et cerbère de la technologie. Une situation qui représente une véritable menace pour le droit au respect de la vie privée et pour le respect des droits de l’Homme.

Cette collaboration donne lieu à de nombreuses controverses. En effet, un article du New York Times, publié le 18 janvier 2020[2] a révélé que Clearview AI avait récupéré près de 3 milliards de photographies de personne sur les réseaux sociaux pour alimenter son logiciel de reconnaissance faciale.

L’ICE ne fait pas non plus l’unanimité. Des dérives concernant le traitement des migrants dans ses centres de détention à la frontière mexicaine remettent directement en cause les droits de l’Homme. L’agence américaine a notamment été critiquée pour ses pratiques consistant à séparer les enfants immigrés de leur famille et à détenir les réfugiés pour une durée indéfinie.

En outre, une enquête du Washington Post a rapporté que l’ICE ainsi que le FBI avaient au accès aux bases de données des permis de conduire recensés dans le pays dans le cadre de leur traque aux immigrants clandestins. Et ce, sans le consentement des conducteurs.

L’IA basant son apprentissage sur les comportements humains grâce au machine learning, les biais racistes et sexistes sont inévitables. En 2016, Microsoft avait créé une intelligence artificielle capable de participer à des conversations sur les réseaux sociaux. Il aura suffi de quelques heures à l’IA pour commencer à tenir des propos racistes et négationnistes. La même année, une IA jury d’un concours de beauté avait éliminé la plupart des candidats noirs.

Une collaboration entre Clearview AI et l’ICE pose la question des conséquences d’une telle technologie au sein d’une administration et d’un pays où les discriminations envers les minorités sont déjà ancrées et problématiques.

De son côté, Clearview AI se félicite d’avoir élaboré une technologie ayant permis à la Homeland Security Investigations (HSI)[3] de « sauver des enfants de l’exploitation et d’abus sexuels dans tout le pays ».

Heureusement, de nombreuses entreprises et associations s’érigent contre les technologies de Clearview AI. L’Union Américaine des Libertés civiles (ACLU)[4] a intenté un procès en mai dernier pour violation de la loi de l’Etat de l’Illinois sur la confidentialité des informations biométriques. En effet, l’ACLU fait grief à Clearview AI d’avoir recueilli illégalement des informations sur les citoyens de l’Etat sans leur consentement dans le but de les vendre à des sociétés privées et aux forces de l’ordre. Elle considère que ces pratiques représentent « une menace sans précédent pour notre sécurité et notre sûreté ».

En juillet, l’Information Commissioner’s Office (ICO)[5] et l’Office of the Australian Information Commissioner (OAIC)[6] ont annoncé une enquête conjointe sur Clearview AI.

De même, le Comité Européen de la Protection des Données a déclaré en juin dernier que les produits de Clearview AI n’étaient probablement pas compatibles avec le régime de protection des données de l’Union européenne et notamment pas avec l’article 4.14 relatif au traitement des données biométriques du RGPD.

Google, Facebook, YouTube, Twitter et même LinkedIn ont dénoncé l’utilisation de données extraites de leur plateforme par la société très controversée. Ces entreprises ont même adressé des lettres de mise en demeure à Clearview AI pour avoir violé leurs conditions d’utilisation.

Un projet de loi au Congrès introduit par le parti démocrate en juin interdirait aux forces de l’ordre comme l’ICE d’utiliser la reconnaissance faciale.

Enfin, les deux cofondateurs de Clearview AI entretiennent des liens étroits avec l’administration Trump et le milieu conservateur. Des relations qui ne présagent rien de bon pour la suite de cette collaboration.

Article écrit en collaboration avec Noor ZAÏM

 

 


 

[1] L’agence policière douanière et de contrôle des frontières du département de la Sécurité intérieure des Etats-Unis

[2] https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html

[3] Service d’enquête du ministère de la sécurité intérieure qui lutte contre les organisations criminelles qui exploitent illégalement les systèmes américains en matière de voyages, de commerce, de finances et d’immigration

[4] Association à but non lucratif américaine dont la mission est de « défendre et préserver les droits et libertés individuelles garanties à chaque personne dans ce pays par la Constitution et les lois des Etats-Unis »

[5] Organisme public non ministériel et bureau de régulation chargé, entre autres, du Data Protection Act de 1998 et des Privacy and Electronic Communications Regulations de 2003 au Royaume-Uni

[6] Organisme indépendant du gouvernement australien et autorité nationale de protection des données en Australie