Reconnaissance faciale par IA : dépôt à l’AN

Dépôt à l’Assemblée nationale d’une proposition de loi destinée à expérimenter l’intelligence artificielle appliquée à la reconnaissance faciale des citoyens français.Une proposition de loi (n° 4127) d’expérimentation créant un cadre d’analyse scientifique et une consultation citoyenne sur les dispositifs de reconnaissance faciale par l’intelligence artificielle a été déposée à l’Assemblée nationale le 4 mai 2021.
Cette expérimentation est destinée à permettre l’analyse scientifique des algorithmes et des technologies appliqués à la reconnaissance faciale ainsi que leur entraînement sur des données biométriques.
L’article 1 prévoit que l’expérimentation sera d’une durée de trois ans. Elle se déploiera sur deux territoires : la région Ile-de-France et la région Sud-Provence-Alpes-Côte d’Azur. Un comité de supervision de la société civile et de chercheurs sera créé. Un rapport annuel et un rapport semestriel devront être élaborés par ce comité. Ces rapports évalueront notamment la menace réelle des dispositifs selon les différents cas d’usage quant aux droits de l’Homme et aux libertés publiques. Ils seront rendus publics et la Commission nationale de l’informatique et des libertés en sera également destinataire de façon obligatoire. Pendant l’expérimentation, cette dernière apportera son expertise, son conseil, son suivi critique et sera consultée sur tout projet de texte législatif ou réglementaire en matière de reconnaissance faciale.
L’article 2 détermine le cadre et le déroulement de l’expérimentation des quatre cas d’usage de reconnaissance faciale concernés, à savoir :- l’accès par reconnaissance faciale ;- la sûreté et la sécurité dans les espaces ;- le marketing et les services clients ;- les services à vocation de santé ou sociaux.
Le comité de supervision de la société civile et de chercheurs pourra ajouter un ou plusieurs cas d’usage qu’il jugerait décisif pour enrichir l’expérimentation. Les lignes rouges à ne pas franchir lors de l’expérimentation devront être fixées. Un référentiel d’audit propre à chaque cas d’usage sera établi afin de certifier la méthodologie scientifique utilisée et d’en garantir la conformité scientifique et éthique. Durant l’expérimentation, l’identification et l’authentification des individus sur la base de leurs données biométriques seront permises. Le consentement des citoyens participants sera requis et pourra librement être rétracté. Les données personnelles recueillies seront limitées aux fins de l’expérimentation, conservées pour la durée de l’expérimentation et ne pourront pas être rapprochées avec d’autres données à caractère personnel issues d’un fichier extérieur à l’expérimentation.
L’article 3 organise la tenue d’un débat public sous forme d’états généraux. Il sera organisé autour des cas d’usage de reconnaissance faciale par l’intelligence artificielle. Cette consultation sera effectuée à l’initiative du comité de supervision de la société civile et de chercheurs. A l’issue de ce débat public, le comité établira un rapport qu’il présentera à l’Office parlementaire d’évaluation des choix scientifiques et technologiques. L’article ajoute que tout projet de réforme des dispositifs de reconnaissance faciale devra être précédé d’un débat public sous forme d’états généraux. En l’absence de projet de réforme, le comité devra organiser des états généraux relatifs à la reconnaissance faciale au moins une fois tous les cinq ans afin de donner la parole aux citoyens sur les évolutions desdits dispositifs.
L’article 4 énonce la création d’un fonds destiné à conduire la présente expérimentation et à mener la consultation citoyenne. Ce fonds sera notamment financé par l’Etat et les collectivités territoriales.