Le rapport annuel de la CNIL à l’aune de l’intelligence artificielle

25 mai 2023
Corinne Thiérache et Caroline Leroy-Blanvillain

Le 23 mai 2023, la CNIL a publié son rapport annuel, au sein duquel elle a porté une attention particulière au domaine de l’intelligence artificielle (IA). La Commission n’a pas caché son intérêt croissant relatif au développement de produits ou services reposant sur des algorithmes traitant des données, souvent personnelles, et dont l’usage nécessite, selon elle, des précautions particulières. Dans ce contexte, la CNIL a fait part de sa position sur les caméras « augmentées », une technologie en plein essor et qui soulève de nombreuses questions dont la CNIL est régulièrement saisie.

Ainsi, l’autorité française de protection des données ne manque pas d’expliquer dans son rapport annuel que les caméras « augmentées » reposent sur l’utilisation de logiciels de traitements automatisés d’images et permettent non plus seulement de filmer les individus mais également de les analyser de manière automatisée afin de déduire certaines informations les concernant. Plus précisément, ces dispositifs utilisent majoritairement les techniques d’IA relevant de la « computer vision » pour réaliser des détections probabilistes. Or, cette technologie présente des risques évidents en termes de droits et libertés des personnes. Par nature intrusives, les caméras « augmentées » engendrent un risque non-négligeable de surveillance et d’analyse constante de l’espace public, dès lors susceptible d’influencer les comportements des individus ainsi filmés. En outre, un traitement massif de données personnelles est également à craindre, potentiellement à l’insu des individus du fait du caractère invisible des logiciels d’analyse d’image associés aux caméras. Il est pertinent de souligner ici qu’un tel usage par la puissance publique, notamment pour la détection et la poursuite d’infractions, n’est aujourd’hui possible que dans la mesure où une loi l’autorise et l’encadre spécifiquement.

C’est très précisément ce qu’illustre l’adoption récente de la Loi n° 2023-380 du 19 mai 2023 relative aux jeux Olympiques et Paralympiques de 2024. En effet, l’article 10.I de cette Loi introduit la possibilité de mettre en œuvre, jusqu’au 31 mars 2025, des caméras augmentées afin d’assurer « la sécurité de manifestations sportives, récréatives ou culturelles qui […] sont particulièrement exposées à des risques d’actes de terrorisme ou d’atteintes graves à la sécurité des personnes (…) ». Les techniques de reconnaissance faciale restent toutefois interdites. Cet article vient d’être déclaré conforme à la Constitution par le Conseil constitutionnel dans une décision n°2023-850 du 17 mai 2023. Il convient néanmoins de relever que le législateur s’est restreint à un contexte d’expérimentation de l’usage de ces technologies. En outre, les conditions de mise en œuvre de la Loi feront l’objet d’un suivi périodique par la CNIL et un rapport d’expérimentation sera remis au Parlement au plus tard le 31 décembre 2024. Ces précautions renforcent la conscience du législateur du niveau de risque élevé généré par les caméras « augmentées ».

Les caméras « augmentées » ne seront cependant pas les seuls dispositifs autorisés sur la voie publique. En effet, par une ordonnance du 24 mai 2023, le Conseil d’Etat a également validé l’utilisation par les forces de l’ordre de drones équipés de caméra « dans l’exercice de leurs missions de prévention des atteintes à l’ordre public et de protection de la sécurité des personnes et des biens », conformément à l’article L. 242-5 du Code de la sécurité intérieure. Précisément, le Conseil d’Etat a considéré qu’il n’existait pas de doute sérieux quant à la légalité du décret n° 2023-283 du 19 avril 2023, eu égard aux garanties présentées en matière de protection de la vie privée et des données à caractère personnel.

Les équipes des départements Droit des technologies et du numérique et de la Protection des données personnelles du cabinet ALERION Avocats se tiennent naturellement à votre disposition pour vous accompagner et vous conseiller pour toute mise en œuvre de technologies utilisant l’IA.

Corinne Thiérache, Avocat Associée, Caroline Leroy-Blanvillain, Avocat, et Milena Dreyfus, juriste des Départements.