Cnil et IA : trouver l’équilibre

Depuis sa création par la loi Informatique et Libertés, la Commission nationale de l’informatique et des libertés (Cnil) a élargi son champ d’intervention à de nouveaux domaines connexes, comme celui de l’Intelligence Artificielle (IA), qui est devenu un véritable « dossier chaud ». Les avancées technologiques dans ce domaine soulèvent de nombreuses questions relatives à la protection des données personnelles et à l’éthique. La Cnil, en tant que régulateur, doit trouver le juste équilibre entre le développement de l’IA et la protection de la vie privée des utilisateurs.

L’IA est au cœur des préoccupations de la Cnil ces derniers temps, notamment avec l’utilisation des caméras de surveillance boostées à l’IA pour les JO de Paris 2024. Dans une interview récente, la Présidente de la Commission, Marie-Laure Denis, souligne le rôle crucial joué par la Cnil dans la régulation de l’IA. Les défis sont nombreux, allant des algorithmes à l’utilisation des caméras de surveillance dites augmentées, en passant par les sanctions contre les géants du numérique et la vérification de l’âge des mineurs sur internet. Tous ces sujets sensibles doivent être abordés avec précaution pour permettre l’évolution vers une société numérique responsable.

Le plus grand défi pour la Cnil sera de trouver le juste équilibre entre la protection de la vie privée des utilisateurs et le développement de l’IA. Cela implique de réglementer les quantités d’informations recueillies, leur utilisation, leur sécurisation et leur durée de conservation. Il est également nécessaire d’expliquer clairement les mécanismes aux utilisateurs afin d’obtenir leur consentement éclairé.

La Cnil doit également travailler sur deux chantiers majeurs : la constitution des bases de données d’apprentissage et l’articulation du projet de règlement européen sur l’IA avec le Règlement général sur la protection des données (RGPD). Des modèles d’IA générative comme ChatGPT soulèvent également des défis par rapport au RGPD. Ces systèmes générateurs de textes, d’images ou de sons utilisent des sources de données ouvertes sur internet qui n’ont généralement pas été vérifiées, ce qui pose des questions de protection des données et d’éthique.

Malgré la complexité de la régulation de l’IA, la Cnil se doit d’agir pour répondre aux préoccupations des utilisateurs et garantir que le développement de l’IA se fasse de manière responsable. Toutefois, certains pourraient dénoncer une absence d’actions ou de réactions face à l’essor de technologies avec un fort potentiel répressif, comme la vidéo surveillance via l’IA. La Cnil doit donc être à l’écoute des citoyens et des professionnels pour trouver des solutions adaptées aux nouveaux défis que pose l’IA.