En France, la CNIL (Commission nationale de l’informatique et des libertés) s’apprête à devenir l’organisme désigné pour la surveillance des algorithmes d’intelligence artificielle. Compte tenu de cette tâche tout sauf facile en janvier Elle y a installé un département d’intelligence artificielle acquérir les compétences et connaissances nécessaires.
Maintenant, l’autorité a publié un plan d’action Améliorer la compréhension des technologies d’IA génératives et des questions juridiques et éthiques connexes. Dans ce cadre, la nouvelle direction de l’intelligence artificielle de la CNIL et le Laboratoire d’innovation numérique (Linc) joueront un rôle central et viendront en appui aux autres services de l’autorité.
Le Plan IA de la CNIL s’articule autour de quatre objectifs :
1. Comprendre le fonctionnement des systèmes d’IA et l’impact qu’ils ont sur les individus
Les techniques innovantes utilisées dans la conception et le fonctionnement des outils d’IA soulèvent de nouveaux problèmes de confidentialité, notamment la véracité et la transparence du traitement des données sous-jacentes et la protection contre Rayer (la collecte systématique de données disponibles sur Internet par des systèmes automatisés), la protection des données des utilisateurs lors de l’utilisation d’outils d’IA, l’impact sur les droits des individus à leurs données, la protection contre les désavantages et la discrimination et les défis de sécurité particuliers que ces nouveaux systèmes apporter avec eux. Tous ces aspects constitueront l’un des axes de travail prioritaires du service IA de la CNIL et de son Laboratoire d’Innovation Numérique (LINC).
2. Orienter et réguler le développement de l’IA prenant en compte les données personnelles
De nombreuses parties prenantes ont exprimé leur incertitude quant à la manière dont le règlement général sur la protection des données (RGPD) s’applique à l’IA, en particulier à la formation de systèmes d’IA génératifs. Pour accompagner les acteurs et préparer l’entrée en vigueur de la loi IA, la CNIL a déjà proposé quelques Politiques d’IA C’est un Position sur l’utilisation de la vidéosurveillance « améliorée » par l’IA dans l’espace public. L’agence publiera bientôt des lignes directrices sur les règles de partage et de réutilisation des données. L’accent est mis sur l’utilisation de données accessibles au public pour la formation de modèles d’IA. La CNIL poursuivra également ses travaux sur la conception de systèmes d’IA et la création de bases de données de machine learning, avec plusieurs publications à partir de l’été 2023.
3. Fédérer et accompagner les acteurs innovants de l’écosystème de l’IA en France et en Europe
Le règlement IA de la CNIL vise à encourager et accompagner les acteurs de l’IA à s’épanouir dans un cadre respectueux des libertés et droits fondamentaux de la France et de l’Europe. L’Autorité a lancé une « sandbox » pour accompagner les projets et acteurs innovants du secteur de l’IA, un programme d’accompagnement spécifique pour les prestataires de vidéosurveillance avancée et un nouveau programme « d’accompagnement renforcé » en 2024 pour aider les entreprises innovantes à se mettre en conformité avec le RGPD .
4. Test et contrôle des systèmes d’IA et protection individuelle
L’autorité développera des outils pour effectuer des contrôles des systèmes d’IA et s’assurer que les droits et libertés des individus sont respectés. en 2024, les actions de surveillance de la CNIL porteront sur le respect de sa position sur la vidéosurveillance avec IA, l’utilisation de l’IA dans la détection des fraudes et la gestion des plaintes déposées contre les développeurs et fournisseurs de systèmes d’IA. Rappelons que la CNIL a déjà reçu plusieurs plaintes contre OpenAI, la société à l’origine de ChatGPT, et a lancé une enquête (tout comme l’avait fait notre garant de la vie privée lorsqu’il prévoyait l’heure).
La CNIL franchit des étapes importantes pour devenir un acteur majeur de la régulation de l’intelligence artificielle en Europe. Sa stratégie équilibrée vise principalement à une compréhension approfondie de l’IA, à créer des politiques claires, à soutenir l’innovation qui respecte les droits des individus et à contrôler étroitement les pratiques représente un modèle de gouvernance de l’IA qui pourrait inspirer d’autres pays. Compte tenu de la vitesse à laquelle l’IA évolue, Tout organisme de contrôle doit maintenir un degré élevé de flexibilité et d’adaptabilité faire face aux nouveaux problèmes et défis qui surgiront dans les années à venir.
Apprendre encore plus: Intelligence artificielle : le plan d’action de la CNIL
« Jugador. Introvertido. Solucionador de problemas. Creador. Pensador. Evangelista de la comida de toda la vida. Defensor del alcohol ».