Les défis liés à l’intelligence artificielle (IA) générative
La proposition d’un nouveau cadre régulateur pour l’IA générative
Faire de la Commission nationale de l’informatique et des libertés (CNIL), gendarme de la vie privée en matière numérique, le régulateur du secteur de l’intelligence artificielle (IA) générative est l’une des trente-trois propositions du premier rapport parlementaire consacré à l’intelligence artificielle, présenté mercredi 14 février à la commission des lois de l’Assemblée nationale.
Transformer la CNIL en une haute autorité pour la protection des données et le contrôle de l’intelligence artificielle
Les deux députés à l’origine de ce document, Stéphane Rambaud (Rassemblement national) et Philippe Pradal (Horizons), proposent ainsi de transformer la CNIL en une haute autorité en charge de la protection des données et du contrôle de l’intelligence artificielle, qui serait dotée d’un grand nombre d’experts et techniciens en mesure de contrôler des algorithmes complexes.
Un nouveau rôle pour la CNIL dans le cadre de l’IA
La CNIL a annoncé en janvier 2023 la création d’un service consacré à l’IA, puis a présenté en mai un plan d’action relatif à ce domaine. Les acteurs économiques du secteur semblent partager le sentiment selon lequel la CNIL ne dispose pas des moyens suffisants pour contrôler efficacement ce nouveau secteur, insiste toutefois le rapport.
Des préoccupations concernant les rôles de la CNIL et de l’Arcom
Les deux rapporteurs relèvent en outre vouloir départager les rôles de la CNIL et de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom), compétente en matière de régulation des plates-formes numériques : si les deux ont vocation à intervenir dans le domaine de l’IA, il apparaît nécessaire de désigner l’une d’entre elles pour piloter cette nouvelle politique.
Lutter contre les deepfakes ou hypertrucages
Parmi les autres préconisations des députés figurent l’étiquetage des contenus produits par une IA générative en matière de propagande électorale, la nomination d’un ambassadeur dans ce domaine pour suivre les discussions internationales autour de sa régulation et la pénalisation des hypertrucages (plus connus sous l’appellation « deepfakes » en anglais), dès lors qu’ils sont réalisés sans le consentement de la personne concernée.
Le travail de préparation du rapport et ses prémisses
Ce rapport parlementaire est issu d’un travail de plusieurs mois, durant lesquels ont été auditionnées une cinquantaine de personnes, membres de l’administration et d’autorités administratives indépendantes, universitaires et personnes issues du monde de l’entreprise.
Mots-clés:
Commission nationale de l’informatique et des libertés, CNIL, intelligence artificielle, IA, deepfakes, Stéphane Rambaud, Philippe Pradal, Arcom, deepfakes, rapport parlementaire, régulation, régulateur, hypertrucages, deepfakes, cadre régulateur, technologie, attribution des rôles, Paris, France, 14 février 2024, 2023.