Lors de leur rencontre à San Francisco, début janvier, les dirigeants d’OpenAI et le secrétaire d’État au Numérique, Jean-Noël Barrot, ont discuté de l’intelligence artificielle et du projet de régulation européen « AI Act ». L’objectif de cette nouvelle législation est de réguler le vaste domaine de l’intelligence artificielle afin de protéger les citoyens européens des dangers potentiels qu’il comporte.
Le succès de ChatGPT, le logiciel créé par OpenAI, a ravivé le débat autour de ce règlement en gestation depuis plus d’un an. La Commission européenne, le Conseil réunissant les États membres et le Parlement européen sont tous impliqués dans le processus de réglementation.
La volonté affichée est de produire un texte « équilibré » et « numéro un de la régulation mais aussi de l’innovation ». Pour ce faire, l’AI Act est construit sur une approche « par les risques ». Ainsi, certains usages de l’intelligence artificielle sont interdits, tels que les systèmes de « notation sociale » à la chinoise, les « techniques subliminales » visant à manipuler les citoyens, les logiciels « qui exploitent les vulnérabilités dues à l’âge, au handicap ou à la situation sociale », et aussi la vidéosurveillance permettant « l’identification biométrique des personnes en temps réel dans l’espace public ».
D’autres usages sont classés « à haut risque » et sont régulés en fonction de leurs usages. Dans le transport (conduite autonome de véhicules…), l’éducation et les ressources humaines (notation d’examens, tri de CV…), la santé (chirurgie assistée par robot), les services (obtention de crédit), la justice (évaluation de preuves)… Des obligations sont imposées afin de vérifier la « qualité » des données utilisées pour entraîner les logiciels, « minimiser les risques et les résultats discriminatoires », assurer un faible taux d’erreur… et prévenir les utilisateurs qu’ils interagissent avec une machine.
La nouvelle législation européenne AI Act est un pas important pour encadrer l’intelligence artificielle et protéger ses citoyens. Elle est surveillée par OpenAI et les lobbys des géants du numérique, et elle devrait être mise en application à partir de mars 2021.
Mots-Clés: OpenAI, Jean-Noël Barrot, AI Act, ChatGPT, Europe, Régulation, Intelligence Artificielle, Thierry Breton, Digital Markets Act, Digital Services Act.