Les eurodéputés ont franchi une étape cruciale dans le projet de régulation de l’intelligence artificielle (IA) en Europe. Ils ont voté en faveur de nouvelles interdictions et d’une meilleure prise en compte du phénomène ChatGPT. L’objectif de l’Union européenne est de devenir la première région au monde à se doter d’un cadre juridique complet pour encadrer l’IA et prévenir ses dérives, tout en favorisant l’innovation.

Le projet de règlement ambitieux proposé par Bruxelles il y a deux ans a été retardé par les controverses entourant les dangers des IA génératives capables de générer des textes ou des images. Les États membres ont récemment défini leur position, permettant aux eurodéputés d’entériner la leur lors d’un vote en commission. Cependant, une négociation difficile entre les différentes institutions reste à venir.

Lire aussi : WordPress et l’intelligence artificielle avec ChatGPT d’OpenAI 2023

L’IA : une fascination et une inquiétude

Les systèmes d’intelligence artificielle suscitent à la fois fascination et inquiétude. Ils peuvent sauver des vies en améliorant les diagnostics médicaux, mais sont également utilisés par des régimes autoritaires pour la surveillance de masse. Le grand public a récemment découvert leur potentiel avec la sortie du générateur de contenus rédactionnels ChatGPT, capable de rédiger des dissertations, des poèmes et des traductions en quelques secondes.

Cependant, la diffusion de fausses images réalistes créées par des applications telles que Midjourney a mis en évidence les risques de manipulation de l’opinion. Des experts ont même appelé à un moratoire sur le développement des systèmes les plus puissants jusqu’à ce qu’ils soient mieux encadrés par la loi.

Les nouvelles réglementations de l’UE

La position du Parlement européen rejoint globalement celle de la Commission. Le projet de règlement prévoit des règles pour les applications à « haut risque », définies par les entreprises elles-mêmes en fonction des critères législatifs. Ces règles incluent la nécessité d’un contrôle humain sur les machines, l’établissement d’une documentation technique et la mise en place d’un système de gestion des risques.

Le respect de ces règles sera supervisé par des autorités de surveillance dans chaque pays membre. Les eurodéputés souhaitent limiter ces obligations aux seuls produits susceptibles de menacer la sécurité, la santé ou les droits fondamentaux. Ils demandent également un régime spécifique pour les IA génératives comme ChatGPT, en reprenant principalement les obligations applicables aux systèmes à haut risque.

De plus, les fournisseurs d’IA seront contraints de mettre en place des protections contre les contenus illégaux et de divulguer les données protégées par des droits d’auteur utilisées pour développer leurs algorithmes.