Intelligence artificielle, de l'opportunité à la réglementation

Le 21 avril 2021, la Commission européenne a proposé un texte réglementaire sur l'intelligence artificielle dans l'Union européenne. Ce texte, toujours en attente d'approbation par le Parlement et le Conseil de l'UE, devrait être validé dans l'année.

L'intelligence artificielle au cœur du débat

Début 2018, le rapport dit « Villani » a posé les premières bases de la stratégie française sur l'intelligence artificielle (IA). Ses objectifs étaient de créer un réseau d'instituts dédiés à l'IA, de mettre en place un supercalculateur dédié et d'accroître l'attractivité des carrières de recherche pour éviter la fuite vers les géants américains. Fin 2018, le plan IA français était officiellement annoncé, suivant les grandes lignes du rapport Villani : 1,5 milliard d'euros « d'argent public dédié sur l'ensemble du quinquennat au développement de l'intelligence artificielle » par divers moyens (supercalculateurs, financement de doctorats, financement de start-ups spécialisées, etc.). Dans le même temps, l'Allemagne annonçait également son plan dédié à l'IA, 3 milliards d'euros pour se propulser parmi les nations leaders sur Terre, espérant dépasser les hégémonies américaine et chinoise. La course à l'IA est lancée en Europe, et d'autres pays européens suivront l'exemple de la France et de l'Allemagne, en annonçant des plans dédiés dans les années à venir.

En 2020, il n'est donc pas étonnant de voir la Commission européenne se saisir du sujet en publiant son livre blanc sur l'IA. Il fixe ses propres objectifs autour de 4 piliers :

• Créer des conditions favorables au développement de l'IA
• Faire de l'UE un espace attractif pour l'innovation
• Construire des leaders stratégiques dans les différents secteurs d'activité
• Veiller à ce que l'IA soit utilisée au bénéfice des citoyens

Cependant, comme on pouvait s'y attendre, après la période euphorique d'investissement vient le besoin de réglementation de l'intelligence artificielle, accéléré notamment par les divers accidents de véhicules autonomes impliquant des systèmes d'IA.

Une proposition de la Commission visant à réglementer l'intelligence artificielle

Le 21 avril 2021, la Commission européenne a proposé le premier cadre juridique pour l'IA. Ce nouveau règlement vise à garantir aux citoyens européens qu'ils peuvent faire confiance à l'IA, en anticipant tous les risques induits par l'utilisation de systèmes automatisés. L'utilisation de la reconnaissance faciale - et des moyens d'identification biométriques - ainsi que les systèmes ayant un impact élevé sur des questions telles que l'éducation ou la démocratie sont particulièrement visés.

Par ailleurs, la Commission européenne entend garantir une homogénéité des règles sur l'ensemble du territoire des États membres, afin d'éviter une fragmentation du marché. Ces règles, sous réserve d'approbation par le Conseil de l'UE et le Parlement européen, seront applicables à tous les acteurs économiques, quelle que soit leur nationalité, sur l'ensemble du territoire de l'Union européenne. Leur application sera assurée par des autorités nationales désignées par chaque pays membre et chargées de veiller à la mise en œuvre de ce nouveau règlement. Enfin, le Conseil européen de l'IA centralisera toutes les informations rapportées par les autorités nationales.

Le non-respect de ce nouveau règlement peut entraîner une amende plafonnée :

• Jusqu'à 30 M€ ou 6 % du chiffre d'affaires annuel mondial (le montant le plus élevé étant retenu) pour les pratiques interdites ou le non-respect de la réglementation sur les données
• Jusqu'à 20 M€ ou 4 % du chiffre d'affaires mondial total (le montant le plus élevé étant retenu) pour le non-respect de tout autre principe réglementaire
• Jusqu'à 10 M€ ou 2 % du chiffre d'affaires mondial total (le montant le plus élevé étant retenu) pour une notification incorrecte, incomplète ou trompeuse aux autorités compétentes

En pratique, un large éventail de systèmes sont concernés

La définition de l'IA donnée par la Commission européenne est très large, permettant de couvrir légalement un large éventail de systèmes :

Approches d'apprentissage automatique, apprentissage supervisé, non supervisé et par renforcement, utilisant une grande variété de méthodes, y compris l'apprentissage profond
Approches basées sur la logique et la connaissance, y compris la représentation des connaissances, la programmation inductive, les bases de connaissances, les moteurs d'inférence et de déduction, le raisonnement symbolique et les systèmes experts
Approches statistiques, estimation bayésienne, méthodes de recherche et d'optimisation

Ces systèmes ont ensuite été classés selon des niveaux de risque :

• Risque inacceptable: menaces évidentes pour les citoyens, notation sociale par les autorités publiques, etc. Ces systèmes seront purement et simplement interdits sur le territoire européen.
• Risque élevé: infrastructures critiques, éducation, examens, emploi, recrutement, services publics et privés essentiels (y compris les systèmes de prêt), gestion des frontières, justice et démocratie. Ces systèmes seront fortement réglementés.
• Risque limité: Systèmes de dialogue IA (chatbot), images/vidéos/contenus générés par IA. Ces systèmes seront soumis à la règle de transparence afin de ne pas induire l'utilisateur en erreur sur l'origine du contenu.
• Risque minimal: monde du jeu vidéo, filtres anti-spam, etc. Ces systèmes, qui selon la Commission représentent plus de 90 % des cas, ne verront aucun changement suite à cette nouvelle réglementation.

‍

‍

Une exception à cette définition basée sur le risque est faite pour les systèmes d'identification biométrique (notamment la reconnaissance faciale). La principale raison invoquée par la Commission européenne est le risque excessif de biais statistique dans ces algorithmes, pouvant donner lieu à de graves faux positifs, notamment en raison du sexe, de l'origine ethnique ou de l'âge.

Ces derniers seront simplement interdits sur le territoire européen, sauf dans trois cas d'utilisation spécifiques :

• La recherche de victimes d'infractions pénales et d'enfants disparus
• Répondre à une menace imminente d'attaque terroriste
• Détection et identification des auteurs d'infractions graves

Développements futurs

Quatre grands axes de développement sont prévus pour les systèmes à risque.

1. Évaluation des risques

Les systèmes à risque devraient disposer d'une politique formalisée d'évaluation du risque d'erreur. Cette politique devrait être itérative et donc évoluer tout au long du cycle de vie du système. Trois éléments clés devraient être mis en place :

• La définition en amont de métriques pour quantifier les erreurs attendues du système
• L'estimation des risques pouvant être induits en cas d'erreur du système
• L'évaluation des autres risques possibles pouvant être détectés après la mise en production du système

2. Validation des jeux de données

Les jeux de données utilisés pour l'entraînement devraient répondre à certains critères, notamment : "être pertinents, représentatifs, exempts d'erreurs et complets. Avoir des propriétés statistiques adéquates, y compris, le cas échéant, tous les profils ou groupes de personnes avec lesquels le système est destiné à être utilisé "1.

Bien que ce principe de validation des jeux de données soit précieux, il faut se souvenir que les jeux de données seront toujours quelque peu biaisés, souvent partiellement incomplets et n'auront que très rarement des propriétés statistiques parfaites. L'application de cette règle reposera donc probablement plus sur la bonne foi que sur des critères formels et absolus. Il est cependant fondamental de travailler au débiaisage de ces algorithmes autant que possible, comme déjà mentionné dans notre article : "Les algorithmes peuvent-ils être racistes".

3. Transparence, interprétabilité et l'humain

Le troisième enjeu réglementaire mis en avant par la Commission européenne s'articule autour de la transparence des modèles et de leur interprétabilité. En pratique, les systèmes à risque doivent être compréhensibles pour les utilisateurs humains et éviter le principe de la « boîte noire », qui ne permet d'obtenir qu'un résultat sans accès au raisonnement ayant mené à la solution. Le monde de la finance a déjà intégré cette notion, par exemple, dans le cas des modèles d'octroi de crédit.

Avec ce principe de transparence vient également celui de l'implication de l'humain au cœur du processus d'IA. En effet, les opérationnels doivent non seulement être capables d'utiliser les systèmes d'IA, mais aussi d'en comprendre les résultats et de les questionner. Ce principe d'autonomisation et de responsabilisation du métier nous tient particulièrement à cœur chez eleven et est fondamental pour une adoption réussie de l'IA comme un moyen et non une fin en soi. Pour en savoir plus sur le sujet : Interprétabilité des modèles d'apprentissage automatique.

‍

Bonnes pratiques à généraliser

En réalité, cette nouvelle réglementation était plutôt attendue et ne changera probablement pas grand-chose au quotidien des fournisseurs de systèmes d'IA, mais elle permettra de poser des bases communes pour une IA plus encadrée. Comme de nombreux systèmes à risque ont déjà à l'esprit l'importance de ces principes, aucun changement de cap drastique n'est à prévoir pour les industries concernées.

Il est cependant intéressant de voir ces bonnes pratiques se formaliser et se généraliser progressivement à l'ensemble des systèmes en production. C'est ce que suggère la Commission européenne, avec l'instauration des « Codes de conduite volontaires », qui consistent à appliquer ces principes d'analyse des risques, d'évaluation des biais et de transparence à l'ensemble des systèmes.

Pour notre part, ce sont des principes fondamentaux que nous continuerons d'appliquer au quotidien avec nos clients et que vous pouvez retrouver ici.

Morand Studer, Simon Georges-Kot, Jean Sauvignon

Notes et références

Traduction libre, source : Nouvelles règles pour l'intelligence artificielle – Questions-réponses (europa.eu)

• https://www.enseignementsup-recherche.gouv.fr/cid128577/rapport-de-cedric-villani-donner-un-sens-a-l-intelligence-artificielle-ia.html/
• https://www.enseignementsup-recherche.gouv.fr/cid136649/la-strategie-nationale-de-recherche-en-intelligence-artificielle.html
• https://www.politico.eu/article/germanys-plan-to-become-an-ai-powerhouse/
• https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_fr.pdf
• https://driving.ca/tesla/auto-news/news/tesla-on-autopilot-crashes-in-texas-killing-two
• https://ec.europa.eu/commission/presscorner/detail/fr/IP_21_1682

‍