Les conditions de l’instauration d’une IA de confiance

Thierry Tuot, Conseil d’État

L’intelligence artificielle peut inquiéter le grand public. Les fantasmes sont nombreux, et ils sont fondés. Face à cela, la charge de l’explication est du côté des pouvoirs publics.

Pour permettre au grand public de bien comprendre le sujet, avant d’annoncer que l’on recourt à l’IA pour une décision importante, il convient de respecter sept conditions essentielles.

De l'humain, avant tout

La première est la primauté de l’humain. Cela peut paraître paradoxal. Pourtant, ce point est central : tout doit être contrôlé par l’humain. On ne peut accepter de dire aux plus démunis : c’est l’IA qui décide, ce n’est pas nous. Non, le système, c’est toujours nous. Si le but n’est pas le progrès humain, nous ne devons pas y recourir. De la même façon qu’en médecine, il n’y aura aucun accident médical du fait d’une intelligence artificielle, car il y aura toujours la responsabilité d’un praticien, qui a pris une décision. Le choix peut être réalisé par une intelligence artificielle, mais c’est toujours l’humain qui en fixe les paramètres.

Deuxième exigence : l’IA ne doit jamais être un élément marketing. Dans bien des cas, nous constatons que certains placent des algorithmes et des bases de données sans avoir réfléchi à un processus simple, reposant sur des agents expérimentés, et pouvant donner des résultats tout aussi rapides.

La troisième clef : une base d’équité et de non-discrimination. Dès que l’on recourt à ces systèmes, nous devons prendre en compte les biais qu’ils comportent. Aujourd’hui, nous savons que l’intelligence artificielle, si elle est mal maîtrisée, peut générer des biais discriminatoires très puissants, puisqu’elle est le reflet de notre monde.

Sûreté et transparence

Quatrième point, tout aussi essentiel : la transparence. Aujourd’hui, si vous demandez les entrailles de la machine de Parcoursup, pour reprendre cet exemple, vous vous retrouvez face à cinq cents pages d’écritures mathématiques incompréhensibles. Ça, c’est de la fausse transparence. La vraie transparence, c’est une accessibilité universelle, une maîtrise collective et une compréhension dont les choses fonctionnent. Sans condescendance. Il faut un système dont nous pouvons rendre compte, permettant de débattre.

Cinquième condition : la sûreté. Les pouvoirs publics doivent pouvoir garantir que les systèmes d’intelligence artificielle échapperont aux malversations, vols et autres pénétrations par des puissances étrangères. Pour cela, l’identité numérique doit devenir un droit fondamental garanti. La première chose que font les dictateurs est de priver les gens de leur identité. En doublant une identité physique et numérique, nous assurons la pérennité de l’individu. Et cela demande un niveau de sûreté extraordinaire.

Un système durable et souverain

Largement dans l’air du temps, le sixième principe est que le système doit être soutenable d’un point de vue environnemental. Aujourd’hui, il ne l’est pas. Nous pouvons rater ces développements techniques uniquement pour des raisons environnementales. Et l’opinion publique protestera à juste titre, parce que nous sacrifions des ressources naturelles.

Le dernier point, enfin, est d’actualité : la souveraineté. La crise ukrainienne nous rappelle la dépendance énergétique que vit la France. Nous ne pouvons accepter d’être de même dans une dépendance numérique. Or, c’est le cas aujourd’hui. Il est nécessaire de développer une stratégie de développement pour les capacités de stockage, dans les systèmes, mais d’abord, et avant tout en matière de richesse humaine. Nos sociétés ont largement besoin de ces technologies et s’arrêteraient plus rapidement sans elles qu’en se passant du gaz ou du pétrole russes.

Une pédagogie nécessaire

Venons maintenant aux conditions d’action : comment mettre en œuvre ces principes, par quoi faut-il commencer ?

Première condition d’action : se livrer à de la pédagogie, et pas à de la communication. La société entière doit être capable de participer au débat sur l’intelligence artificielle. L’enjeu est important : nous avons besoin que tout le monde puisse prendre la parole sur ce sujet. La société doit être en mesure de penser la place de ces systèmes dans notre fonctionnement collectif. Pour cela, il faut que l’école, le collège, le lycée, l’université, la totalité de la société, se mettent en place autour du partage de ces compétences, pour avoir un vrai point de vue. D’autant plus affûté et acéré pour les agents publics, les cadres, qui devront prendre des décisions en la matière.

Autre condition absolue : la formation. Une stratégie nationale est nécessaire, avec un approvisionnement de la recherche, la définition de filières robustes et la fidélisation de ceux qui auront été formés. Un plan de formation continue est vital pour les agents en poste aujourd’hui dans les administrations et les entreprises. Nous ne pouvons pas attendre la génération suivante.

Réguler et contester

Le troisième champ, lui aussi, est vital : la régulation. Nous devons nous doter maintenant d’un organisme de confiance, un lieu de recours, de discussion et de médiation. Dans le rapport du Conseil d’État, il est indiqué que la CNIL pourrait être le bon organisme pour cela, afin d’éviter la multiplication des structures. Ce régulateur manque cependant de moyens. C’est le plus puissant d’Europe, le premier à avoir été créé, il a été la base du règlement de 1996, puis du RGPD. Quand le RGPD s’est mis en place, il ne s’appliquait plus à la Grande-Bretagne, celle-ci a doublé les effectifs de son régulateur, 400 personnes de plus. Nous aussi, on a fait des efforts conséquents, on a recruté dix personnes de plus à la CNIL. Nous restons le plus faible régulateur en nombre d’agents pour 100 000 habitants de toute l’Europe, Malte exceptée…

Quatrième condition : la contestabilité. La parole scientifique est désormais remise en question. C’est très heureux, car la sagesse du fonctionnement d’une société démocratique se trouve justement dans l’équilibre de contestations, pour trouver des voies moyennes et un résultat acceptable ! Pour y parvenir, il faut un vrai mode de médiation, de recours, de transparence, qui permette à chacun de sentir ses droits défendus.

Place au cinquième point : la gouvernance. Nous devons repenser le mode de gouvernance des systèmes. Sur 14 000 plaintes déposées à la CNIL, seules huit procédures de sanctions ont été effectuées. Demain, si nous voulons une gouvernance de l’intelligence artificielle moderne, ce n’est pas un décret en conseil d’État qu’il nous faut, mais un conseil d'administration sociétal qui, de jour en jour, voit le système vivre, l’éclaire, le conteste…. Nous avons réussi à faire ces progrès en matière de protection du patrimoine et de l’environnement. Une collégialité implique des associations, des habitants, pour être un lieu de médiation de la contestation.

La recherche, un impératif

Sixième clef : l’élaboration collective de règles dont la robustesse aura été éprouvée par une longue expérimentation. Or, nous sommes déjà en train de faire le contraire. La décision automatique n’est pas possible, c’est le législateur qui l’a écrit en 2018. Heureusement que l’on transgresse la loi tous les jours. Quand on demande une carte grise, ce n’est pas un agent qui vous la délivre, c’est bien une IA. Cela permet un délai de deux jours, contre environ douze semaines s’il s’agissait d’un agent humain. Attention : la décision de la délivrer est prise par une IA, en revanche, le fait de la refuser ne peut l’être. 

De même avec l’APL, le délai actuel de validation est de huit semaines, il pourrait être de 48 h avec une intelligence artificielle. Ainsi, les agents pourraient s’intéresser aux personnes qui ont des difficultés à remplir le dossier. L’IA est un gage d’enrichissement des tâches et de retour de l’humain dans le contact avec la personne, car toutes les tâches répétitives faciles peuvent être traitées par un moteur.

Enfin, pour terminer avec ces sept conditions, se hisse la recherche. En France, elle est la meilleure du monde en termes d’intelligence artificielle, et cela avec des moyens inférieurs à la plupart des autres pays. Attention, cela ne durera pas toujours, nous ne pouvons continuer ainsi avec des bouts de ficelle. Nous avons besoin de surmonter l’artificiel barrage entre l’entreprise corrompue et le chercheur n’ayant aucun intérêt, pour développer une recherche partenariale, où la recherche fait du business et le business fait de la recherche, sans culpabilisation.