Appliquer le principe du Gouvernement Ouvert aux algorithmes publics, avec Soizic Pénicaud et Simon Chignard

Soizic Pénicaud, spécialiste des sujets de collaboration entre la recherche et la société civile, et Simon Chignard, chercheur et spécialiste de la donnée, ont porté ensemble l'engagement n°6 du dernier plan d'action Gouvernement ouvert de la France : "Renforcer la transparence des algorithmes et des codes sources public". Ils évoquent, pour nous, la place croissante donnée aux algorithmes dans les services publics et les enjeux de transparence et de compréhension qu’ils entraînent pour les usagers mais également pour les agents publics.

Algorithmes : un rôle prépondérant dans l’évolution des services publics

En Europe, l’action publique fait de plus en plus appel aux algorithmes. En France, l’attribution des greffes de cœur est, par exemple, déterminée par algorithmes. En Italie, plusieurs régions comme la Lombardie ou le Piémont les ont récemment utilisés pour optimiser la stratégie vaccinale, entraînant un débat au plus haut sommet de l’Etat sur l’égalité d’accès des citoyens au vaccin contre la covid-19. La Commission européenne vient, pour sa part, de publier un draft pour une régulation et un encadrement de l’intelligence artificielle. « Tout cela soulève des enjeux de transparence, d’explication et même de contestation de décision prise à partir d’un algorithme », rappelle en introduction Simon Chignard.

Soizic Pénicaud constate, quant à elle, que lorsqu’on parle d’algorithmes, on pense souvent à des mécanismes automatiques orientés vers l’usager mais elle rappelle que les agents publics ont un rôle énorme à jouer dans la manière dont ils les intègrent dans leur prise de décision : "par exemple, certains d’outils d’aide à la décision priorisent certains contrôles en attribuant des « scores de risques ». Il importe donc que les agents utilisateurs soient impliqués dans le processus de compréhension de l’algorithme créé. Face à un écran, les agents doivent pouvoir conserver leur savoir métier et garder de la distance par rapport à ce que peut dire la machine. Pourtant, le sujet de « l’explicabilité » et de la transparence des algorithmes auprès des agents publics eux-mêmes reste encore peu exploré."

Algorithmes publics : un enjeu de transparence pour "comprendre, contester et discuter" le rôle de la machine dans la décision publique

La création d’un algorithme se heurte parfois à la logique du législateur. Comme l’explique Simon Chignard, « le travail du législateur va inclure des zones de flou liées des situations particulières. Parfois, le législateur ou l’administration en a parfaitement conscience et ce flou permet d’exercer un pouvoir discrétionnaire, c’est-à-dire la capacité a traité un dossier d’une manière qui n’est pas automatique ». Cette logique est radicalement inverse à celle d’un codeur en charge de la programmation d’un algorithme : « A l’inverse, le flou est un grain de sable dans les rouages pour le codeur. La question est donc de réunir les deux positions. Doit-on écrire la loi comme des programmes informatiques ou bien trouver des langages intermédiaires pour rapprocher les points de vue. Plus le code sera ouvert, plus les choix seront transparents et plus il sera possible d’en discuter. » Soizic Pénicaud sur le sujet du référencement des algorithmes existants ajoute :

Le replay

Le Partenariat pour un Gouvernement Ouvert, qu'est-ce que c'est ?