« L’inclusion algorithmique ouvre la voie au renforcement d’une souveraineté technologique à la fois territoriale et nationale. Elle se traduit par l’émergence et le développement d’acteurs locaux et nationaux, ainsi que par la création de solutions adaptées aux besoins et aux spécificités de chaque territoire », conclut l’Institut Terram, qui publie ce lundi 29 septembre une étude sur l’inclusion algorithmique au prisme des collectivités territoriales.

Baptisée IA et inclusion algorithmique : un enjeu de cohésion sociale, économique et territoriale, l’étude questionne l’usage des algorithmes — profondément ancré dans la question de l’intelligence artificielle, puisque ce sont ces technologies qui la nourrissent. Douze recommandations viennent matérialiser les réflexions engagées par cette étude.

Une double discrimination

Dans un premier temps, l’étude soulève le problème de la disparité de prise en main des technologies d’intelligence artificielle au sein des collectivités. Selon les derniers chiffres de l’Observatoire Data Publica, les régions et métropoles « sont largement engagées » dans des projets d’IA — avec respectivement 75 % et 62 % d’entre elles ayant déjà mis en œuvre des projets, contre seulement 14 % des communes de 3 500 à 10 000 habitants en 2024 (à noter que ce taux était de 0 % en 2023).

Mais ces entités, au-delà des compétences techniques requises pour mener à bien de tels projets, doivent prendre conscience d’une autre problématique inhérente à l’IA : la double discrimination. Celle-ci est induite, d’une part, par les biais algorithmiques, qui provoquent des différences de traitement des individus en fonction de l’âge, du genre, de l’ethnicité ou de la classe sociale — des études documentent aujourd’hui largement ce phénomène —, mais également, d’autre part, par une discrimination d’inclusion, liée à la disparité d’appropriation et de compréhension de ces nouveaux outils mobilisés par les collectivités.

L’étude classe ainsi quatre dimensions de l’inclusion algorithmique dont les collectivités territoriales doivent se saisir pour porter des projets publics liés à l’intelligence artificielle :

• l’accès, correspondant à l’accès aux infrastructures, à Internet ou aux appareils électroniques ;
• l’usage, renvoyant à l’adoption d’une technologie et à l’aisance dans sa manipulation ;
• la compréhension, traduisant la connaissance des éléments fondamentaux de la technologie algorithmique ;
• et enfin, la conception, renvoyant à la construction juste, précise et inclusive des algorithmes.

Besoin d’une volonté politique

« La volonté politique est déterminante pour impulser des projets mobilisant des modèles d’IA au service des habitants ou de l’efficacité des collectivités, pour créer des structures favorisant l’appropriation de ces technologies et pour soutenir les initiatives de médiation numérique », soulignent les auteurs de l’étude. Ils affirment qu’il est donc nécessaire de « favoriser, chez les élus et les agents des collectivités, la capacité de compréhension et d’usage des technologies d’IA, afin de leur permettre de saisir l’ensemble des enjeux (opportunités, défis et menaces) qu’elles portent à leur échelle ».

Premier levier à activer pour cela : l’inclusion au sein même de la collectivité, qui passe d’abord par l’identification des besoins, à échelle locale, pour lesquels des solutions algorithmiques s’avéreraient pertinentes et ancrées dans les orientations politiques et financières de la collectivité.

Les élus peuvent et doivent ainsi compter les uns sur les autres en partageant un maximum d’informations, de bonnes comme de mauvaises pratiques, et en tirant profit des retours d’expérience de la manière la plus exhaustive possible. Une initiative en ce sens a d’ailleurs été portée par l’association de collectivités Les Interconnectés, qui a mis en ligne, en mars dernier, une bibliothèque des IA territoriales à destination de tous.

L’étude alerte également sur la verticalité des politiques numériques au sein des collectivités. Ainsi, là où les directions des systèmes d’information ou les directions du numérique travaillent individuellement, une « direction transversale dédiée à la transformation numérique et à l’IA », « intervenant pour sensibiliser l’ensemble de la collectivité, mener une réflexion globale et accompagner la mise en place d’outils adaptés à chaque métier », paraît plus favorable aux auteurs de l’étude. Elle permettrait de faire de l’IA, mais aussi de la donnée — et donc de l’inclusion algorithmique — un sujet dont les frontières dépassent ces départements.

Remettre le citoyen au cœur du sujet

Après avoir questionné ces besoins au sein même des collectivités, ces dernières doivent cependant les penser en fonction des citoyens. Concrètement, pour déployer des outils d’intelligence artificielle inclusifs, sûrs et de confiance, les décideurs ne peuvent plus agir individuellement, souligne l’étude. « Un effort doit être déployé vers l’ensemble des citoyens afin de proposer des opportunités d’apprentissage et de prise en main dans chacune des sphères dans lesquelles ils sont susceptibles d’évoluer (publique, scolaire, professionnelle) : l’appropriation et l’usage d’outils reposant sur l’IA ne s’improvisent pas », pointe-t-elle.

De la part d’une collectivité ou d’une instance de l’État, cela passe par une plus grande transparence sur les méthodes utilisées pour concevoir des outils, offrant une meilleure compréhension de ces derniers par les utilisateurs — agents ou citoyens. L’étude plaide ainsi pour une gouvernance claire, dépassant le seul cadre législatif, afin de « se montrer visionnaire dans la manière de concevoir et d’utiliser des outils numériques et algorithmiques ».

Cette gouvernance claire implique une coopération étroite entre les équipes, le renforcement des compétences des citoyens et des agents, la participation des utilisateurs à la fabrication de l’outil (par le biais de consultations ou de retours d’expérience, par exemple) et une gestion rigoureuse des données, qui constituent les fondations de ces outils.

Pour inclure pleinement les citoyens dans la démarche, l’étude met en lumière le principe vertueux de la « coconception », dont certaines collectivités sont déjà pionnières, ayant organisé des conventions citoyennes ou des débats thématiques sur le numérique. L’exemple de Rennes est ainsi évoqué : en mettant en place un Conseil citoyen du numérique responsable, composé de citoyens, la ville mobilise régulièrement ces derniers sur ces questions. Les auteurs de l’étude tempèrent toutefois : « S’il semble délicat d’inclure les citoyens dans la conception pratique des algorithmes, plusieurs outils permettent de les associer à cette démarche en amont (recueil de leurs besoins, expression de points de vigilance, définition des fonctionnalités à inclure, conception d’interfaces ergonomiques), comme en aval (évaluation des outils créés et de leur déploiement). »