Intégration de l’IA dans les services publics : le CESE appelle à plus de transparence
Le Comité économique et social européen (CESE) a adopté un avis qui recommande la prudence dans la création des algorithmes pour éviter les biais et les discriminations. Il estime de plus que des informations claires doivent être délivrées aux fonctionnaires et au public sur les systèmes déployés, et que des plans de formation doivent être mis en place. Enfin, il rappelle la nécessité d’apporter une protection adéquate des données sensibles utilisées par ces systèmes d’IA.
Samia Lokmane 04 novembre 2024
« Favoriser les opportunités et gérer les risques liés aux nouvelles technologies pour les services publics, l’organisation du travail et des sociétés plus égalitaires et inclusives », est l’intitulé d’un avis publié le 31 octobre par le Comité économique et social européen (CESE) sur la mise en œuvre de l’intelligence artificielle dans les services publics.
En sa qualité d’organe consultatif de l’UE en charge de promouvoir les valeurs d’intégration européenne, le CESE considère que le déploiement des chatbots et autres modèles génératifs dans les administrations gouvernementales doit s’accompagner de mesures rigoureuses visant à protéger les droits fondamentaux des citoyens européens.
L’humain doit garder le contrôle
« Bien que l’IA offre (entre autres) la possibilité d’automatiser des processus complexes et répétitifs et de contribuer à rendre les services publics plus accessibles aux citoyens, les algorithmes d’IA génératifs et prédictifs peuvent (s’ils ne sont pas contrôlés) conduire à des biais », prévient l’instance formée de près de 400 membres (travailleurs, employeurs et autres groupes d’intérêt de toute l’Europe) et présidée par le syndicaliste autrichien Oliver Röpke.
Pour le Comité, il est nécessaire de garantir « le principe de l’homme aux commandes »en gardant à l’esprit que les services publics sont fournis par des êtres humains et que ceux-ci doivent avoir le contrôle sur les machines. Dans un premier avis datant de 2017, le CESE avait déjà insisté sur l’importance de mettre en œuvre les algorithmes avec soin, afin de préserver les principes d’équité et de transparence dans l’accès aux services publics.
Plus de transparence sur les outils utilisés
Cette fois, il va plus loin et demande aux employeurs publics d’informer leurs salariés et le public sur les systèmes d’IA utilisés.
« Des informations claires sur la mise en œuvre de ces systèmes sont essentielles pour favoriser la confiance à l’égard de cette nouvelle technologie et de son utilisation », assure le CESE, rappelant que le principe de transparence est au cœur de la loi sur l’intelligence artificielle (AI Act), adopté en mai dernier l’UE.
Pour s’assurer d’une bonne utilisation de l’IA dans les services publics, il estime par ailleurs qu’il faut envisager la mise en place de plans complets de formation et de perfectionnement des employés. Il cite en référence une récente étude de l’OCDE (Organisation de coopération et de développement économique) démontrant qu’à l’inverse des avancées technologiques précédentes, « l’IA présente des caractéristiques nouvelles qui nécessitent la mise à niveau des compétences des travailleurs ».
Attention au traitement des données !
Au volet de la sécurité, l’intégration de l’IA dans les services publics doit s’accompagner, selon le Comité, du renforcement des niveaux de sécurité dans la collecte, le traitement et le stockage des données, dont un nombre considérable d’informations sensibles, telles que les données juridique et de santé.
Il appelle également les employeurs publics à se doter d’outils de cybersecurité adéquats pour prévenir les attaques informatiques et les délits liés au vol des données. Il est à noter que l’avis du Conseil Economique et social européen fait suite à une demande de la Commission européenne afin de contribuer aux travaux des institutions de l’UE sur les garde-fous, la gouvernance et l’orientation de l’innovation en matière d’intelligence artificielle. Il a été élaboré par deux parlementaires italiens, membres du Conseil : Giulia Barbucci et Giovanni Marcantonio.