Des appels à la prudence alors qu'Ottawa explore son potentiel en utilisation d'IA

Le gouvernement fédéral explore de nouvelles façons dont il pourrait utiliser l’intelligence artificielle, des voix se lèvent lui demandant de tenir cette technologie à l'écart de la justice pénale, de l’élaboration des politiques et de l’embauche.

En avril, la présidente du Conseil du Trésor de l’époque, Anita Anand, annonçait que le gouvernement fédéral allait élaborer une stratégie sur l’IA devant être publiée au printemps 2025.

Le gouvernement a mené des consultations sur la stratégie l’automne dernier et a reçu près de 300 soumissions de chercheurs, de syndicats, de groupes autochtones et d’autres intervenants sur les façons dont l’IA pourrait être utilisée dans la fonction publique.

Un rapport publié à la fin du mois dernier dévoile les enjeux soulevés lors de ces consultations.

Des possibilités infinies

Il a été suggéré que des agents conversationnels puissent fournir des informations gouvernementales «rapides et précises» aux Canadiens. L'IA pourra aussi traduire des textes pour que toutes communications gouvernementales soient facilement accessibles dans les deux langues officielles.

Certaines personnes ont suggéré d’utiliser cette technologie pour suivre des enjeux qui touchent la santé publique, l’environnement ou l’économie, le traitement des demandes de services sociaux et l’examen des documents juridiques. La détection et la prévention «d'activités frauduleuses» ont aussi été nommées.

L’IA pourrait également aider à des tâches administratives; création et tri de documents, gestion des boîtes de réception, rédaction de réponses aux questions courantes.

D'autres ont également proposé d’utiliser l’IA pour prendre le pouls de la population sur les médias sociaux et recueillir des commentaires lors de consultations publiques.

Le gouvernement fédéral utilise l’IA depuis des décennies pour des tâches telles que l’analyse d’images satellite l'élaboration de prévisions. Il l’utilise aussi pour prédire l’issue des dossiers fiscaux et trier les demandes de visa temporaire.

Services publics et Approvisionnement Canada a élargi son utilisation de l’intelligence artificielle pour aider à éliminer l’arriéré de transactions dans le système de paie de la fonction publique Phénix.

Bien que l’IA soit déjà utilisée pour recruter des fonctionnaires, le rapport indique que certains répondants pensent qu’elle pourrait simplifier le processus en examinant les candidatures, en planifiant les entretiens et en élaborant des programmes de formation.

Le rapport indique que certains répondants ont averti Ottawa de ne pas déployer l’IA dans des domaines plus sensibles du gouvernement, comme la justice pénale. Il y a entre autres une inquiétude quant aux décisions de détermination de peine et de libération conditionnelle.

Des répondants ont également déclaré que l’IA ne devrait pas être utilisée à des fins de surveillance, de prise de décisions politiques ou de décision sur l’admissibilité d’une personne aux services sociaux. De nombreux participants ont exprimé des inquiétudes quant à l’utilisation de l’IA pour prendre des décisions concernant l’embauche, la promotion ou le licenciement de fonctionnaires.

Le rapport de consultation indique que les fonctionnaires «à tous les niveaux» ont besoin d’une formation en IA.

Un regard d'expert

Adegboyega Ojo, professeur et titulaire de la chaire de recherche du Canada en gouvernance et intelligence artificielle à l’Université Carleton, estime que les domaines que le rapport cite pour l’utilisation de l’IA sont «relativement sûrs».

Il a convenu que les domaines où le rapport propose d'interdire l’IA sont «sensibles et nécessitent une extrême prudence», bien qu’il ait noté que la technologie pourrait toujours être utile dans certains de ces domaines «si des pratiques éthiques et responsables sont suivies».

«L’idée que l’IA puisse élaborer des politiques de manière indépendante est irréaliste et néglige la dynamique politique qui façonne l’élaboration des politiques, a affirmé M. Ojo. Cependant, l’IA peut améliorer la collecte et l’analyse des preuves, ainsi que la modélisation des impacts des politiques sur différents groupes, y compris les communautés marginalisées».

M. Ojo a déclaré que l’IA peut également aider à déterminer si une personne est éligible aux services sociaux en automatisant certaines tâches, comme le tri des demandes. Selon lui, la clé est de s’assurer que des mesures de sécurité sont en place et qu'un humain prenne toujours la décision finale.

Fenwick McKelvey, professeur agrégé en politique des technologies de l’information et de la communication à l’Université Concordia et codirecteur de l’Applied AI Institute, a déclaré que des agents conversationnels pilotés par l’IA pourraient être utiles pour des tâches tels que la déclaration de revenus.

«Les agents conversationnels font partie de la façon dont les Canadiens utiliseront Internet à l’avenir, pour le meilleur ou pour le pire. Cela reconnaît au moins les tendances du secteur public vers une conception plus centrée sur l’utilisateur», a noté M. McKelvey, qui a participé aux consultations gouvernementales.

Le professeur McKelvey a affirmé qu’il était d’accord avec la liste des domaines où l’IA serait proscrite énumérée dans le rapport de consultation. Il souhaiterait que le gouvernement continue d’explorer les différents risques et trouve des moyens d’éviter de renforcer les biais.

«Il faut se concentrer sur les applications où les avantages publics sont très clairs, a-t-il déclaré. Nous nous concentrons trop souvent sur la manière dont les outils existants comme ChatGPT seront intégrés dans la fonction publique, ce qui place en somme le gouvernement comme un simple client, alors qu’il pourrait établir et imaginer les prochaines étapes de l’infrastructure informatique. »

— Avec des informations d'Anja Karadeglija.

Catherine Morrison, La Presse Canadienne