Transcription
Transcription : Biais, obstacles et éthique concernant l'IA : Ce que les fonctionnaires doivent savoir
[00:00:12 Texte à l'écran : Biais, obstacles et éthique concernant l'IA : Ce que les fonctionnaires doivent savoir.]
[00:00:19 Seyi Okuribido-Malcolm apparaît à l'écran.]
Seyi Okuribido-Malcolm (directrice principale, Centre de la sécurité des télécommunications) : Bonjour et bienvenue à la discussion d'aujourd'hui sur les biais, les obstacles et l'éthique concernant l'IA : Ce que les fonctionnaires doivent savoir. Je m'appelle Seyi Okuribido-Malcolm. Je suis directrice principale au sein du Centre de la sécurité des télécommunications Canada. Comme pour d'autres organisations, l'IA est également au cœur de nos préoccupations. Avant d'aller plus loin, j'aimerais souligner que nous sommes ici à Ottawa sur le territoire traditionnel non cédé du peuple des Algonquins Anichinabés. Où; que vous soyez, je vous encourage à réfléchir à la présence des peuples autochtones d'hier et d'aujourd'hui pour qui cette terre est leur maison, car la réconciliation n'est pas possible sans la reconnaissance.
[00:01:05 Abdi Aidid est montré assis en face de Seyi Okuribido-Malcolm.]
Je suis ici avec Abdi Aidid, professeur adjoint à la Faculté de droit de l'Université de Toronto. Il est également titulaire de la Chaire de recherche du Canada sur l'intelligence artificielle et l'accès à la justice. Et heureusement pour nous, il est ici en tant que chercheur invité à l'École de la fonction publique du Canada.
Bienvenue, Abdi, je suis heureuse de vous accueillir aujourd'hui.
Abdi Aidid (professeur adjoint en droit, Université de Toronto) : Merci de me recevoir.
Seyi Okuribido-Malcolm : Comme je l'ai mentionné, nous parlerons des biais, des obstacles et de l'éthique concernant l'IA, et de ce que nous, en tant que fonctionnaires, devrions vraiment savoir à ce sujet. Certaines personnes ont dit que les 10 prochaines années d'IA seront plus perturbatrices que les 50 dernières années d'informatique. Alors que les gouvernements continuent d'adopter l'IA à un rythme rapide et accéléré, je suis curieuse d'entendre ce que vous avez à dire. Pourquoi devons-nous, à l'heure actuelle, prendre l'IA éthique au sérieux?
Abdi Aidid : Oui, c'est une bonne et très grande question. Je commencerai par dire que la chose la plus fondamentale à savoir sur l'IA, c'est que nous disposons de la plus grande capacité à faire le bien que nous ayons jamais eue, mais aussi probablement de la plus grande capacité à faire le mal, en partie à cause de l'envergure. La principale raison pour laquelle les fonctionnaires doivent réfléchir sérieusement à l'IA et à son utilisation éthique, c'est qu'il est possible de faire à la fois beaucoup de dégâts et beaucoup de bien. J'aimerais que les gens réfléchissent à ce qui différencie leur rôle de fonctionnaire de celui, par exemple, des personnes du secteur privé ou d'autres types d'organisations, et c'est la responsabilité publique. Le public dépend de vous pour des questions liées à la vie et à la liberté, par exemple. La marge d'expérimentation est un peu plus étroite et la marge d'erreur plus mince. Vous devez savoir précisément ce que vous faites, et si je pense que l'éthique est une préoccupation majeure pour les fonctionnaires, c'est en partie parce qu'il y a un risque important. Il pourrait s'agir d'un risque asymétrique. Un outil d'IA peut ne pas être suffisamment réactif ou peut être biaisé et involontairement discriminatoire, ce qui pourrait signifier que quelqu'un ne bénéficie pas d'une prestation publique importante à laquelle il a droit. Il y a un risque aigu de préjudice et il peut se produire à grande échelle.
Seyi Okuribido-Malcolm : Abdi, il y a beaucoup de discussions autour du biais algorithmique. De votre point de vue, à quoi est-ce que ça ressemble au sein de la fonction publique, mais aussi pour les individus et les communautés qui dépendent du gouvernement pour leurs programmes et leurs services?
Abdi Aidid : Oui. Pour être clair, le biais algorithmique est un type de biais que l'IA peut provoquer. Le biais algorithmique, en particulier, se réfère généralement au risque de projeter des éléments de données historiques dans des directions qui ne sont peut-être pas souhaitables. Si vous imaginez comment fonctionne un algorithme prédictif, pensez à votre société de carte de crédit. Elle décide du montant de votre limite de crédit. Elle examine votre historique de dépenses, vos revenus, mais elle les compare aussi aux données sur les comportements de personnes ayant un historique de dépenses et des revenus semblables, et détermine si ces personnes présentent un risque élevé de défaut de paiement. Elle utilise ensuite ces données historiques pour établir une prévision de votre comportement futur. Imaginez la même approche, mais dans un contexte socialement tendu. Je pense souvent à la justice criminelle, si nous devions essayer de prédire qui est susceptible d'être arrêté à l'avenir. Qu'est-ce qui se cache dans cet historique, qui nous servirait à entraîner le modèle? Ce serait, par exemple, un ensemble de données démontrant des inégalités raciales dans les arrestations ou dans les condamnations. Dans le comté de Broward, en Floride, on utilise cet outil pour essayer de prédire la probabilité qu'une personne récidive ou commette un autre crime, par exemple dans le cadre des conditions de remise en liberté. La technologie a établi que les délinquants primaires noirs étaient plus à risque de récidive que les délinquants blancs qui ont un casier judiciaire plus chargé. Vous seriez porté à dire que c'est un résultat inéquitable d'un point de vue racial. Mais en réalité, il s'agit simplement de projeter les données historiques des arrestations et des condamnations dans le comté de Broward, en Floride. C'est comme tenir un miroir prédictif. C'est un type de biais, le biais algorithmique. Mais souvent, au sein du gouvernement, on utilise des outils d'IA générative.
Seyi Okuribido-Malcolm : Oui.
Abdi Aidid : Les grands modèles de langage, par exemple, qui présentent en fait les mêmes risques de biais, mais aussi de nouveaux risques, parce que vous essayez de reproduire le langage humain à l'aide de la technologie. Pensez à toutes les manières, parfois maladroites ou insensibles, dont nous pouvons utiliser le langage. Je pense que tout le monde sait maintenant ce que sont les modèles de langage, mais techniquement, ils sont très complexes. Prenez le mot « chat ». Pour vous et moi, c'est C-H-A-T. Mais pour un grand modèle de langage, « chat » n'est pas simplement C-H-A-T, c'est une longue séquence de chiffres unique, et chaque différente utilisation du mot « chat » a une séquence de chiffres unique différente. Vous pouvez déterminer, à partir des coordonnées géographiques, quelles villes sont proches les unes des autres.
Seyi Okuribido-Malcolm : Oui.
Abdi Aidid : Si vous deviez les cartographier. Si New York et Toronto sont à 0,11 et 0,22, mais que Paris est à 0,55, vous savez que Paris est plus éloignée de New York et de Toronto qu'elles le sont l'une de l'autre. Imaginons que chaque mot de la langue française, ou de n'importe quelle autre langue, possède un identifiant unique et qu'il soit cartographié dans un espace théorique de mots, comme des coordonnées géographiques. Vous verriez des mots qui ont des significations semblables être près les uns des autres. Si les grands modèles de langage apprennent de la manière dont nous utilisons la langue, ils pourraient rapprocher « médecin » de « homme » plutôt que de « femme ». Et rapprocher « infirmière » de « femme » plutôt que de « médecin », n'est-ce pas? Parce qu'ils apprennent de nous, ils sont en fait, par le biais d'un processus technique, en train de cartographier et de comprendre comment nous utilisons le langage, et nous n'utilisons pas toujours le langage d'une manière juste, raisonnable, qui corresponde à notre compréhension sociale. Il y a donc un risque inhérent. Parallèlement, les technologues n'apprécient pas ce risque. Ils ne veulent pas que ça se poursuive. C'est pourquoi de nombreux efforts sont déployés, en partie parce que ce pourrait être embarrassant que la technologie se mette à reproduire des stéréotypes. On s'efforce d'atténuer certains de ces problèmes. En tant que fonctionnaires, nous devons contribuer à orienter ces efforts et à les encourager.
Seyi Okuribido-Malcolm : Si je comprends bien ce que vous venez de dire, il semble qu'il soit très important de garder l'humain dans le processus, mais l'humain a aussi des biais. Comment concilier le fait de maintenir l'humain dans le processus, d'essayer de corriger les biais historiques, mais de comprendre qu'il existe encore des biais actuels?
Abdi Aidid : Ce que je vais dire risque de ne pas faire l'unanimité, mais le fait d'impliquer un être humain dans le processus n'est pas forcément la meilleure solution dans tous les cas. Je pense que parfois, on s'en sert un peu comme d'une béquille pour se dire que c'est ainsi qu'on intervient dans un avenir automatisé, en s'assurant que les êtres humains puissent prendre certaines décisions. C'est vrai si les humains ont réellement un pouvoir discrétionnaire. Mais si ce que vous faites, c'est confier toute la marge de manœuvre à la technologie et que, au final, tout ce que l'être humain peut faire, c'est valider, alors ce que vous avez fait, c'est déplacer la marge de manœuvre en amont, la déléguer à la technologie, et vous vous retrouvez alors avec des êtres humains qui n'ont pas vraiment le pouvoir d'intervenir de manière significative. Pour moi, ce n'est pas forcément mieux. Il faut que ce soit des personnes dotées des compétences, de la formation, de l'autorité et de la capacité nécessaires pour superviser la technologie, l'expliquer, en connaître les résultats, puis les placer dans une position où; elles ont le pouvoir, par exemple, de s'opposer à la technologie. Pour moi, c'est ça, une présence humaine significative dans le processus. Mais si l'on place l'humain dans le processus simplement pour qu'il approuve sans réfléchir et qu'il n'a pas le pouvoir réel de prendre une direction opposée à celle de la technologie, c'est probablement une façade masquant un problème plus grave.
Seyi Okuribido-Malcolm : Nous avons beaucoup parlé de la prévention des préjudices, mais l'IA peut aussi être un outil de création d'équité. Pouvez-vous citer un exemple où; l'IA a été utilisée avec succès pour soutenir les objectifs d'équité, de diversité et d'inclusion?
Abdi Aidid : Encore une fois, tout dépend de la manière dont nous utilisons la technologie et dont nous l'exploitons, mais l'un des atouts de l'IA, c'est qu'elle est capable de traiter des volumes de données bien plus importants que vous et moi. Nous avons peut-être des biais, mais nous pouvons aussi avoir des lacunes en matière d'information, et c'est là que l'IA peut nous aider. Je pense souvent aux médecins qui diagnostiquent des cancers de la peau chez les personnes de couleur. En réalité, c'est en fait assez difficile et pendant longtemps, les médecins ont eu plus de mal à diagnostiquer des pathologies comme le mélanome chez les personnes noires, par exemple, en partie parce que les outils heuristiques utilisés, comme la décoloration ou l'asymétrie, étaient souvent plus difficiles à repérer sur une peau plus foncée. Il y a une sorte de difficulté d'observation, mais l'autre problème, c'est que nous n'étions pas nombreux à participer aux études de cas et aux travaux empiriques qui guidaient les pratiques cliniques. Si vous êtes médecin et que vous souhaitez simplement repérer tout ce qui pourrait constituer un risque pour votre patient·e, la technologie peut vous aider à synthétiser rapidement un univers d'informations beaucoup plus vaste. Mais ce n'est pas tout. Elle peut aussi vous fournir des guides sur le type de questions à poser pour détecter des problèmes qui sortent de votre champ d'interrogation habituel.
Il existe donc des moyens concrets d'utiliser la technologie pour nous aider. Je devrais préciser que ça dépend de l'usage que l'on fait de cette technologie, parce qu'on pourrait l'utiliser comme un simple outil de triage, sans véritable humanité, et dans ce cas, on n'en tirerait peut-être pas les mêmes avantages. Mais avec un·e professionnel·le qualifié·e qui veut réussir, on parle alors de la véritable promesse de pouvoir élever vos capacités. Je peux citer beaucoup d'exemples, et l'éducation en est un très bon en ce moment. Imaginez un peu. ChatGPT est formé sur la somme totale de l'Internet, pour simplifier à l'extrême. Mais imaginez que vous puissiez dire : « Je veux utiliser un grand modèle de langage et son énorme capacité de génération de langage, mais j'aimerais limiter les sources à partir desquelles il peut faire des affirmations factuelles à un manuel de physique de 5e secondaire ». Qu'avez-vous alors? Vous avez un tuteur 24 heures sur 24 pour un·e enfant qui, comme moi, n'aurait pas les moyens de s'offrir ce genre de soutien supplémentaire. Pour moi, ça fait partie de la promesse d'équité de ces outils et explique en partie pourquoi il ne faut pas les rejeter à cause de préoccupations que nous avons peut-être une chance de limiter.
Seyi Okuribido-Malcolm : Dans le même ordre d'idées, pouvons-nous aller jusqu'à faire trop confiance à cette technologie et ne pas prendre le temps de vérifier les faits?
Abdi Aidid : Oui, et c'est probablement vrai pour toute technologie de sécurité. Les économistes parlent d'aléa de moralité. Si votre voiture est équipée de freins antiblocage, vous risquez de conduire de manière moins sécuritaire. Si vous avez une bonne assurance, vous risquez de conduire de manière moins sécuritaire. Si vous avez une caméra de recul, vous ne ferez peut-être pas vos vérifications arrière. Nous sommes vulnérables de la même manière que nous le sommes à toute technologie de sécurité.
Seyi Okuribido-Malcolm : Abdi, vous nous avez parlé des biais algorithmiques. Vous nous avez parlé du biais de l'IA générative, mais j'entends aussi parler de l'IA agentive, et ça me semble un peu inquiétant. Je me demande si, de votre point de vue, en tant que fonctionnaires, nous avons de bonnes raisons de nous inquiéter ou s'il s'agit d'un domaine dans lequel nous devrions nous engager davantage.
Abdi Aidid : Permettez-moi de commencer par dire que je pense que tous ces outils présentent des avantages remarquables, mais que tout dépend de notre capacité à comprendre et à maîtriser les inconvénients. Je suis ravi de constater les possibilités offertes par les outils algorithmiques, les outils d'IA générative, d'IA agentive, mais je pense que nous devons limiter certains risques. Je vais parler du risque particulier de l'IA agentive. J'ai déjà parlé des algorithmes. Il s'agit de faire émerger des informations à partir de données existantes, en essayant d'imiter la cognition humaine d'une certaine manière, par la reconnaissance de formes. Considérez les algorithmes comme une technologie qui essaie de penser comme les humains, puis pensez à l'IA générative. Elle apprend de la façon dont nous utilisons le langage. Elle tente de reproduire notre manière d'interagir. Même les outils d'hypertrucage, par exemple, tentent de reproduire l'esthétique humaine. Si les algorithmes sont la technologie qui pense comme nous, considérez l'IA générative comme une technologie qui nous ressemble physiquement et vocalement, et l'IA agentive comme une technologie qui se comporte comme nous. Il s'agit de tirer parti de toutes ces techniques avancées en science des données pour les intégrer à un persona augmenté par l'IA. Concrètement, la technologie sera capable – elle l'est déjà – d'effectuer ces tâches ou transactions en plusieurs étapes sans supervision à aucune étape intermédiaire. Aujourd'hui, si vous voulez faire des recherches, vous prenez votre ordinateur, vous ouvrez votre navigateur, vous faites quelques recherches, puis vous ouvrez un document Word dans lequel vous saisissez des informations, avant d'en ouvrir un autre où; vous rédigez une ébauche. Imaginez que la technologie puisse accomplir toutes ces tâches sans que vous ayez à lui donner d'instructions distinctes pour ouvrir le document, y copier les informations ou effectuer les recherches.
La meilleure façon de le décrire est la suivante : vous souvenez-vous de l'époque où; vous appeliez le soutien technique et où; l'on vous demandait si vous étiez d'accord pour leur donner l'accès à votre ordinateur à distance? Puis vous voyiez le curseur se déplacer sur votre écran? Imaginez une technologie capable de le faire, mais avec toutes les informations provenant des données massives. Et en plus, avec des instructions adaptées à un persona donné. Si on parle d'un outil d'IA agentive comme un·e agent·e de centre d'appels, il reproduira ce que nous considérons, d'après les données et nos observations, comme les comportements typiques d'un·e agent·e de centre d'appels, avec les critères qui font un·e bon·ne agent·e, tout en exploitant l'ensemble des données historiques. Donc, les possibilités offertes par les outils d'IA agentive offrent une grande réactivité et permettent d'accomplir des tâches de bout en bout. Pour la fonction publique, ça signifie également un service de première ligne face au public qui soit bien informé, très réactif et adaptable, et capable d'orienter les gens et de les diriger de manière appropriée. Les risques sont toutefois nombreux. L'un des principaux risques, bien sûr, réside dans la réflexion sur les personas. Le risque d'importer des stéréotypes, parce que nous devons déterminer quels sont les personas appropriés. Et même si ça n'aboutit pas à des stéréotypes, nous pourrions simplifier à l'extrême ou réduire des types de rôles complexes, par exemple. C'est un risque. Et ensuite, ça entraîne une grande partie des mêmes risques, parce que les données constituent le moteur central. Nous ne devons pas nécessairement considérer l'IA agentive comme une technologie qui pourrait poser des problèmes distincts, mais plutôt comme une technologie qui pourrait les aggraver s'ils ne sont pas résolus lorsque nous utilisons d'autres types d'IA.
Seyi Okuribido-Malcolm : Abdi, en tant qu'humains, nous évoluons. Et s'il s'agit d'un outil qui apprend au fur et à mesure que nous évoluons, ne devrait-il pas lui aussi évoluer de manière positive et, espérons-le, saine?
Abdi Aidid : L'évolution est lente pour les humains. La technologie évolue plus vite que nous. Pensez aux préjugés inconscients. Si vous avez déjà eu une conversation avec une personne que vous soupçonnez d'avoir des préjugés, elle a beaucoup de mal à l'admettre. Et souvent, durant la conversation, on en arrive à se dire que la seule chose qui pourrait fonctionner ici, c'est qu'il y ait une conséquence si le comportement se poursuit. Parce qu'on ne peut pas lui demander de retourner dans leur enfance et de revoir complètement ce que c'est que de vivre avec les autres dans un esprit de bienveillance et d'équité. Mais la technologie nous permet de tout faire, d'effacer sa mémoire et de la reprogrammer, de créer des règles arbitraires et des conséquences pour la discipliner. Elle nous permet d'être plus flexibles. Mais elle peut aussi mettre en lumière certaines de nos erreurs. J'ai parlé tout à l'heure du miroir prédictif que les algorithmes, par exemple, peuvent nous tendre. Je vais vous donner un exemple tiré du milieu juridique. Les juges disent très souvent : « Je ne peux pas faire confiance à un algorithme, je ne sais pas ce qu'il pense ». En fait, je ne sais pas non plus ce que pense n'importe quel·le juge. Je ne connais pas les préjugés sous-jacents qu'il ou elle pourrait avoir. Je ne sais pas ce qu'il ou elle pourrait penser de moi. J'espère qu'à travers le raisonnement juridique et le fait de devoir justifier leurs décisions par la jurisprudence, je peux amener même la personne la plus partiale en terrain sûr, avec laquelle je peux interagir, mais ce n'est pas une garantie pour autant. On a tendance à considérer la technologie en se disant qu'elle est plus encline aux préjugés que nous, mais ce n'est pas nécessairement le cas. Et même si c'était le cas, il existe des moyens technologiques d'intervenir et de corriger certains de ces éléments, si nous en avons la volonté.
Seyi Okuribido-Malcolm : Abdi, d'après ce que vous avez dit, l'IA agentive, comme pour les humains, peut effectuer des tâches de bout en bout sans supervision. Les humains ont toutefois une responsabilité conséquente. Devrions-nous instiller et développer des cadres de responsabilités conséquentes pour l'IA agentive?
Abdi Aidid : C'est précisément la bonne question, et la raison, c'est que parfois on se concentre sur ce qu'une chose peut faire et on cesse de se demander ce qu'elle devrait faire. Ma fille a sept ans. Techniquement, elle est capable d'accomplir toutes les tâches nécessaires pour aller à l'épicerie, choisir les aliments qu'elle veut, et peut-être, avec un peu d'entraînement, trouver comment payer à la caisse. Mais devrait-elle le faire? Le fait qu'elle se rende seule à l'épicerie pose un problème de sécurité. Il y a la question des choix qu'elle va faire. Par exemple, va-t-elle acheter des produits sains qu'elle devrait vraiment manger, ou va-t-elle simplement acheter un tas de bonbons et de boîtes de jus de fruits? Et ensuite, et c'est là le cœur du problème, y a-t-il quelqu'un de mieux placé qu'elle pour faire ce travail? Nous devons encore nous poser ces questions, même si les outils d'IA agentive peuvent techniquement exécuter ces tâches. Pour moi, il a d'une part ce qui est techniquement possible, et d'autre part ce qui est souhaitable d'un point de vue normatif. C'est une première étape à laquelle nous devons réfléchir. En ce qui concerne la responsabilité, c'est un problème que nous n'avons pas réussi à résoudre quand nous en avons eu l'occasion dans le domaine des technologies automatisées. Nous ne savions pas exactement à qui attribuer la responsabilité. Est-ce au fabricant, au développeur, à l'utilisateur final? C'est quelque chose que nous devons anticiper. Nous devons investir des ressources juridiques, judiciaires et législatives pour essayer de le déterminer, parce que dans votre travail, si vous utilisez un outil d'IA agentive et qu'il fait du mauvais travail, vous savez que dans la pratique, vous en serez tenu·e responsable.
Seyi Okuribido-Malcolm : Oui.
Abdi Aidid : Dans la pratique. Mais la question est de savoir si vous auriez pu intervenir. Si vous n'auriez pas pu intervenir. Si, par exemple, le système se dérègle, vous ne devriez probablement pas être tenu·e responsable. Peut-être que ce devrait être le fabricant, ou le développeur. Ça reste un problème que nous devons résoudre. La fonction publique a reconnu à juste titre que c'est à elle que revient la responsabilité, mais nous avons également besoin, à mesure que nous avançons vers plus de certitude, d'une idée plus claire de ce qui relève de la responsabilité.
Seyi Okuribido-Malcolm : En comprenant le bien et le mal que ça peut apporter, vous avez dit que nous ne pouvons pas la ralentir, mais avons-nous, en tant qu'humains, la capacité et la possibilité de changer de cap, si ça s'avère nécessaire? Qui peut le faire? Qui décide du moment où; il faut le faire?
Abdi Aidid : Changer de cap, c'est une vision globale qui passe par des mesures comme la législation, ou simplement par le fait d'être des citoyens actifs et des citoyennes actives qui ont leur mot à dire sur ce à quoi devrait ressembler l'avenir de l'IA. L'établissement de règles et de contraintes appropriées au niveau législatif est, je pense, dans l'ordre des priorités, la tâche numéro un. Mais au-delà, il s'agit aussi de reconnaître la dynamique différente qui existe dans le développement technologique par rapport, par exemple, à d'autres types de fabrication. Par exemple, le développement technologique est itératif. Les entreprises technologiques suivent ce qu'on appelle, vous avez peut-être déjà entendu ce terme, la stratégie « land and expand » ou « s'implanter et se développer ». Si une grande entreprise technologique souhaite vendre ses produits au gouvernement du Canada, ce qu'elle cherche souvent à faire, c'est de commencer par un petit approvisionnement, puis de le déployer dans l'ensemble de l'organisation, tout en essayant, entre-temps, de déterminer les cas d'utilisation appropriés. Elle tente également de peaufiner la technologie pour en améliorer la facilité d'utilisation pour le reste de la fonction publique. Parce qu'il ne s'agit pas de démonter sa voiture, mais d'envoyer ce qu'on appelle une mise à jour à distance. En tant qu'utilisateur, vous disposez de réelles possibilités d'intervenir sur le fonctionnement de la technologie, à condition de vous considérer comme quelqu'un capable de leur fournir des informations précieuses. Pour les fonctionnaires qui s'inquiètent du fonctionnement d'un outil d'IA, adressez-vous à l'entreprise. Trouvez des moyens structurés de leur transmettre des informations. Très souvent, ils vous demanderont, dans le cadre de la technologie elle-même, si vous êtes d'accord ou non avec le résultat. Quel est votre avis? Ces informations sont importantes. Quand j'étais technologue et que j'essayais de concevoir des outils destinés à l'usage du public, en particulier des avocat·es, nous ne recevions pas assez souvent de rétroaction. Certaines personnes avaient des problèmes avec l'ensemble du projet, mais ne saisissaient pas les occasions qui s'offraient à elles de nous signaler des informations importantes dont nous aurions été ravis de tirer parti.
Seyi Okuribido-Malcolm : Nous devons donc nous donner les moyens d'exercer un contrôle plus délibéré sur la manière dont nous utilisons la technologie, et l'utiliserons à l'avenir.
Abdi Aidid : Oui, considérez ces éléments comme des produits inachevés et considérez-vous comme le groupe d'essai.
Seyi Okuribido-Malcolm : Oui. Nous avons une influence sur la conception.
Abdi Aidid : Tout à fait.
Seyi Okuribido-Malcolm : Et l'orientation.
Abdi Aidid : Plus que vous ne le pensez, surtout si vous êtes structuré. La fonction publique dispose de structures comme des groupes d'affinité. Des groupes axés sur des centres d'intérêt. Réunissez-vous et rassemblez vos rétroactions également.
Seyi Okuribido-Malcolm : C'est logique. Alors que nous nous tournons vers l'avenir, quel est l'état d'esprit et les nouvelles compétences que nous devons avoir en tant qu'humains pour être en mesure de mieux gouverner ces outils et de fournir le niveau de contrôle approprié qui fera réellement la différence?
Abdi Aidid : Je pense que la technologie qui sous-tend l'IA sera probablement bientôt presque invisible. Ce que je veux dire par là, c'est que nous ne passons pas notre vie à réfléchir aux processus technologiques qui sous-tendent la plupart des choses que nous utilisons et faisons. Nous sommes fondamentalement indifférents à la plupart des technologies et à leur fonctionnement. Si l'IA suscite un tel engouement, c'est parce que nous ne lui faisons pas confiance. Nous nous intéressons aux rouages parce que nous ne lui faisons pas confiance. Mais si nous parvenons à développer un écosystème autour de l'IA où; il y a des contraintes, où; l'on peut appeler quelqu'un en cas de doute, où; nous disposons d'exemples de réussite dans l'utilisation de l'IA, nous nous trouverons probablement dans un environnement plus propice à la confiance. Nous pourrons alors moins nous attarder sur les rouages techniques et nous concentrer davantage sur les questions importantes de second ordre. Par exemple : que fait l'IA? Quels sont ses résultats? Sert-elle nos intérêts? Je donne souvent l'exemple de votre ordinateur portable. Vous ne connaissez pas exactement la plupart des processus techniques qui font bouger le curseur d'un millimètre sur le traitement de texte, mais vous savez qui appeler en cas de problème, vous savez où; l'apporter et vous savez aussi comment déterminer s'il fonctionne ou non.
Si vous possédez ces compétences, qui, soit dit en passant, ne sont pas techniques, mais plutôt liées à la détection des problèmes, par exemple, vous êtes probablement bien placé·e pour réussir. Une fois que vous aurez intégré l'IA à divers efforts de la fonction publique, vous verrez qu'elle mettra peut-être en évidence certains domaines dans lesquels nous aurions peut-être dû investir depuis longtemps. La gestion du personnel, par exemple. Si vous disposez d'une nouvelle technologie qui prétend élever les capacités des gens et remplacer certaines de leurs tâches, la question est maintenant de savoir ce que les gens doivent faire. Comment tirer le meilleur parti des personnes dont vous disposez? Pour moi, c'est une réflexion plutôt « à l'ancienne ». Si vous voulez être en mesure de réussir dans l'avenir de l'IA, misez encore plus sur des compétences comme la gestion du changement, la gestion du personnel, l'accompagnement relationnel individuel, parce que nous allons devoir coexister avec ces technologies et nous devrons peut-être faire plus avec moins à l'avenir, et c'est là un défi profondément humain.
Seyi Okuribido-Malcolm : Abdi, nous avons parlé de beaucoup de choses. En tant que fonctionnaires, sur quoi devrions-nous mettre l'accent à l'heure actuelle?
Abdi Aidid : C'est une bonne question. J'hésite toujours. J'ai des idées, mais je donne rarement des conseils concrets. Mais cette fois-ci, je vais dire ce que je pense que les gens devraient faire.
Seyi Okuribido-Malcolm : Oui.
Abdi Aidid : La première chose à faire, c'est de réfléchir de manière proactive aux domaines dans lesquels on peut utiliser l'IA dès aujourd'hui, même si on a des réserves d'ordre éthique. Pourquoi? Parce que ce qu'il nous faut, ce sont des opposant·es crédibles à l'IA. Si nous avons des objections. Beaucoup de gens s'inquiètent de l'impact environnemental de l'IA, à juste titre, et beaucoup de gens s'inquiètent de sa capacité à reproduire des phénomènes comme les préjugés et la discrimination, à juste titre, mais ça ne signifie pas nécessairement que lorsque votre gestionnaire vous parle d'utiliser l'IA pour des résumés internes ou d'autres tâches de gestion simples, vous ne devriez pas trouver un moyen de le faire. Posez-vous la question suivante : quelles sont les choses qui me préoccupent vraiment, et quelles sont celles que je rejette simplement parce que je n'aime pas la technologie? Réfléchissez aux moyens d'utiliser l'IA de manière proactive pour toutes les activités sans enjeu majeur qui n'impliquent pas de grandes questions éthiques. De cette façon, vous serez un·e opposant·e crédible lorsque vous aurez réellement une préoccupation éthique. Vous ne passerez pas pour un·e luddite ou pour quelqu'un qui rejette l'ensemble de la technologie, et si je vous dis de réfléchir dès maintenant, c'est en partie parce que le mal est déjà fait, pour ainsi dire. Il n'existe aucun scénario dans lequel l'IA pourrait être ralentie de manière significative, pas plus que nous n'avions la possibilité de ralentir l'électricité. Les arguments économiques en sa faveur sont tout simplement trop convaincants. Sur le plan politique, il n'y a pas un seul pays au monde qui ne réfléchisse pas de manière proactive aux moyens d'utiliser l'IA pour favoriser, par exemple, la croissance économique. Il n'y a ni possibilité technologique de la ralentir, ni justification économique, ni volonté politique de le faire. Elle fera partie de votre vie. Commencez par dresser une liste des domaines dans lesquels vous pouvez utiliser l'IA et, peut-être, de ceux où; l'IA pourrait être une priorité.
Seyi Okuribido-Malcolm : À l'avenir, quelle est la mentalité ou la pratique que les fonctionnaires doivent adopter pour s'assurer que l'IA renforce, plutôt qu'elle ne sape, la confiance dans le gouvernement?
Abdi Aidid : Je pense qu'il s'agit avant tout de vous rappeler votre position unique en tant que fonctionnaire. Vous êtes redevables envers le public, mais vous fournissez également des services essentiels, vous élaborez des politiques importantes et vous gérez des programmes cruciaux dont les gens dépendent. De la même manière que ça devrait vous rappeler quand il est temps de freiner l'apport technologique, ça devrait également vous encourager à réfléchir à la manière dont vous pourriez l'utiliser pour mieux vous acquitter de cette obligation. Je pense parfois aux gens qui ont peut-être mal interprété ce que le public attend d'eux. Il y a une petite histoire édifiante dont je parle parfois, celle des concepteurs graphiques. Ce sont des personnes très précieuses et importantes dans notre société. Elles contribuent notamment à rendre lisible tout ce qui se trouve dans notre monde hypermarchandisé, et ce sont des artistes. Ce sont des artistes. Elles utilisent leurs connaissances de l'histoire de l'art, de la technologie et de l'esthétique pour nous offrir des logos brillants qui reflètent au mieux ce qu'une entreprise cherche à communiquer au monde. C'est ainsi qu'elles se perçoivent, mais il s'avère que le public veut des logos sans pixels qu'il peut générer en deux minutes avec ChatGPT. Et ça soulève une question : l'image que vous avez de vous-même et la conception que vous avez de votre rôle correspondent-elles réellement à ce que le public attend de vous? Peut-être que parfois, le public ne souhaite pas que vous tourniez en rond et empruntiez des chemins détournés pour arriver à une réponse, simplement parce que vous avez appris en cours de route. Peut-être que ce qu'il veut en fait, c'est une grande réactivité. Peut-être que parfois, il souhaite que vous repoussiez les limites de la connaissance humaine et que vous mettiez toute votre créativité au service d'une tâche. Peut-être qu'à d'autres moments, il veut simplement quelque chose de fonctionnel. Une partie de notre travail consiste à faire le travail difficile et à réfléchir à ce qu'on attend exactement de nous, puis à choisir si des outils peuvent nous aider à atteindre cet objectif.
Seyi Okuribido-Malcolm : Abdi, comme nous sommes assis ici dans le Centre d'analyse de mégadonnées, il est clair que nous nous engageons pleinement dans ce domaine. Toutefois, les Canadien·nes ne suivent peut-être pas le même rythme que nous. Comment pouvons-nous contribuer à renforcer la confiance des citoyen·nes canadien·nes dans l'IA alors que nous cherchons à moderniser nos programmes et nos services et à instaurer une culture numérique?
Abdi Aidid : Je pense que la confiance dépend vraiment de la réduction des erreurs et des cas catastrophiques, pour être franc. La méfiance envers l'IA vient du fait que les gens entendent parler de situations qui ont mal tourné. Si on adopte une approche qui vise à se demander comment réduire les erreurs et comment redoubler de prudence dans les situations où; l'IA intervient dans un domaine déjà un peu sensible sur le plan social, le fait de mettre l'accent sur la réduction des erreurs est probablement la première façon d'instaurer la confiance. Par exemple, si nous utilisons des solutions d'IA agentive pour répondre à des demandes du public ou même à des appels que le public pourrait passer à l'Agence du revenu ou à Service Canada, par exemple, peut-être que nous ne devrions pas simplement dire que l'IA répondra à toutes les demandes. Nous pourrions plutôt dire que certaines d'entre elles seront d'abord traitées par l'IA. Par exemple, si ça consiste à vous rediriger vers d'autres informations, c'est un domaine où; l'IA est tout à fait adaptée. Mais s'il s'agit de vous donner des conseils directs et adaptés à votre situation, c'est peut-être là que vous serez redirigé·e vers une personne réelle. Le fait de clarifier les choses et de se demander quels sont les domaines qui génèrent le plus d'erreurs et comment nous pouvons faciliter l'utilisation de l'IA dans ces contextes, et quels sont ceux pour lesquels l'IA est parfaitement adaptée, comment l'utiliser maintenant, c'est l'une des premières façons d'instaurer la confiance, de faire les choses vraiment bien.
Mais il y a un autre aspect de la confiance qui, selon moi, relève davantage du psychosocial et de la culture : nous devons changer notre rapport à la technologie en général. L'IA n'est pas comparable au matériel informatique. Ce n'est même pas réellement un logiciel. C'est un peu plus comme un jeune collègue. Prenons l'exemple des grands modèles de langage. Que remarquez-vous lorsque vous discutez avec un outil comme ChatGPT? Il a ce ton sérieux que l'on a quand on sait de quoi on parle. Mais si vous pensez au phénomène des hallucinations, il hésite aussi à vous répondre quand il ne sait pas de quoi il parle, ou quand il n'a pas suffisamment d'informations, ce qui est le cas de tous les jeunes collègues trop zélés que vous avez pu avoir. Que faites-vous dans cette situation? Vous faites confiance, mais vous vérifiez. Vous vérifiez les affirmations factuelles. Vous vous assurez qu'il y a plusieurs niveaux de contrôle. Vous ne vous contentez pas de transmettre au client, au premier ministre ou au public ce qu'a fait le collègue le plus jeune, qui vient de commencer son premier jour de stage. Vous mettez en place des structures pour tirer le meilleur parti de cette personne, en reconnaissant ses limites, ce qui est une relation différente, une attitude différente de celle que nous avons envers la technologie. Nous considérons la technologie selon des états binaires de réussite ou d'échec. Est-ce que ça a fonctionné ou pas? Ce qui peut fonctionner quand on parle d'appuyer sur la barre d'espace de son ordinateur portable : ça ne fonctionne pas, d'accord, elle est cassée. De la même manière qu'avec une poignée de porte, vous la tournez, est-ce que ça déverrouille le mécanisme? D'accord, mais si votre jeune collègue vous apporte une note de service, qui est bonne, mais qui pourrait être retravaillée, vous dites qu'il a échoué à la tâche, ou vous discutez avec lui, travaillez avec lui? Si nous entretenons ce type de relation avec l'IA, que nous sommes un acteur ou une actrice dans une dynamique d'échange qui nécessite une certaine itération, un dialogue, alors nous pouvons en tirer le meilleur parti. C'est un changement de culture et de mentalité que nous devons développer.
Seyi Okuribido-Malcolm : Merci, Abdi.
Abdi Aidid : Merci pour l'invitation. C'était une bonne discussion.
[00:34:46 Le logo animé de l'EFPC s'affiche à l'écran.]
[00:34:51 Le logo du gouvernement du Canada s'affiche à l'écran.]
