Reboot: AI and the Race to Save Democracy, avec Beth Noveck (TRN5-V78)

Transcription : Reboot: AI and the Race to Save Democracy, avec Beth Noveck

[00:00:00 La vidéo s'ouvre sur le logo animé de l'EFPC. Vanessa Vermette apparaît en plein écran.]

Vanessa Vermette : Bienvenue, tout le monde, à la séance d'aujourd'hui : Reboot: AI and the Race to Save Democracy. Merci beaucoup à vous tous et toutes d'avoir pris le temps d'être ici aujourd'hui.

[00:00:16 Texte affiché à l'écran : Vanessa Vermette, Vice-présidente, École de la fonction publique du Canada]

Vanessa Vermette : Je m'appelle Vanessa Vermette. Je suis vice-présidente ici, à l'École de la fonction publique du Canada. C'est avec grand plaisir que je suis ici aujourd'hui, et je vous souhaite la bienvenue à cet événement.

Nous nous trouvons véritablement à un tournant décisif pour la fonction publique et les institutions publiques à l'échelle mondiale. Ici au Canada, en tout cas, vous avez sans doute tous pris connaissance de la publication, tout récemment, de la stratégie du gouvernement en matière d'intelligence artificielle (IA). Nous évoluons dans un contexte marqué par une perte de confiance du public, des évolutions technologiques rapides et bouleversantes, ainsi que par une pression indéniable sur les systèmes démocratiques. Pour les fonctionnaires, comme nous, la pression pour réagir, réglementer et gérer les risques est vraiment énorme.

Aujourd'hui, nous sommes ici pour détourner notre regard de ce que la technologie nous fait craindre pour nous concentrer sur ce qu'il serait possible de bâtir grâce à elle. L'invitée d'aujourd'hui possède des atouts uniques pour nous aider à y parvenir. C'est pour moi un immense privilège de vous présenter Beth Simone Noveck. Beth est directrice du Burnes Centre for Social Change et du Governance Lab. Elle est professeure à la Northeastern University, et l'instigatrice d'InnovateUS, une initiative qui a ouvert la voie à la littératie et à la formation axée sur des compétences en matière d'IA pour des centaines de milliers de travailleurs et travailleuses du secteur public.

Plus récemment, elle a rédigé un nouvel ouvrage incontournable, intitulé « Reboot: AI and the Race to Save Democracy ». Ce qui distingue Beth dans son travail et qui rend son point de vue si essentiel pour nous ici, c'est qu'elle va au-delà du battage habituel autour de l'utopie technologique et des discours catastrophistes. Au contraire, elle fonde ses réflexions sur la réalité opérationnelle très concrète de la fonction publique et du secteur public. Son travail soulève une question vraiment importante : Comment les gouvernements peuvent-ils utiliser l'IA pour mieux écouter, pour agir de manière plus avisée, et pour renforcer les capacités de l'État?

Pour obtenir une fonction publique canadienne qui s'attache au renforcement de la gouvernance technologique, à la transformation de la prestation des services, et à la protection des institutions démocratiques, ce guide tombe à point nommé. Beth nous rappelle que la démocratie n'est pas un sport où; l'on s'en tient au rôle de spectateur, et que sa survie dépend de notre capacité à innover efficacement de l'intérieur, en tant qu'institution. Je vous invite donc à vous joindre à moi pour réserver un accueil très chaleureux, à la manière des fonctionnaires canadien·nes, à Beth Noveck.

[00:02:18 Vanessa cède la parole à Beth Noveck.]

Vanessa Vermette : À vous la parole, Beth.

Beth Simone Noveck : Merci beaucoup, et merci d'être venus de si loin par une si belle journée. Je me sens un peu coupable, mais on va essayer de faire en sorte que ce soit rapide et stimulant, et j'espère que vous pourrez ensuite sortir profiter du soleil.

[00:02:38 Texte affiché à l'écran : Beth Simone Noveck, Professeure et directrice, Northeastern University, Autrice; responsable, The Governance Lab; InnovateUS]

Beth Simone Noveck : C'est donc, comme vous le soulignez, une conversation qui tombe vraiment à point nommé par rapport à ce qui se passe actuellement au Canada, et je tiens bien sûr à remercier l'École de la fonction publique du Canada, qui a été une source d'inspiration extraordinaire dans mon propre travail.

[00:03:05 Diapositive : Une photo du livre « Reboot: AI and the Race to Save Democracy », de Beth Simone Noveck.]

Beth Simone Noveck : Le projet InnovateUS que vous avez mentionné (et je tiens à le préciser avant de commencer), qui propose un apprentissage entre pairs, gratuit, destiné aux fonctionnaires américain·es, ce dont nous ne disposons pas puisque nous n'avons pas d'École de la fonction publique du Canada, a été entièrement inspiré, copié, plagié de ce que vous avez mis en place au Canada; en particulier, certaines des nouvelles modalités d'apprentissage que vous avez développées à l'aide des nouvelles technologies ont été une source d'inspiration, et j'en ai longuement parlé dans mon dernier livre, consacré à l'apprentissage dans le secteur public.

[00:03:25 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : Mais ici, aujourd'hui, nous allons aborder un autre sujet, dans lequel l'apprentissage occupe certes une place centrale, mais qui est au cœur des préoccupations de chacun d'entre nous : il s'agit, je pense, des deux crises auxquelles nous sommes confrontés, l'une concernant notre démocratie, et l'autre liée à l'avènement et à l'essor de l'IA.

Personne ne s'étonnera d'apprendre que, si nous jouissons ici des bienfaits de la démocratie, ce n'est pas un phénomène largement répandu. Selon certaines estimations, le V-Dem Institute suédois chiffre à seulement 29 le nombre de démocraties libérales dans le monde.

[00:04:02 Écran partagé : Beth Noveck et une diapositive.

Texte sur la diapositive : La crise de la démocratie.]

Beth Simone Noveck : Les trois quarts de la population mondiale vivent sous un régime autocratique, et ce chiffre est en baisse.

[00:04:10 Écran partagé : Beth Noveck et une diapositive.

Texte sur la diapositive : "Nous avons souvent imprimé le mot « démocratie ». Pourtant, je ne saurais trop répéter qu'il s'agit d'un mot dont le vrai sens sommeille encore, profondément endormi.

C'est un mot magnifique, dont l'histoire, j'imagine, reste à écrire, car cette histoire reste à vivre." – Walt Whitman, 1871.]

Beth Simone Noveck : Donc, cette crise de la démocratie, et tout ce qu'elle implique, est bien sûr un terme important qu'il faudrait longuement approfondir. Il y a plus de 100 ans, Walt Whitman affirmait déjà que la démocratie n'était pas un terme très bien défini. Ce terme « dort d'un sommeil profond ». C'est quelque chose que l'histoire n'a pas encore vraiment défini.

[00:04:34 Écran partagé : Beth Noveck et une diapositive. La diapositive présente le dessin d'un serpent à plusieurs têtes, intitulé Démocratie :

Efficacité institutionnelle : dysfonctionnement, impasse et incapacité à résoudre les problèmes;

Représentation : exclusion, découpage électoral partisan (gerrymandering) et incapacité à refléter la population;

Élections : subversion, désinformation et suppression du droit de vote;

Vérité : désinformation, propagande et érosion des faits partagés;

Civilité : polarisation, haine et effritement du respect;

Participation : apathie, obstacles et désenchantement des citoyens.]

Beth Simone Noveck : Je tiens donc à souligner qu'il s'agit d'une hydre aux multiples têtes. Cette question comporte de nombreuses facettes. Et j'aborderai brièvement la crise, mais je souhaite consacrer l'essentiel de notre temps à imaginer à quoi pourraient ressembler ces solutions, et à présenter les aspects positifs de la manière dont nous pourrions utiliser l'IA pour l'affronter. Mais je tenais tout de même à souligner que nous avons cette question, ce phénomène. Pour beaucoup, la démocratie se résume bien sûr à ce qui se passe dans l'isoloir, tandis que pour d'autres, c'est une question de courtoisie, d'honnêteté et de la manière dont nous communiquons les uns avec les autres.

[00:05:10 Écran partagé : Beth Noveck et une diapositive. La diapositive présente divers gros titres d'articles de presse sur les dangers de l'IA, conformément à la description.]

Beth Simone Noveck : Mais je pense que, pour la plupart d'entre nous dont les réflexions et le travail portent sur le gouvernement, il s'agit avant tout d'une question de capacité institutionnelle, c'est-à-dire de notre aptitude à résoudre les problèmes de plus en plus complexes auxquels nous sommes confrontés.

En plus de ce phénomène, parallèlement à ce dernier, à la crise de la démocratie à laquelle nous sommes confrontés, s'ajoute bien sûr l'IA. Et cela nous donne vraiment matière à réflexion. Et vous verrez beaucoup de gros titres comme ceux-ci sur l'apocalypse des robots, la fin de l'humanité, l'IA générale qui prendrait le contrôle du monde, etc., etc. Et cela nous donne une fois de plus matière à réflexion.

[00:05:44 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : La crise des élections.]

Beth Simone Noveck : Parlons donc un instant de ces crises. Je voudrais vous plonger un peu dans les profondeurs du désespoir avant le déjeuner, pour, je l'espère, vous remonter le moral avant notre départ aujourd'hui, même si nous verrons bien où; cela nous mènera lors de la séance de questions. Vanessa, espérons terminer sur une note positive, ou du moins sur une note qui donne faim et qui envoie tout le monde dans la bonne direction pour aujourd'hui.

[00:06:14 Écran partagé : Beth Noveck et une diapositive. La diapositive présente divers extraits des nouvelles sur la prévalence des hypertrucages lors des élections canadiennes de 2025.]

Beth Simone Noveck : Donc, nous connaissons bien la crise électorale, et en particulier ses interactions avec l'IA. Le débat sur les hypertrucages, la désinformation, et la mésinformation est très, très bien compris. Vous avez vu de nombreux exemples d'utilisation d'hypertrucages, de fausses vidéos et de faux enregistrements audio, tant lors des récentes élections canadiennes que lors des élections américaines. Vous vous souvenez de cette histoire de l'appel automatisé de Biden, cette fausse voix de Biden qui appelait tout le monde pour leur dire de ne pas aller voter.

[00:06:43 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : On en trouve des exemples partout dans le monde, comme récemment lors des élections hongroises. Il ne fait aucun doute que la désinformation et la mésinformation se multiplient, et je ne veux pas minimiser l'importance de ce phénomène. C'est pourquoi nous avons constaté une réglementation très poussée. C'est sans doute le domaine de l'IA qui a suscité l'intervention réglementaire la plus généralisée à l'échelle mondiale.

[00:07:08 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : "La mésinformation et la désinformation constituent le risque à court terme le plus grave auquel le monde est confronté. » Forum économique mondial" – Forum économique Mondial.]

Beth Simone Noveck : En effet, on s'inquiète, notamment en période électorale, du fait que la prolifération de la désinformation et de la mésinformation entache et pollue véritablement notre discours politique.

[00:07:22 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : La crise de la participation.]

Beth Simone Noveck : Pour l'instant, il n'y en a pas encore, je tiens à le préciser, de preuves concluantes que la désinformation, la mésinformation, les hypertrucages, la fausse vidéo de la candidate ou du candidat surpris en train de faire XYZ ou de dire XYZ, que ces éléments ont eu une incidence sur des élections, qu'ils ont modifié le résultat d'une élection, mais nous sommes assurément très préoccupés tant par l'intégrité de nos élections que, plus important encore, par la perception de cette intégrité. Et cela particulièrement vrai aux États-Unis. Comme vous le savez, dans un contexte où; la question de l'intégrité électorale demeure d'actualité depuis les années 19… pardon, 1920, 2020 (on a l'impression que ça fait 100 ans, alors que ça ne fait que 5 ans), le cycle électoral de 2020 et ce qu'on appelle le « Grand mensonge ».

Toutefois, une partie de ce phénomène, cette crise démocratique, repose aussi sur la mobilisation et à la participation. Nous vivons dans des démocraties.

[00:08:26 Écran partagé : Beth Noveck et une diapositive présentant deux graphiques intitulés :

Peu de gens ont le sentiment de pouvoir participer.

Peu de gens ont le sentiment que leur voix compte.]

Beth Simone Noveck : La démocratie est censée reposer sur l'autonomie et l'autonomie gouvernementale, c'est-à-dire notre capacité à participer à la prise des décisions qui nous concernent le plus. À l'échelle mondiale, quel que soit le sondage que l'on consulte ou la question que l'on pose (et je sais que c'est un peu réducteur ici), la plupart des gens ont le sentiment de ne pas avoir leur mot à dire, de n'avoir aucune prise et de n'avoir aucune influence sur les décisions politiques qui affectent leur vie.

[00:08:39 Écran partagé : Beth Noveck et une diapositive, conformément à la description qui précède.]

Beth Simone Noveck : Ils n'ont pas leur mot à dire dans la gouvernance et, de même, les personnes qui disposent de beaucoup d'argent, d'influence, et d'un plus grand nombre de lobbyistes ont davantage d'influence.

[00:09:00 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive :

Échantillons de silicium.]

Beth Simone Noveck : La préoccupation est que l'IA ne fasse qu'aggraver la situation. Que la prolifération de ce qu'on appelle parfois les « échantillons de silicone », c'est-à-dire les personnes virtuelles, les personnages générés par l'IA, deviendra de plus en plus notre principal mode d'interaction.

[00:09:23 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : La semaine dernière, nous avons donc publié une petite infolettre sur l'IA et la démocratie. Nous l'avons publiée jeudi. Il s'agit d'un nouvel outil appelé Habermolt, du nom de Jürgen Habermas, qui avance l'idée fantastique selon laquelle, au lieu de faire débattre et délibérer de vrais êtres humains entre eux, on pourrait simplement laisser l'IA débattre et délibérer avec elle-même. Pourquoi aurait-on besoin de vrais humains? On pourrait tous faire une petite pause avec la démocratie, et laisser l'IA faire son propre travail.

[00:09:51 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : La crise de l'efficacité institutionnelle.]

Beth Simone Noveck : Je plaisante un peu, mais c'est un sujet de préoccupation sérieux. C'est une chose quand une entreprise annonce ouvertement : « Nous allons tester notre produit sur un échantillon d'IA pour lui demander : "Préférez-vous le Coca-Cola ou le Pepsi, ou tel dentifrice plutôt que tel autre?" » C'est très inquiétant quand on imagine que les gouvernements se disent : « Hum, nous allons nous épargner la peine de discuter avec de vrais humains, des humains qui nous crient dessus, et à la place, nous allons simplement organiser des groupes de discussion avec l'IA. » Mais revenons à cette préoccupation plus générale concernant l'efficacité des institutions, qui constitue à mes yeux la véritable cause profonde de nos questions sur la crise démocratique.

[00:10:30 Écran partagé : Beth Noveck et une série d'images, conformément à la description.]

Beth Simone Noveck : Nous sommes confrontés à des défis de plus en plus complexes et difficiles, qu'il s'agisse des feux incontrôlés, des inondations, de la pollution ou des pandémies, et nous ne nous en sortons pas aussi bien que nous le devrions; la population a le sentiment que nous ne faisons pas tout ce qu'il faudrait pour relever ces défis extrêmement complexes.

[00:10:42 Écran partagé : Beth Noveck et des images de livres :

Déclin de la capacité institutionnelle : les membres de la haute direction en font moins avec moins. Les organismes ne parviennent pas à fournir des services de manière suffisamment efficace ni à un coût suffisamment bas. Nous ne parvenons pas à offrir à la population les prestations auxquelles elle a droit.]

Beth Simone Noveck : Et c'est pour cela que l'on trouve une multitude d'ouvrages consacrés au thème du déclin de l'efficacité et des capacités des institutions. On peut craindre que, quels que soient nos efforts, le monde ne devienne de plus en plus complexe, et que nous devions faire preuve d'une plus grande efficacité pour relever des défis de plus en plus complexes avec des ressources de plus en plus limitées.

[00:11:08 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : Nous pouvons améliorer notre démocratie. Le ferons-nous?]

Beth Simone Noveck : La question est donc la suivante : qu'allons-nous faire devant tout cela? Et encore une fois, l'IA rend la situation potentiellement plus compliquée et plus difficile, et non plus facile. Je souhaite démontrer (et c'est ce que je tente de faire dans ce livre) que nous pourrions utiliser l'IA pour relever ces défis si nous choisissions de le faire.

[00:11:36 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive :

Pourquoi l'IA est importante plus qu'une simple calculatrice?

L'IA synthétise; L'IA parle; L'IA est partout; L'IA est pour tout le monde.]

Beth Simone Noveck : Et je tiens à être très claire dès le départ : en elle-même, l'IA n'est qu'un outil. À elle seule, l'IA ne fera rien. Nous disposons de la technologie nucléaire, et nous l'utilisons pour fabriquer des bombes, mais aussi pour alimenter notre réseau électrique. Au bout du compte, le choix nous appartient. L'idée selon laquelle l'IA remplacerait d'une manière ou d'une autre les travailleurs et les travailleuses détourne l'attention du fait que ce sont des gestionnaires, des directeurs généraux ou directrices générales, et d'autres êtres humains qui prennent la décision de licencier des membres du personnel à la suite de l'utilisation de l'IA; c'est donc à nous qu'il reviendra en grande partie de décider où; investir, et quelles mesures prendre.

Encore une fois, je ne veux pas minimiser les défis spécifiques liés à cette technologie, sur lesquels nous reviendrons, mais nous disposons d'un ensemble d'outils puissants si nous les utilisons à bon escient. Et je pense que ce qui les rend incroyablement puissants, c'est le fait que, premièrement, il n'est pas nécessaire d'être un·e technologue pour les utiliser. Il n'est pas nécessaire d'avoir un diplôme en informatique pour les utiliser. Elles sont fondées sur un langage simple. Deuxièmement, elles deviennent de plus en plus répandues. Et troisièmement, elles sont incroyablement efficaces pour traiter d'énormes quantités de renseignements.

[00:12:52 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : De la rareté à l'abondance.]

Beth Simone Noveck : Et, au sein du gouvernement en particulier, nous vivons dans un monde où; nous évoluons au sein d'institutions initialement conçues pour un monde où; l'information était rare, où; nous placions au cœur de notre gouvernement des spécialistes qui monopolisaient… qui détenaient les meilleures connaissances dont nous avions besoin pour résoudre des problèmes complexes, alors que nous vivons désormais dans un monde où; l'information est démocratisée et abondante, ce qui, franchement, est mal adapté à la conception de nos institutions, mais constitue [une] possibilité incroyablement utile pour l'IA.

[00:13:23 Écran partagé : Beth Noveck et deux diapositives. Texte sur les diapositives : Intervenir face à la crise des élections : Les élections sont l'une des activités les plus gourmandes en informations auxquelles les démocraties se livrent dans un très court laps de temps.]

Beth Simone Noveck : Nous en revenons donc à cette crise électorale, un domaine dans lequel l'information et la manière dont nous la traitons revêtent une très centrale. La manière dont nous transmettons l'information aux personnes qui se présentent aux élections; la manière dont nous informons l'électorat; la manière dont nous gérons l'information relative au décompte des votes. Il s'agit d'un problème lié au traitement de l'information. Et il existe des utilisations vraiment passionnantes de l'IA.

Par exemple, le Brésil a choisi d'intégrer l'IA aux urnes électroniques pour traduire et énoncer le contenu des bulletins de vote. Le bulletin d'une personne ayant une déficience visuelle lui parlera donc directement au lieu d'être un texte qu'elle doit simplement lire. Il y a aussi l'Inde, où; l'utilise l'IA pour traduire les bulletins de vote en 22 langues afin de favoriser l'accessibilité.

[00:14:17 Écran partagé : Beth Noveck et une diapositive intitulée : Les élections devraient être libres, équitables et fréquente. Or, elle ne le sont souvent pas.]

Beth Simone Noveck : Bon, il y a un large éventail… et désolée, c'est écrit en tous petits caractères, tellement petits que je ne sais même pas ce que j'ai écrit là-haut, mais je vais vous le dire, je vais inventer quelques trucs, et peut-être que vous arriverez à les lire. Allons-y. Encore quelques exemples, et je passerai au français dans un instant.

Donc, le Brésil d'un côté, mais aussi New York, et l'exemple de Ballotpedia en Californie. Une fois encore, vous le savez peut-être, la Californie a pour habitude d'organiser ce genre de référendums et de distribuer cette brochure explicative de 150 pages, qui peut s'avérer extrêmement dense et difficile à comprendre pour la population, sans parler de la lire; c'est donc l'occasion de recourir à nouveau à l'IA pour synthétiser ces renseignements, les condenser, et les rendre plus accessibles.

ERIC, l'accord conclu entre 25 États, utilise désormais l'IA pour passer au peigne fin les listes électorales afin de s'assurer que les personnes qui déménagent d'une administration à une autre ne soient pas perdues, et qu'elles aient ainsi la possibilité d'être réinscrites sur les listes électorales. ERIC a été spécialement conçu non pas pour priver l'électorat de leur droit de vote, mais au contraire pour leur redonner ce droit, afin de garantir le droit de vote au plus grand nombre. Et l'IA est utilisée pour effectuer ce travail de tri dans les bases de données contenant des renseignements afin de mieux gérer le processus électoral.

[00:15:39 Écran partagé : Beth Noveck et une diapositive intitulée : Rendre les élections accessibles, compréhensibles et équitables.]

Beth Simone Noveck : On voit aujourd'hui des exemples, ou du moins des possibilités d'exemples, de l'utilisation de l'IA pour améliorer la formation des agent·es électoraux; pour améliorer la formation de l'électorat; pour mettre en place le type de systèmes d'information électorale courants en Europe, où; l'on peut, là encore, répondre à une série de questions sur ses propres préférences et obtenir des renseignements sur les candidat·es qui correspondent le mieux à ces préférences. Une fois encore, on utilise l'IA pour accélérer ce processus.

Meedan, une association sans but lucratif présente dans 53 pays, utilise l'IA. Elle a développé une IA à code source ouvert pour détecter les campagnes de mésinformation et les combattre. Et ensuite, elle utilise l'IA en collaboration avec des organes de presse non seulement pour repérer les schémas de désinformation et de mésinformation, mais aussi pour créer et diffuser des campagnes sur les réseaux sociaux, afin de diffuser de l'information au moyen de WhatsApp. Si vous faites partie d'un groupe WhatsApp avec votre famille et que tout le monde y parle de telle ou telle personne ayant présenté sa candidature et répand des rumeurs, comme c'est souvent le cas sur Facebook et WhatsApp, ces conversations contribuent à insuffler de la sincérité à ces échanges, en collaboration avec les organismes électoraux nationaux et les médias.

[00:16:56 Écran partagé : Beth Noveck et une diapositive. La diapositive présente l'image d'un robot qui se présente comme « Gov Virtual Assistant » (Assistant virtuel du gouvernement). Il aide les personnes qui ont des questions sur le vote, notamment pour savoir où; se trouve le bureau de vote le plus proche, si elles ont le droit de voter, ainsi que sur les modalités de vote et les dates à venir.]

Beth Simone Noveck : On peut donc imaginer de nombreuses applications dans le domaine électoral, mais là encore, on a tendance à se limiter à un débat défensif sur les hypertrucages et la mésinformation, sans aborder suffisamment, à mon sens, la question suivante : « Quel est notre programme proactif, notre programme constructif pour garantir des élections libres, équitables et fréquentes? »

[00:17:14 Écran partagé : Beth Noveck et une diapositive. La diapositive présente des images de « Joca » et de son propriétaire. Texte à l'écran : La Loi de Joca.]

Beth Simone Noveck : Permettez-moi maintenant d'aborder brièvement la question de la crise de la participation et de la mobilisation. Voici Joca. Joca était, je le dis avec tristesse, un golden retriever qui vivait au Brésil. Voici son propriétaire. Son propriétaire a dû déménager pour des raisons professionnelles d'un bout à l'autre du Brésil. Joca a été enregistré en soute dans l'avion. Vous pouvez ce qui s'est passé par la suite, mais ça ne s'est pas bien passé pour Joca. Il n'est pas arrivé à sa destination. Il a été laissé sur le tarmac, et il est mort. On peut donc imaginer un gros titre de journal déplorant ce qui est arrivé à ce pauvre chien, et des gens s'indignant sur les réseaux sociaux contre cette horrible compagnie aérienne et ce qu'elle a fait.

[00:18:04 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : Eh bien, le propriétaire de Joca a pu se rendre sur la plateforme de citoyenneté électronique, la plateforme eCidadania du Sénat brésilien, et rédiger une pétition en faveur d'une nouvelle loi concernant le transit et le transport d'animaux par les compagnies aériennes brésiliennes. En un clin d'œil, des milliers de personnes ont adhéré à cette initiative, et une nouvelle loi a effectivement été adoptée. Au Brésil, le Sénat dispose non pas d'un, mais de quatre moyens différents de recueillir les commentaires du public, non seulement pour l'élaboration d'une loi, mais aussi pour la quasi-totalité des questions que les sénateurs et sénatrices posent aux témoins lors des réunions des commissions : elles sont rédigées par le public.

[00:18:50 Écran partagé : Beth Noveck et un article du gouvernement britannique intitulé

Lorsque tout le monde parle, personne n'écoute. Parmi les 500 consultations menées chaque année par le gouvernement du Royaume-Uni, l'outil pourrait permettre aux fonctionnaires d'économiser environ 75 000 jours d'analyse par année, ce qui coûte au gouvernement 20 millions de livres sterling en frais de personnel.]

Beth Simone Noveck : Concernant l'équipe de citoyenneté électronique, si l'on prend l'exemple d'un grand pays comme le Brésil et que l'on se demande comment ce groupe de fonctionnaires petit et en difficulté, composé d'une quinzaine de personnes, parvient à gérer ce processus, la réponse est qu'elle utilise l'IA pour l'aider à trier les questions pertinentes pour une audience donnée; pour associer une question au thème de l'audience; pour reprendre les propositions de loi et contribuer à les reformuler sous une forme que le Sénat puisse effectivement présenter. L'équipe a même mis en place un système permettant aux élèves de participer, ce qui en fait un exercice pédagogique d'éducation civique.

La possibilité passionnante, ici, je dirais, c'est que, bien qu'Internet nous ait offert 30 ans pendant lesquels nous avons pu nous exprimer, 30 ans pendant lesquels n'importe qui a pu s'exprimer (hourra!) sur YouTube, sur TikTok, sur n'importe quelle plateforme, il a en contrepartie rendu l'écoute de plus en plus difficile pour les institutions. C'est pourquoi le gouvernement britannique a mené cette étude, dans laquelle il a calculé le coût que représente pour lui l'analyse et l'interprétation des initiatives de mobilisation citoyenne qu'il met en œuvre.

J'étais à Singapour il n'y a pas si longtemps. À ce moment-là, ils testaient la mise en place de petits jurys composés de 50 citoyen·nes. « Nous allons demander à 50 personnes de débattre d'une question. » Ils ont mis en place toute une opération pour y parvenir, l'ont fait à trois reprises, puis ont arrêté. Pourquoi? Parce que le travail de ces 50 personnes chargées de rédiger ce document, de le résumer, d'en tirer des conclusions et de le traduire en mesures politiques représentait tout simplement beaucoup trop de temps et d'efforts.

[00:20:39 Écran partagé : Beth Noveck et une diapositive intitulée Intervenir face à la crise de la participation.]

Beth Simone Noveck : C'est donc pour cette raison que le gouvernement britannique dispose désormais, dans le cadre de son initiative AI.gov, de cette plateforme d'analyse des consultations qu'il a mise au point afin de pouvoir renforcer sans cesse la mobilisation du public. Cela ne se limite pas au travail en ligne. Au Mexique, la Cour suprême a organisé une série d'activités de mobilisation du public sur l'avenir de son système de justice pénale. Un niveau très élevé de méfiance, un niveau très élevé de mécontentement; ils ont réuni 4 000 citoyen·nes dans le cadre de 14 débats nationaux différents avec des victimes d'actes criminels, les familles des personnes qui avaient commis ces actes, des procureur·es, des avocat·es de la défense; toutes ces personnes ont échangé en personne, et ces conversations ont été enregistrées. Là encore, l'IA a été utilisée pour aider à en tirer des enseignements rapidement et à commencer à traduire ces contributions en résultats et en produits plus efficaces pour le gouvernement.

[00:21:25 Écran partagé : Beth Noveck et la diapositive précédente intitulée « Responding to the Crises of Participation » (Intervenir face à la crise de la participation), illustrée par des captures d'écran des pages d'accueil des sites Web des administrations de la Californie et de Bogotá.]

Beth Simone Noveck : Je suis donc impatiente de mener ces nouvelles expériences sur l'utilisation de l'IA pour nous aider, en tant qu'intervenant·es institutionnels, à mieux écouter. En Californie, la plateforme Engage California, créée après l'extinction des feux incontrôlés, a demandé aux citoyen·nes et aux habitant·es de Los Angeles : « Comment pourrions-nous améliorer notre capacité à lutter contre les feux incontrôlés? » Cela a si bien marché qu'ils se sont dit : « Oh, maintenant, nous allons l'utiliser sur les fonctionnaires. » Et ils viennent justement de mener une vaste consultation sur l'amélioration des services auprès de milliers de fonctionnaires. Ils en organisent un autre en ce moment sur un autre sujet.

À Bogotá, ils ont mené ce genre de travail grâce à WhatsApp. Ils ont recueilli 50 000 réponses en l'espace de deux semaines pour, là encore, un coût très, très faible pour le gouvernement. Et la réduction des coûts permet au gouvernement de ne plus considérer la mobilisation citoyenne comme un simple « plus » ou une expérience ponctuelle, mais comme une démarche pouvant être mise en œuvre de manière récurrente.

[00:22:14 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : Finlande : de nouvelles façons de communiquer.]

Beth Simone Noveck : Dans des pays comme la Finlande, on utilise des technologies à code source ouvert non seulement pour permettre aux citoyen·nes de s'exprimer par texto, selon le processus classique de mobilisation ou de consultation des citoyen·nes, mais aussi pour exploiter les capacités de génération d'images offertes aujourd'hui par l'IA, afin de permettre aux citoyen·nes de participer à l'urbanisme de nouvelles manières. On peut donc dire : « Je veux un banc public ici » ou « Je veux une piste cyclable là-bas », ce qui permet au public de se représenter sa rue ou son parc d'une manière qui lui était impossible auparavant.

[00:22:58 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : Hambourg, Allemagne : Renforcer l'écoute citoyenne.]

Beth Simone Noveck : À Hambourg, ils ont passé les trois dernières années à concevoir une boîte à outils appelée DIPAS, qui est leur système de mobilisation citoyenne. Il ne s'agit pas seulement de permettre aux gens de donner leur avis, car ils ont les moyens de le faire depuis longtemps. Désolée, ici, le texte est traduit automatiquement en anglais. J'espère que la version française est… oh, je n'ai pas la version française, désolée, de leur site Web ici. « Aller plus loin dans la réflexion sur la participation numérique. » C'est très drôle… ça sonne mieux en allemand, disons-le comme ça. Mais ce qu'il faut retenir, c'est qu'ils ont désormais mis au point une boîte à outils qui leur permet d'analyser ce que disent les citoyen·nes. Si je tenais à vous montrer cela, c'est parce qu'aujourd'hui, aucune décision en matière d'urbanisme ou d'environnement n'est prise sans la mobilisation des citoyen·nes. Et comme ces outils sont gratuits et à code source ouvert, neuf villes utilisent désormais cette plateforme.

[00:23:56 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : Faire face à la crise des capacités.]

Beth Simone Noveck : Je participe à des discussions interminables pour tenter d'importer cela à la ville de Boston (c'est l'un de mes prochains projets) afin que l'on puisse inciter plus de gens à utiliser cette boîte à outils dorsale. Ils ont investi trois ans dans son développement, et elle a été conçue par et pour le secteur public afin de donner tout leur sens aux commentaires des citoyen·nes.

Dans le cadre de mes anciennes fonctions dans le New Jersey, où; j'ai occupé pendant plusieurs années le poste de responsable de l'IA et, auparavant, celui de directrice de l'innovation, nous avons utilisé l'IA pour passer au peigne fin nos bases de données afin de retrouver 693 000 enfants que nous avions perdus de vue et qui avaient droit à un dîner gratuit à l'école, à un déjeuner gratuit, et à une prestation alimentaire. Mais puisque cet enfant s'appelle Jack dans telle base de données, et John dans telle autre, et qu'il a changé plusieurs fois de famille d'accueil entre telle et telle administration, nous avions tout simplement perdu la trace de nombreuses personnes qui avaient droit à une prestation que nous avons ensuite pu leur verser.

[00:23:56 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : L'IA et la crise des capacités.]

Beth Simone Noveck : Un dernier exemple dans ce domaine, à savoir un projet sur lequel travaillent actuellement mes étudiant·es et qui m'enthousiasme beaucoup. Il s'agit d'un projet appelé GrantWell. GrantWell est un outil que nous avons développé pour l'État du Massachusetts afin d'aider les petites collectivités à trouver, à rédiger [et] à solliciter des subventions d'État et des subventions fédérales.

C'est donc quelque chose que chaque collectivité doit faire. Si vous vivez dans une grande ville, c'est assez facile. Vous disposez d'une équipe responsable de la rédaction des demandes de subventions. Si vous vivez dans une petite ville ou si vous faites partie d'une association locale et que vous souhaitez remplacer vos vieux autobus scolaires par des véhicules écoénergétiques, ou encore éliminer le plomb de vos canalisations (pour lesquels des aides publiques sont disponibles), vous ne disposez pas forcément des ressources nécessaires pour vous orienter dans ce processus.

[00:25:45 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : Grâce à l'IA, ils ont donc mis au point un outil spécialement conçu pour le processus public d'octroi de subventions, mais ce qui est encore plus passionnant, c'est que cet outil, que nous avons développé pour le Massachusetts, est désormais mis à la disposition de quatre autres États, gratuitement. Nous nous sommes réunis avec ces États pour concevoir conjointement la version 2 afin d'améliorer l'outil et, notamment, d'y intégrer des sources de données pertinentes auxquelles les collectivités pourront avoir accès lorsqu'elles rédigeront leur demande de subvention.

Il existe de très nombreuses anecdotes intéressantes à ce sujet. Je vois que j'en ai encore une autre. Celle-ci vient de Taoyuan, la deuxième plus grande ville de Taïwan. Elle a littéralement tout équipé de capteurs afin de recueillir leurs données, qui sont ensuite utilisées au moyen de l'IA pour optimiser la prestation de services, qu'il s'agisse du dépistage du cancer du poumon ou de la réduction de moitié du temps nécessaire à une ambulance pour prendre en charge un·e patient·e et l'amener à l'hôpital, ce qui sauve ainsi des vies en utilisant simplement l'IA pour analyser de grandes quantités de données.

[00:26:42 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : Oui, mais….]

Beth Simone Noveck : D'accord, j'arrive vers la fin ici. Alors, super. Je vous ai donné un million d'exemples de toutes ces choses géniales qu'on pourrait faire, mais allons-nous vraiment nous y mettre?

[00:26:57 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : L'IA d'entreprise dans le poulailler démocratique.]

Beth Simone Noveck : Abordons quelques-uns des défis à relever avant de conclure en expliquant comment concrétiser cette possibilité. Le premier défi qui nous préoccupe tous, c'est : « Oui, mais vous voulez que j'exécute toutes ces belles choses civiques en utilisant une série d'outils gérés par Elon Musk, Mark Zuckerberg et… » [complétez la phrase]. Vous savez qu'il y a des débats en ce moment. En Europe, on ne cesse de répéter que la souveraineté en matière d'IA consiste à ne pas acheter de technologies américaines. Nous avons de nombreuses discussions sur les préoccupations, qu'elles soient liées aux États-Unis ou non, concernant l'utilisation d'outils purement commerciaux dans le secteur public, comme les écoles et les gouvernements.

[00:27:44 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : L'intelligence artificielle de piètre qualité finira par étouffer la vérité, la civilité et la délibération.]

Beth Simone Noveck : Faut-il s'inquiéter des plateformes conçues pour privilégier la maximisation des profits au détriment de l'intérêt public? On constate, bien sûr, que ces outils sont utilisés de multiples façons abusives, non seulement à des fins de désinformation et de mésinformation, mais aussi, pour l'essentiel, à des fins futiles et absurdes.

[00:28:04 Écran partagé : Beth Noveck et une diapositive présentant deux images. L'une montre un bébé aux muscles saillants; l'autre, un chien servant de l'eau dans un restaurant.]

Beth Simone Noveck : Je voulais juste pouvoir vous montrer ces images, mais il y a plein de contenu dégénératif stupide généré par l'IA qui traîne partout.

[00:28:04 Écran partagé : Beth Noveck et une diapositive intitulée L'ère de l'IA-slop-agande.]

Beth Simone Noveck : Et cela vient de… c'est le compte officiel de la Maison-Blanche. Nous avons un gouvernement qui est… ce n'est pas un commentaire politique. C'est une observation factuelle : on adore créer ce qu'on appelle le « contenu dégénératif », ces images.

[00:28:32 Écran partagé : Beth Noveck et une diapositive présentant d'autres exemples de contenu dégénératif lié à Elon Musk et au Department of Government Efficiency (DOGE).]

Beth Simone Noveck : Et nous avons bien sûr de nombreuses préoccupations quant à la manière dont ces outils pourraient être utilisés à des fins autres que celles, louables et nobles, dont je viens de parler. Nous savons que nous pouvons recourir à l'IA et aux données au sein du gouvernement pour améliorer son efficacité. Mais nous savons aussi que nous avons récemment observé bon nombre de ces utilisations dans des contextes qui, selon moi, ne sont pas très utiles.

[00:28:57 Écran partagé : Beth Noveck et une diapositive : un document du DOGE intitulé « Updated data on DEI related contract cancellations with full detail »; des manifestant·es brandissant des pancartes sur lesquelles on peut lire « Funding Saves Lives »; une citation d'Elon Musk : « L'Agence américaine pour le développement international (USAID) est une organisation criminelle. Il est temps qu'elle disparaisse. »]

Beth Simone Noveck : Par exemple, il a été annoncé la semaine dernière que nous allions adopter une approche globale (cette politique n'est pas vraiment nouvelle), mais nous procédons effectivement ainsi : nous passons au peigne fin chaque subvention publique à la recherche de termes jugés offensants, puis nous nous en servons pour réduire les subventions.

[00:29:15 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : Ou cet article d'hier ou d'il y a deux jours. Nous passons simplement en revue, de manière systématique, tous les contrats utilisés par le Service des forêts. Je l'ai entendu récemment aux nouvelles, il y a un jour ou deux, je crois. Et nous résilions tous ces contrats sans même examiner attentivement à quoi ils servent. L'article expliquait donc que cela allait coûter beaucoup plus cher au gouvernement, beaucoup plus d'argent aux contribuables, car nous utilisons essentiellement l'IA pour supprimer des subventions, résilier des contrats et licencier des membres du personnel sans vraiment réfléchir à la manière dont nous nous y prenons.

[00:29:49 Écran partagé : Beth Noveck et une diapositive. Texte sur la diapositive : De la crise au renouveau: l'IA démocratique.]

Beth Simone Noveck : Bon, nous allons maintenant conclure en expliquant comment on essaie concrètement de faire ce qu'il faut, plutôt que de faire ce qu'il ne faut pas. Et je pense qu'il y a, là encore, de nombreuses utilisations inappropriées quand on réfléchit à la manière dont nous utilisons l'IA.

[00:30:07 Écran partagé : Beth Noveck et une diapositive intitulée Qu'est-ce que l'IA démocratique?]

Beth Simone Noveck : C'est donc pour cette raison que j'utilise ce terme, et que j'ai écrit ce livre pour aborder la notion d'IA démocratique. Et j'entends ici « démocratique » avec un « d » minuscule, comme dans « démocratie », et non pas comme dans démocrates contre républicains. Encore une fois, il s'agit d'un mot que je trouve toujours pertinent et qu'il faut absolument réhabiliter. Et je pense qu'il est important d'utiliser l'expression « IA démocratique » pour désigner une IA et ses utilisations qui sont axées sur l'intérêt général, qui s'appuient sur des méthodes de travail participatives, et que nous développons avec et pour les personnes les plus touchées, tout en réfléchissant à leurs retombées démocratiques. Autrement dit, les avantages pour le public, plutôt que l'inverse.

[00:31:05 Écran partagé : Beth Noveck et l'image d'un livre Si on la construit, nous mourrons tout.]

Beth Simone Noveck : Il nous faut un terme parce que… oups, voyons voir si j'ai une image ici. Non. Oui, c'est exactement l'image que je voulais, parce que c'est justement ce dont parlent bon nombre des gros titres. Je l'ai déjà mentionné au début, mais je tiens à revenir sur le fait que nous savons bien que « le sang fait la une ». C'est ce qui fait vendre les journaux; c'est ce qui crée de la mobilisation. C'est un livre qui est sorti il y a quelques mois. Il a fait l'objet d'une immense couverture médiatique.

Mais cela accapare énormément l'attention, alors que c'est la seule chose dont on parle.

Si nous ne parlons que de l'apocalypse des robots, si nous ne parlons alors que de notre posture défensive, nous ne parlons pas de ce que signifie bien faire les choses, et les faire comme il faut. Et, franchement, ce n'est pas un sujet dont on parle suffisamment.

La semaine dernière, j'ai participé à un événement au Mexique en collaboration avec une fondation dont je n'avais jamais entendu parler auparavant, la Fondation Scott-Morgan.

Elle est venue présenter le travail qu'elle mène, en s'appuyant sur l'IA, pour aider les personnes atteintes de la sclérose latérale amyotrophique (SLA) à retrouver la parole. Ainsi, à partir d'un enregistrement vocal de quelques minutes montrant comment cette personne parlait avant d'être atteinte de la SLA, ils parviennent à la recréer et à la lui redonner une voix.

Lors de cet événement, elle a organisé un panel composé exclusivement de personnes atteintes de SLA qui parviennent à peine à articuler des mots. Vous et moi ne serions pas capables de communiquer avec elles. Elles nous comprennent parfaitement, mais nous, nous ne pouvons pas les comprendre. Grâce à l'IA, la Fondation a pu leur redonner la parole afin qu'elles puissent s'exprimer publiquement lors de cet événement auquel j'ai assisté. Ce sont des histoires comme celle-là, ce sont toutes ces choses que nous pourrions bien faire et qui, selon moi, passent à la trappe quand on ne parle que de l'apocalypse des robots.

[00:32:44 Écran partagé : Beth Noveck et une diapositive intitulée Comment y arriver?]

Beth Simone Noveck : Et franchement, même si nous ne parlons que de l'IA au service du bien commun (un sujet qui plaît aux gens et dont nous aimons discuter, notamment de ses utilisations dans le domaine médical, le domaine du climat, et dans d'autres domaines), nous devons avant tout aborder cette crise de notre démocratie et ce que nous pouvons faire pour y remédier. Donc, que pouvons-nous faire et que devons-nous faire?

[00:33:03 Écran partagé : Beth Noveck et une série de diapositives intitulée Comment y arriver?: L'IA publique.]

Beth Simone Noveck : Il y a quatre parties. La première, c'est l'IA que nous utilisons. Un débat animé, bien qu'encore très récent, s'est ouvert sur ce que certaines personnes appellent l'« IA publique ». Donc, « publique » au sens où; on l'entend pour les parcs publics ou les bibliothèques publiques. Nous avons des librairies, mais nous avons aussi des bibliothèques. Personne ne parle de supprimer les librairies. Nous adorons les librairies. Mais nous souhaitons également disposer d'alternatives et d'options publiques qui coexistent avec les solutions de rechange commerciales.

On s'interroge donc actuellement sur la réglementation dont nous avons besoin, ainsi que sur les investissements nécessaires, pour garantir que notre IA soit abordable, qu'elle soit explicable et, encore une fois, qu'elle soit conçue pour un usage public et à des fins d'intérêt général, et non pas uniquement à des fins commerciales. Nous voulons les super outils pour créer ces images de chats ridicules ou du contenu dégénératif. J'adore créer ces images. J'aurais dû préciser en [disant cela] que nous avons pour passe-temps de créer des images générées par l'IA de mon chat chez moi, ce qui risque de polluer la planète.

[00:34:15 Écran partagé : Beth Noveck ainsi qu'une série d'images de pages d'accueil de l'apprentissage en ligne, et des articles sur divers gouvernements du monde entier qui ont investi dans l'IA publique, conformément à la description.]

Beth Simone Noveck : Mais en ce qui concerne plus particulièrement l'utilisation par le gouvernement, nous devons nous interroger sur les outils que nous mettons en place et que nous utilisons, notamment à des fins d'intérêt général. Il y a donc des gouvernements, comme celui de la Suède, ou encore celui de l'Estonie, bien sûr. Tout le monde déteste quand on parle de l'Estonie. Personne n'aime qu'on lui dise qu'il devrait prendre exemple sur l'Estonie.

Mais la semaine dernière, la France a annoncé qu'elle allait consacrer plus de 100 milliards de dollars à des investissements dans l'IA publique. Encore une fois, cela consiste en partie à développer un marché commercial, mais aussi à mettre au point des outils destinés au gouvernement, conformément à la démarche envisagée dans ces régions. Et encore une fois, il est encore tôt. L'Espagne a investi des sommes considérables dans la puissance de calcul publique, mais le gouvernement continue d'utiliser Microsoft.

Bon, est-ce que c'est si grave que cela? Nous utilisons les produits Microsoft depuis longtemps. C'est une conversation que nous devons avoir. Ils développent leurs propres grands modèles de langage. Le gouvernement, dans ses robots conversationnels, dans ses services, pourrait-il mettre au point d'autres produits et outils destinés au public et conçus en collaboration avec celui-ci, de manière à offrir un contrôle plus démocratique? Et c'est, encore une fois, une conversation que nous devons avoir.

La Suède a déclaré : « Écoutez, nous allons faire les deux. Le robot conversationnel que nous allons utiliser au sein du gouvernement s'appuiera sur notre grand modèle de langage natif, développé par notre gouvernement et alimenté par des données suédoises issues de nos archives nationales, dans le cadre d'un partenariat public-privé. »

[00:35:48 Écran partagé : Beth Noveck et une série de diapositives intitulée Comment y arriver?: Formation et amélioration des compétences.]

Beth Simone Noveck : Donc, encore une fois, ce domaine politique n'en est qu'à ses débuts, mais si l'on considère que l'État est le plus gros acheteur de technologies, que pourrions-nous faire différemment? Nous devons développer l'IA en collaboration avec les personnes les plus touchées. Axé sur la collectivité; participatif; centré sur la personne. Combien d'événements consacrés à la conception centrée sur la personne ont-ils été organisés depuis cette scène? Je suis sûre qu'il y en a eu beaucoup, beaucoup, beaucoup, beaucoup. Ces leçons ne se perdent pas quand on parle de… pardon, laissez-moi voir quelle image va s'afficher. Oups, revenons en arrière… quand on parle d'IA.

Donc, l'image que je cherche, qui arrive peut-être plus tard. Encore un petit exemple : une équipe de boursiers et de boursières en IA. Je les appelle mes étudiant·es, mais ce ne sont pas des étudiant·es. Ce sont des boursiers et boursières qui prennent un congé sabbatique pour développer des solutions d'IA à code source ouvert en collaboration avec des partenaires du gouvernement. Pour bâtir un outil destiné à aider les familles où; un enfant est en situation de handicap à comprendre leurs droits et à les faire valoir. Des outils entièrement conçus avec, pour et par les familles les plus touchées. Des familles, j'ajouterais, qui sont peu alphabétisées, et dont la langue maternelle n'est pas l'anglais.

[00:36:59 Écran partagé : Beth Noveck fait défiler une série de diapositives et revient à Comment y arriver?: Formation et amélioration des compétences.]

Beth Simone Noveck : Donc, dernier point. Désolée, revenons ici, car je crois que j'ai sauté une diapositive. Elle n'est pas dans le bon ordre ici, donc je reviendrai ici.

Troisième point. Ce qu'il faut retenir sur la formation et l'apprentissage. Et c'est comme porter de l'eau à la rivière, à l'École de la fonction publique du Canada. Mais il faut vraiment réfléchir à la manière dont nous pouvons diffuser l'IA pour l'ensemble de la population, et pas seulement de certaines d'entre elles, pour reprendre l'expression canadienne, pas seulement pour le public, mais aussi pour le secteur public. Ce n'est qu'en apprenant ce que font ces outils, ce qu'ils font bien et ce qu'ils ne font pas bien que nous serons en mesure de décider comment nous voulons les utiliser.

[00:37:40 Écran partagé : Beth Noveck et une série de diapositives, conformément à la description.]

Beth Simone Noveck : Donc, je vais donc vous les présenter pour la troisième fois : voici le site Web d'InnovateUS. Nous avons également INNOVATE-EU, qui est lancé aujourd'hui à Bruxelles. Mais nous avons mis cela en place dans le but de favoriser l'apprentissage entre pairs autour des utilisations dans le secteur public; au départ, il ne s'agissait pas de l'IA, mais aujourd'hui, l'IA a envahi toutes nos activités, car c'est le sujet qui intéresse tout le monde. C'est pourquoi nous défendons avec force l'idée que les investissements consacrés à la formation au sein du secteur public, ainsi que le temps consacré à l'apprentissage de l'IA, entraîneront des changements de comportement au sein de ce secteur, ce qui se traduira en fin de compte par de meilleurs résultats pour les habitant·es.

[00:38:22 Écran partagé : Beth Noveck et une série de diapositives, conformément à la description.]

Beth Simone Noveck : Nous sommes donc, par exemple, en train de développer et de lancer, dans deux semaines, un nouveau programme consacré à l'utilisation de l'IA pour favoriser la mobilisation du public : présenter cette anecdote de Hambourg; présenter cette anecdote de Bogotá. Des exemples ainsi que des conseillers et conseillères issu·es de 42 pays participent à l'élaboration de ce programme dans l'espoir que nous puissions réellement changer le fonctionnement des gouvernements; que nous puissions réellement inciter davantage de personnes, [inaudible,] à intégrer davantage la mobilisation du public dans leurs travaux. Il ne s'agit pas seulement de réfléchir à l'utilisation de l'IA, encore une fois, pour gagner en rapidité et en efficacité, mais pour changer véritablement notre façon de faire les choses.

[00:39:06 Écran partagé : Beth Noveck et une série de diapositives présentant des avertissements contre l'IA, conformément à la description.]

Beth Simone Noveck : Il existe bien sûr de nombreuses mises en garde contre une mauvaise utilisation de l'IA. Comme l'idée selon laquelle nous allions simplement céder toute notre autorité et notre pouvoir de décision à un algorithme; que nous allions simplement laisser un algorithme décider qui a droit à une prestation et qui n'y a pas droit. C'est ce qui a donné lieu à des manifestations dans des pays comme les Pays-Bas. Vous avez peut-être vu le film Netflix qui raconte l'histoire de la poste au Royaume-Uni, « Mr. Bates versus the Post Office »; c'est un bon film, si vous ne l'avez pas encore vu, qui traite de la cession de l'autorité gouvernementale au profit de la technologie.

L'apprentissage est extrêmement important, si nous ne voulons pas subir la même chose. Si nous n'apprenons pas, nous allons nous tromper. Et surtout, nous devons acquérir les connaissances nécessaires pour comprendre d'où; proviennent ces outils, et comment nous allons les intégrer dans notre travail.

[00:39:58 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : Voici donc un exemple tiré d'un réseau hospitalier. La personne responsable de l'IA chez Kaiser Permanente, en Californie, m'a expliqué qu'elle avait mis au point un nouvel algorithme capable de prédire quand l'état d'un·e patient·e risque de se détériorer à l'hôpital, afin de signaler les signes d'avertissement indiquant que certain·es patient·es sont en situation de risque. Le problème dans ce cas-ci, c'est qu'il existe beaucoup de formes d'IA prédictive de mauvaise qualité. En fait, cet algorithme semble être plutôt bon et assez efficace. Ce n'était pas le problème. La question qui les préoccupait était la suivante : « Que faire de cet algorithme maintenant que nous l'avons?

[00:40:33 Écran partagé : Beth Noveck et une diapositive intitulée Comment y arriver?: IA axée sur la communauté.]

Beth Simone Noveck : Est-ce que nous le donnons au personnel infirmier? Est-ce que nous le donnons aux médecins? Comment pouvons-nous en tirer parti pour l'intégrer à notre travail? » Oh, voilà toutes mes diapositives qui ne sont pas dans le bon ordre. Désolée. Je ne sais pas ce que j'ai fait. Désolée. Je vais revenir un peu en arrière ici.

[00:40:58 Écran partagé : Beth Noveck fait défiler des diapositives, s'arrête sur l'une d'elles, conformément à la description, puis passe à une diapositive intitulée Comment y arriver?: Recherche démocratique sur l'IA.]

Beth Simone Noveck : Voici une photo du super outil que nous avons mis au point pour les familles comptant une personne handicapée. Comme la conception graphique est vraiment très jolie, je vais vous la montrer.

Encore deux points à ce sujet. Cela signifie que si nous voulons tirer parti de ces avantages, nous devons accorder une place centrale aux types de questions que nous étudions, aux types de questions que nous posons. Je dirais que nos universités ne s'y prennent pas encore correctement, et je passe actuellement beaucoup de temps à dialoguer avec elles pour essayer de les inciter à s'intéresser aux questions qui concernent le secteur public, et à se demander comment nous pouvons utiliser l'IA pour intégrer (pour revenir à ce commentaire sur les algorithmes), comment nous pouvons commencer à intégrer efficacement l'IA dans notre travail au sein du secteur public; que devrions-nous mettre en place; comment devrions-nous l'utiliser; qu'est-ce qui fonctionne et qu'est-ce qui ne fonctionne pas?

[00:41:39 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : Nous avons lancé une nouvelle initiative d'envergure à l'échelle mondiale visant à rassembler les entreprises et les universités afin de réfléchir à la manière dont nous pouvons utiliser l'IA pour relever les nouveaux défis liés à la cybersécurité. Il s'agissait du projet Glasswing, annoncé il y a quelques semaines, lorsque la société Anthropic a déclaré : « Notre IA est si puissante qu'elle peut venir à bout de n'importe quel système de cybersécurité. » Panique générale, un défi de taille. Nous devons rassembler tout le monde pour commencer à aborder la question de la cybersécurité à l'aide de l'IA.

[00:42:16 Écran partagé : Beth Noveck et une diapositive intitulée IA axée sur la communauté.]

Beth Simone Noveck : Où; est donc cette panique générale concernant la démocratie et la manière dont nous utilisons l'IA pour remédier à la situation? Où; en est notre projet ambitieux en matière d'IA, visant à l'utiliser pour relever les défis auxquels sont confrontées nos institutions et notre démocratie? Nous n'avons pas ces parcours de carrière, ces revues, ces conférences. Nous n'avons pas encore cette priorité, et mon souhait (tout comme ma conclusion) est d'inscrire ces enjeux à l'ordre du jour.

[00:42:37 Écran partagé : Beth Noveck et une diapositive montrant un ballon de soccer de la Coupe du monde de la FIFA.]

Beth Simone Noveck : La Coupe du monde commence jeudi? Cette semaine. Est-ce que je peux demander combien de personnes vont tomber malades, vont se rendre compte qu'elles sont malades, commencent à avoir un rhume en ce moment même, et ne seront soudainement plus disponibles?

[00:42:54 Écran partagé : Beth Noveck et une diapositive montrant un arbitre de la Coupe du monde de la FIFA qui consulte le VAR pour prendre une décision.]

Beth Simone Noveck : L'un des sujets qui suscitent beaucoup de polémiques, comme lors de la Coupe du monde (vous l'avez peut-être remarqué, ce n'est pas nouveau), c'est la technologie. Qui sait ce que signifie « VAR »? J'ai déjà oublié. Visual Assisted… où; sont mes fans de soccer? …Replay. Dans le soccer, donc, là encore, cela a commencé il y a environ 10 ans : nous allons utiliser des caméras placées le long des lignes, puis faire appel à ces caméras ainsi qu'à des personnes situées en dehors du terrain pour examiner les actions et prendre la décision à la place de l'arbitre sur le terrain. Nous avons désormais intégré l'IA à ce processus, de sorte que ce sera l'IA qui prendra les décisions concernant les hors-jeu cette semaine. Dans un récent sondage, 91 % des partisan·es de soccer (91 %) s'accordent à dire que c'est une très mauvaise idée. Ils détestent cela, et ils veulent que l'on revienne à un système où; ce sont des arbitres humains qui prennent les décisions.

Je terminerai donc en disant que je pense que les enseignements tirés du VAR sont des leçons que nous devons prendre à cœur ici. Le problème avec le VAR, c'est qu'il apportait une solution à un problème qui n'existait pas. Il s'agissait de concevoir un système qui ne faisait participer ni les partisan·es ni les joueurs, et qui imposait l'utilisation d'une technologie, là encore, dans un but de profit commercial plutôt que pour le plaisir du sport. Un sport dans lequel, pour des raisons culturelles, sociales ou religieuses, nous plaçons l'arbitre au centre. Nous voulons que l'être humain soit au cœur de ce phénomène culturel d'une importance capitale. Je pense que le VAR est en quelque sorte le reflet de la manière dont nous devons envisager l'IA au service de la démocratie.

[00:44:44 Écran partagé : Beth Noveck et une diapositive, conformément à la description.]

Beth Simone Noveck : Nous devons mettre en place ces outils, comme l'a dit le Pape, non pas à l'image de Jérusalem, ni de Babel, ni comme le sauveur de toutes choses, ni comme la fin de toutes choses, mais nous devons nous concentrer sur ce milieu complexe des actions très concrètes que nous pouvons mener avec les collectivités, pour les gens, avec les gens, en collaboration avec les fonctionnaires, afin de relever les défis auxquels nous sommes confrontés.

Merci.

[00:45:16 L'auditoire applaudit, Beth regagne sa place, puis Vanessa revient sur scène pour la rejoindre.

Les caméras montrent différentes vues de la scène et de l'auditoire au fur et à mesure que la discussion avance, notamment des plans en plein écran de Beth et de Vanessa lorsqu'elles prennent la parole.]

Vanessa Vermette : Merci beaucoup, Beth. Vous y êtes allé à toute vitesse, donc je pense qu'il y a beaucoup de choses à approfondir dans les diapositives que vous venez de présenter. Mais je voudrais tout d'abord vous féliciter pour votre livre. C'est vraiment une grande réussite d'avoir pu le diffuser dans le monde entier à un moment aussi important.

Beth Simone Noveck : Vous n'en avez aucune idée.

Vanessa Vermette : Cela a dû être très pénible, j'en suis sûre. Mais puis-je commencer par vous demander ce qui vous a poussé à écrire ce livre? Y a-t-il eu un moment particulier, une interaction, quelque chose que vous avez vu qui vous a poussé à vous dire : « Je dois synthétiser tout ça et le partager avec le monde entier »?

Beth Simone Noveck : Eh bien, je pense qu'il y a deux sources d'inspiration à cela : l'une est d'ordre historique et n'est pas propre à ce livre. J'ai fait mes études, j'ai suivi un parcours scolaire; j'ai en fait étudié l'histoire et je me suis intéressé plus particulièrement aux années 1920 en Allemagne et en Autriche. J'ai donc eu la grande chance (ce que je recommande à tout le monde après l'obtention du diplôme universitaire) de passer un an dans les cafés de Vienne à mener des recherches sur les causes de l'effondrement des institutions autrichiennes et de leur capitulation devant le fascisme.

Alors, la préoccupation initiale qui imprègne l'ensemble de mon travail, et qui a également motivé celui-ci, était la question suivante : « Quelles [sont] les bonnes décisions à prendre pour nous? » On observe actuellement une véritable vague de panique concernant notre utilisation des réseaux sociaux et leurs effets néfastes sur les enfants, ainsi que la manière dont nous intégrons la technologie dans les écoles; on en vient même à débattre, par exemple, de l'interdiction de l'utilisation des téléphones portables à l'école.

Nous avons tous et toutes l'impression d'avoir commis une erreur qui a empêché Internet d'être ce havre de paix pour la liberté d'expression. Au lieu de cela, le Web est devenu ce qu'Anne Applebaum appelle « le dépotoir en flammes de la démocratie », une formule qui traduit bien ce que ressentent beaucoup d'entre nous après avoir passé un moment sur les réseaux sociaux. La question est donc la suivante : « Nous sommes à l'aube de l'ère de l'IA générative. Comment faire les choses comme il faut? ». Cette question m'a été largement inspirée par ces interrogations historiques.

Et puis, si on fait un bond en avant, je dois dire que j'ai une dette (entre guillemets, bien sûr) envers Elon Musk. Oui, vraiment avec des guillemets, car nous avons vu ce que cela signifie une mauvaise utilisation de l'IA. Mais ce que nous devons à Elon Musk, c'est d'avoir attiré l'attention sur la question des capacités et du fonctionnement de l'État comme jamais auparavant.

Lorsque je travaillais pour Obama et que j'ai contribué à la mise en place de l'initiative pour un gouvernement ouvert, nous étions passionnés par notre travail dans le domaine des données ouvertes et de la modernisation du gouvernement. On m'a dit qu'Obama devait se trouver sur un autre continent avant que l'on puisse faire une annonce. En effet, à cette époque, les capacités de l'État, sa modernisation et son fonctionnement étaient considérés comme un sujet d'un ennui mortel.

Ils ne peuvent pas parler du gouvernement. Les Américain·es ne veulent pas parler du gouvernement. Genre, ouh, quel ennui. Au sens propre du terme. Je n'invente rien quand je vous dis qu'on m'a dit qu'il devait être en Asie. C'est à ce moment-là que nous avons fait nos grandes annonces sur le gouvernement ouvert, lorsque le sujet passait encore un peu inaperçu. Cela a attiré beaucoup d'attention sur ces sujets, pas dans le bon sens du terme, mais cela a poussé beaucoup de gens à se demander aujourd'hui : « Comment faire les choses comme il faut? »

Je n'ai pas besoin de vous expliquer, ici, à quel point la remise en question de certaines hypothèses principales, par exemple les relations commerciales entre les États-Unis et le Canada, a bouleversé une situation qui durait depuis une génération… je n'ai qu'un mot à vous dire : « rupture », c'est le terme qui a été inventé ici et qui s'est répandu dans le monde entier. C'est donc cette rupture qui m'a fait penser : « Il ne faut jamais gaspiller une bonne crise. » Autant écrire un livre là-dessus.

Vanessa Vermette : C'est une bonne approche. J'aimerais vous poser quelques questions sur certains des exemples que vous avez cités dans votre intervention, concernant les endroits où; l'IA contribue déjà à améliorer le processus démocratique. Y a-t-il un exemple qui vous a particulièrement marqué et que vous pourriez nous présenter plus en détail? Dans quelle mesure les gens ont-ils fait confiance au processus? Que s'est-il réellement passé sur le terrain? Quels en ont été les résultats?

Beth Simone Noveck : Je pense donc, si je puis dire, que nous n'en sommes qu'aux débuts, et que (comme vous l'avez sans doute constaté ici aussi) bon nombre de nos premières utilisations, précisément parce que nous craignons beaucoup que le public ne fasse pas confiance à l'IA utilisée par des fonctionnaires sont, disons, très banales. Il s'agit d'utilisations internes visant à simplifier certains textes; à rendre plus accessible un contenu rédigé dans un langage complexe; à effectuer une forme de traduction; à synthétiser certains documents.

Et je ne veux surtout pas les écarter, car je pense qu'elles sont extrêmement importantes. Et cela contribue également à apaiser certaines préoccupations et craintes lorsqu'on se rend compte qu'il ne s'agit en réalité que d'une nouvelle génération de logiciel de traitement de texte. Et j'espère que d'ici quelques années, nous nous calmerons tous et toutes un peu, et que nous nous dirons quelque chose comme : « C'est un peu comme Microsoft Word 2.0 », et que nous nous exclamerons : « Ah oui, maintenant je peux télécharger quelques documents et obtenir une réponse. »

Dans le Massachusetts, par exemple, deux titulaires d'une bourse spécialisés en IA ont collaboré avec le ministère des Transports. Ils ont rassemblé l'ensemble de ses documents stratégiques et de ses manuels de formation, puis les ont mis en ligne afin de créer, en substance, un robot conversationnel interne destiné à former les personnes nouvellement recrutées en ingénierie routière. L'idée était qu'un nouvel ingénieur routier ou une nouvelle ingénieure routière puisse obtenir une réponse à partir des sources et des références provenant des documents internes de ce ministère, et ainsi permettre aux ingénieur·es plus expérimentés de consacrer leur temps à des questions importantes plutôt qu'à des demandes élémentaires du type « Où; puis-je trouver X ou Y? ».

Nous avons procédé de la même manière dans le domaine de l'assurance maladie, toujours dans le Massachusetts, où; nous avons mis en place ce modèle de programme de bourses à titre expérimental, mais plusieurs administrations locales ont adopté cette approche. Le Massachusetts a eu la brillante idée de se dire que les gens attendaient trop longtemps pour obtenir une assurance maladie, et l'État a donc créé six centres d'appel au lieu d'un seul. Eh bien, comme vous le savez peut-être, lorsqu'on élargit une route et qu'on y ajoute des voies, cela entraîne en réalité une augmentation du trafic, et non une diminution. Les ingénieur·es d'ici vont m'expliquer exactement pourquoi, mais il s'avère que cela ne fonctionne pas très bien, et on observe le même phénomène dans les centres d'appels.

En fait, nous avons fait à peu près la même chose et mis au point un outil destiné aux personnes chargées de répondre au téléphone. Nous avons également fait cela dans le New Jersey, lorsque je travaillais pour l'État du New Jersey. Nous avions mis en place une stratégie qui consistait à rencontrer les personnes qui répondent au téléphone, ainsi que celles qui rédigent les documents, toujours dans une approche très centrée sur la personne, afin de comprendre leur comportement; leurs besoins; et à quoi doivent servir les outils dont elles ont besoin. Il s'agit ensuite de créer des outils pour les aider à trouver des réponses, de sorte que, lorsqu'elles répondent au téléphone, d'une part, le public s'adresse toujours à un être humain, mais d'autre part, il obtienne une réponse précise plus rapidement, en passant moins de temps au téléphone, ce qui est bénéfique pour tout le monde en termes de qualité des réponses fournies.

Au risque de m'étendre un peu trop sur le sujet, je voudrais vous donner encore un petit exemple : défenseur public ou défenseure publique dans l'État du New Jersey. Un bureau qui défend les personnes démunies dans le cadre de leurs affaires civiles. Un bureau qui, jusqu'en avril de cette année, n'était pas équipé du Wi-Fi. C'est dire à quel point ils manquent de moyens.

Mais qu'ont-ils fait, au juste? Ils ont utilisé l'outil gratuit NotebookLM et y ont téléversé 20 ou 50 de leurs anciens mémoires juridiques afin de créer, en somme, un robot conversationnel alimenté par des sources et des références. Ils ne s'en sont pas servi. Ce qu'ils ont fait, c'est de l'utiliser comme démonstration pour s'asseoir et dîner avec leur personnel. Et dire : « Quel problème devons-nous résoudre? Qu'est-ce qui nous aiderait vraiment à faciliter notre travail? »

Ils se sont ensuite lancés dans ce projet, et ont collaboré avec la Princeton University pour mettre au point ce qu'ils appellent leur outil Brief Bank, qu'ils ont désormais déployé et qui les aide dans leur processus de rédaction. Encore une fois, il ne rédige pas leurs mémoires à leur place. Il se contente de puiser dans leurs mémoires antérieurs pour trouver des exemples de formulation. Dans un mémoire juridique, il faut mettre quelque chose du genre : « Où; se trouve notre paragraphe type sur la compétence matérielle? Où; se trouve notre paragraphe type sur XYZ? » pour, en gros, s'inspirer de ces textes et les aider à mieux faire leur travail.

Mais si je me suis autant étendue sur le sujet, c'était simplement pour dire que ce sont justement le problème que l'on choisit et la réflexion que l'on mène sur la manière dont on tente de le résoudre qui, selon moi, constituent véritablement les utilisations transformatrices et passionnantes. Et aucune d'entre elles n'est vraiment difficile.

Vanessa Vermette : Oui, cela me rappelle l'exemple que vous avez donné à la fin, celui du VAR sur un terrain de soccer qui résout un problème qu'on n'avait pas. Voyez-vous aujourd'hui, dans le monde, des exemples où; des gouvernements utilisent l'IA pour résoudre des problèmes que nous n'avons pas?

Beth Simone Noveck : Je suis vraiment reconnaissante pour le fait qu'en tant que directrice de l'innovation, nous avons eu une personne à la direction des technologies dans le New Jersey qui était responsable de l'achat des technologiques. Au départ, ils m'ont demandé si je voulais ce poste. Et là, je m'étais dit : « Non, non, non, non, non, je ne veux rien savoir de ce poste! » Parce qu'après, tout le monde essaie de vous vendre des solutions pour des problèmes que vous n'avez même pas.

Et ce problème, ce phénomène, n'est pas nouveau dans le domaine de l'IA, mais il s'aggrave à mesure que tout le monde dispose d'un outil d'IA pour faire X, Y et Z. Franchement, un outil d'IA, qu'il s'agisse de Claude, de ChatGPT ou de Copilot, permet de faire la plupart de ces choses. On n'a plus nécessairement besoin d'une plateforme spécialisée pour accomplir toutes ces tâches.

Mais les mauvais exemples, ou plutôt, les exemples dangereux que nous observons concernent l'IA prédictive. Il faut donc bien comprendre qu'il existe différents types d'IA. Il s'agit d'un ensemble d'outils destinés au traitement des données. Et nous pouvons analyser ces données rétrospectives, c'est-à-dire, qui portent sur le passé, et y déceler des tendances. Il y a beaucoup de bonnes utilisations pour cela, et elles ne suscitent pas la controverse. Ce sont les éléments tournés vers l'avenir, c'est-à-dire ceux qui ont un caractère prédictif, qui, selon nous, présentent le plus de risques et de dangers.

Je vous ai donc donné l'exemple de l'IA prédictive dans le domaine de la santé mise au point par Kaiser Permanente, qui semble donner de très bons résultats. Un outil de prédiction a été mis au point pour lutter contre la sepsie. Encore une fois, il s'agit d'un problème grave, un élément important que nous voulons pouvoir anticiper, qui a été développé par Epic, par les créateurs et créatrices des systèmes de dossiers médicaux électroniques, mais qui a été mal conçu. Ils ont utilisé des données nationales pour un phénomène qui nécessite pourtant des données localisées, et l'outil ne fonctionne pas très bien. Les prévisions sont erronées, et elles sont mauvaises.

C'est ainsi que l'on commence à recourir à ce genre de mauvais outils, notamment dans des situations où; il s'agit de priver des personnes d'une prestation, de les accuser de fraude, de prédire quand une personne va commettre un délit, ou quand elle va récidiver. Donc, tout ce qui vise à priver quelqu'un de sa liberté, ou plus particulièrement tout ce qui entraîne ce genre de conséquences graves, relève non seulement du gaspillage, mais constitue en réalité des exemples vraiment dangereux. Et la situation ne fera qu'empirer si nous ne nous informons pas sur la manière d'éviter de développer et de mettre en place des IA stupides.

Vanessa Vermette : Voilà de sages paroles. Je voudrais aborder brièvement la question de l'IA publique. Vous avez dit qu'un débat naissant et en plein essor s'engageait actuellement à l'échelle mondiale autour de l'IA publique. Vous avez évoqué les principes de la finalité démocratique, du processus démocratique, et des résultats démocratiques. Vous pourriez peut-être nous parler de quelques exemples que vous avez observés concernant des administrations qui ont mis en place une IA publique, et nous expliquer comment celle-ci est utilisée. Vous avez mentionné que la Suède disposait d'un modèle de partenariat public-privé. Y en a-t-il d'autres? Ou pourriez-vous nous en dire un peu plus à ce sujet?

Beth Simone Noveck : Oui. Donc, la Suède dispose (comme c'est le cas dans de nombreux pays) d'un laboratoire de recherche national appelé AI Sweden, où; l'on mène des travaux, principalement à des fins linguistiques, car, comme on le sait, l'IA générative n'est en réalité rien d'autre qu'une IA entraînée à partir d'un grand nombre de mots et d'images provenant d'Internet. Et comme Internet comporte des langues dominantes, l'anglais étant la plus répandue, des pays comme l'Islande, la Suède et l'Estonie ont tenté de développer leurs propres modèles linguistiques afin de disposer d'un outil plus performant dans leur propre langue.

La Suède a déclaré : « Nous allons utiliser les données d'entraînement issues de nos archives nationales », jusqu'à ce qu'elle soit poursuivie en justice pour cette raison. Il est intéressant de noter que ce ne sont pas les entreprises spécialisées dans l'IA qui ont formulé cette exigence, mais les entreprises de contenu, qui ont déclaré : « Si vous ne pouvez pas nous prouver que les données d'entraînement ne contiennent pas de contenu protégé par le droit d'auteur, vous ne pouvez pas faire cela. » Nous proposons toute une série consacrée à l'IA publique, et de nombreux intervenant·es de ces pays viennent y prendre la parole; toutes ces interventions sont enregistrées et disponibles en ligne. Nous allons en faire une formation courte qui sera disponible cet automne. Le pauvre gars qui en était responsable est désormais parti pour le secteur privé, tant il était découragé par la difficulté de ce travail. Cela dit, ils ont tout de même lancé un robot conversationnel natif destiné à être utilisé au sein du gouvernement.

Et ce qui m'enthousiasme, c'est que pour créer des applications comme un simple robot conversationnel d'information, on n'a pas besoin de la puissance de calcul de l'un de ces grands modèles de langage. Donc, pour des motifs d'ordre environnemental, linguistique et de contrôle public, l'idée d'un robot conversationnel développé par le secteur public (à l'instar de ce qui se fait en Espagne, où; l'on a mis au point un modèle appelé ALIA, A-L-I-A, leur modèle natif développé par le secteur public, fruit d'un consortium de leurs universités publiques qui ont mis au point leur propre grand modèle de langage natif) pourrait constituer un outil issu d'une collaboration public-privé pouvant faire appel à des investissements privés.

Ou bien il existe de nombreux cas, comme bon nombre des exemples que je vous ai donnés, où; le grand modèle de langage sous-jacent est un ChatGPT, un Claude, un Microsoft Copilot ou un Gemini, mais l'outil construit par-dessus est à code source ouvert. Je ne pense donc pas que le fait que nous ne lancions pas de projet « GML Canada » ou « GML US » (ce qui n'arrivera pas, du moins aux États-Unis) signifie que le gouvernement fédéral proposera une solution de rechange aux entreprises privées. C'est tout simplement voué à l'échec sur le plan politique, mais cela ne signifie pas pour autant que nous ne pourrions pas, en plus de cela, développer des outils à code source ouvert à de fins publiques que nous partageons.

Revenons donc à GrantWell, cet outil dédié aux subventions. Il s'agissait là encore d'un outil fondé sur un grand modèle de langage commercial, mais il a été conçu pour, par et avec le secteur public d'un État, dans le cadre d'un processus centré sur la personne, auquel ont participé des centaines de rédacteurs et de rédactrices de demandes de subventions et d'activités communautaires lors de la conception de ces outils. Ces outils sont gratuits et, je le répète, sont actuellement distribués à d'autres États.

Il ne s'agit pas seulement de savoir à qui appartient le modèle sous-jacent et à qui appartient la technologie, mais aussi, encore une fois, de définir le problème que nous cherchons à résoudre, non seulement pour éviter de nous limiter au problème du VAR, mais aussi pour réfléchir, à long terme, à la manière de mesurer l'efficacité de l'outil.

Et c'est ce qui est le plus important. On parle beaucoup des données qui sont utilisées pour développer ces choses. En ce qui concerne le secteur public, ce dont nous devons nous soucier, c'est le résultat. L'outil permet-il de bien prédire la sepsie? Est-ce que ça permet de bien évaluer le patient dont l'état va… peu importe le terme médical pour « se dégrader », bref, qui ne va pas bien aller à l'hôpital? Il existe un terme médical pour désigner la récidive, mais ce n'est pas celui-là. Je ne me souviens plus du mot qui désigne le fait d'être à risque à l'hôpital. Que signifie « rédiger une demande de subvention efficace »?

Il s'agit d'un processus continu qui nécessite que nous poursuivions ces échanges publics et ouverts. Bon, désolée, ma réponse était un peu trop longue pour une question où; il n'y a pas qu'une seule façon de faire. Je ne pense pas que cela se résume simplement à : « En tant que gouvernement, nous devons nous lancer et créer notre propre modèle. »

Nous essayons de trouver un équilibre entre des enjeux contradictoires, notamment le soutien à un secteur privé en plein essor et la croissance de l'emploi qui en découle, tout en réfléchissant aux outils que nous mettons en place, à la manière de les développer, ainsi qu'à une gestion et une gouvernance plus publiques de ces outils, au moins pour la couche supérieure, même si la couche sous-jacente demeure fondée sur un modèle commercial.

Vanessa Vermette : Je vais donc revenir à l'auditoire dans un instant. Préparez vos questions pour Beth. Nous avons des micros dans la salle.

Beth Simone Noveck : Commentaires, désaccords, contestations. Criez-moi dessus.

Vanessa Vermette : Ce que vous voulez. Il y a des micros des deux côtés, et des membres de notre équipe peuvent vous apporter un micro si vous préférez éviter de vous lever. Mais avant de passer aux questions du public, j'aimerais vous interroger plus précisément sur cet exemple de consultation publique. Et je voulais demander comment utiliser cet outil à cette fin, de façon à garantir que les voix les plus fortes ne soient pas uniquement celles des citoyen·nes ou des organisations disposant des robots les plus performants pour intervenir dans le processus. Comment pouvons-nous nous assurer de prendre en considération toutes les opinions dans un esprit véritablement démocratique?

Beth Simone Noveck : On peut dire que, comme l'IA réduit le coût de l'analyse de la mobilisation du public, elle nous permet de multiplier les initiatives de ce type; car, idéalement, ce que l'on souhaite faire… le problème jusqu'à présent, c'est que la mobilisation du public coûtait cher en argent, en temps et en efforts, sans compter elle donnait souvent de mauvais résultats.

Voyez, par exemple, le système des assemblées générales. Je ne sais pas si vous avez suivi l'actualité aux États-Unis, et il y a aussi des assemblées générales ici), mais le Parti républicain a décrété un moratoire sur ces assemblées, car ses politicien·nes se faisaient tellement huer lors de ces événements que la direction du parti a déclaré : « Nous ne voulons plus que vous y participiez, parce qu'elles ne se passent pas très bien. » Je ne pense pas que les démocrates aient fait quoi que ce soit de semblable. Ce n'est d'ailleurs pas une pratique courante chez l'un ou l'autre parti, tout simplement parce que cela coûte extrêmement cher, au sens propre comme au sens figuré.

Donc, en résumé, si nous parvenons à réduire les coûts et à rendre les actions de mobilisation du public plus simples et plus efficaces, nous pourrons en organiser davantage. Ce qui signifie que l'on peut associer un échantillon représentatif, le principe d'un jury citoyen, d'un « mini-public » ou d'une assemblée délibérante; en d'autres termes, l'un de ces échantillons représentatifs constitués par tirage au sort présente l'avantage de garantir que toutes les voix sont incluses. Et encore une fois, le tirage au sort, si je me fonde uniquement sur des critères démographiques, ce n'est qu'une façon parmi d'autres de procéder; je peux ensuite combiner cela avec… disons que la question porte sur la santé, auquel cas la représentation d'un point de vue démographique m'importe peu. Je veux m'assurer d'entendre le point de vue des médecins, du personnel infirmier, des professionnel·les de santé, des patient·es, et de toutes les autres personnes concernées.

Je peux aussi aller choisir les candidat·es moi-même, mais je peux aussi opter pour une sélection spontanée, ce qui présente également des avantages. Vous écoutez des personnes passionnées, des personnes qui ont quelque chose à dire, qui sont engagées pour la cause. Je ne pourrai me permettre de faire ces trois choses que si j'arrive à réduire les coûts. Ce qui est passionnant, c'est que lorsque cela deviendra moins cher, je pourrai alors envisager la mobilisation du public non pas comme une activité ponctuelle, mais comme quelque chose que je pratique régulièrement.

Vanessa Vermette : C'est super. Je vois que nous avons une question qui est prête ici. Je vous en prie, allez-y.

Lindsay McRae : Merci. Je m'appelle Lindsay McRae et je vous remercie infiniment d'être ici. Donc, j'ai une question en trois parties.

Beth Simone Noveck : Si vous le souhaitez, dites-nous qui vous êtes. Alors, pour quelle partie du gouvernement travaillez-vous?

Lindsay McRae : Je travaille pour l'École de la fonction publique du Canada. C'est mon premier jour.

Beth Simone Noveck : Oh, super, bienvenue!

Lindsay McRae : Merci. Oui, c'est ma patronne.

Beth Simone Noveck : Oh oh, vous avez déjà le poste, vous n'avez plus besoin de poser de questions maintenant.

Lindsay McRae : Je suis curieuse. Vous avez donc longuement évoqué l'utilisation de l'IA et les différentes façons dont elle a eu une incidence positive dans de nombreux pays. La première partie de ma première question est donc la suivante : « Comment trouver un équilibre entre l'utilisation de l'IA au sein du gouvernement et le risque que les fonctionnaires deviennent de plus en plus dépendant·es de ces outils? »

Et dans la foulée, nous avons également évoqué le fait que bon nombre de ces outils appartiennent à des entreprises privées, à moins que l'on ne crée ou que l'on réinvente la roue, mais là encore, le code de base pourrait tout de même être similaire. Ma deuxième question est donc : « Comme bon nombre de ces systèmes appartiennent à des entreprises privées, comment concilier les aspects liés à la protection de la vie privée, à la sécurité et à l'efficacité? » Et ma troisième et dernière question (désolée) est la suivante : les citoyen·nes ont-ils alors le droit de savoir quand l'IA est utilisée? Merci.

Vanessa Vermette : Vous pouvez choisir de répondre à une partie de cette question, ou à une combinaison de plusieurs parties de cette question.

Beth Simone Noveck : Je vais donner une très mauvaise réponse aux trois questions. Donc, remontons dans le temps. Lorsque nous avons élaboré notre première génération de politiques en matière d'IA, le New Jersey a été le premier État à se doter d'une telle politique, tandis que Boston a été la première ville à le faire. Bien sûr, la politique de première génération stipulait qu'il fallait signaler l'utilisation de l'IA. L'American Bar Association (j'y pense en ce moment; le sujet a été abordé la semaine dernière) a adopté une politique stipulant que les avocat·es doivent divulguer lorsqu'ils ont recours à l'IA.

La politique de deuxième génération ne l'exige pas. Pourquoi? Parce que le monde a évolué et que l'IA est désormais présente partout et dans tout. Et comment est-ce que j'envisage de fixer cette limite? Et vous savez, quand vous vous mettez à rédiger un courriel, le logiciel complète vos phrases à votre place, ce qui est parfois utile, parfois peu utile.

Pour déterminer où; se situent ces limites, je pense que c'est clairement lorsque l'IA intervient dans la prise de décision… c'est d'ailleurs pour cette raison que le Canada a mis en place une politique relative à l'inventaire des algorithmes d'IA. Pourquoi tant de pays partagent-ils cette vision selon laquelle l'utilisation d'un algorithme, c'est-à-dire le recours à l'IA pour prendre une décision, exige absolument une obligation de divulgation?

Mais l'utilisation de l'IA, c'est une question plus difficile à contrôler. Parce qu'encore une fois, Microsoft Word, Google Docs, Gmail, peu importe, tous ces programmes de base sont aujourd'hui soit utiles, soit peu utiles. Quand j'achète des bananes, le système me suggère désormais de ne pas acheter de liquide vaisselle, ce qui montre qu'il utilise l'IA de manière peu utile. Et je me suis dit : « Non, j'avais vraiment envie de bananes, merci. » En fait, l'IA est présente en coulisses depuis longtemps, donc je pense qu'il s'agit ici d'envisager l'IA dans le cadre de la prise de décision.

Numéro 2, propriété, protection de la vie privée, sécurité, efficacité. L'éducation est essentielle ici, car elle nous aide d'abord à comprendre que, dans bien des cas, nous renonçons contractuellement à la protection de la vie privée. C'est le fait d'acheter une IA qui nous donne le droit, par exemple, de refuser que celle-ci soit utilisée comme données d'entraînement. Et c'est pour cette raison que les gouvernements négocient ces contrats.

Mais il y a deux choses à retenir ici. D'une part, si vous allez dans les paramètres, même ceux des outils gratuits, vous pouvez cliquer sur un bouton qui vous permet de renforcer la protection de votre vie privée. Nous savons que c'est un phénomène qui touche l'ensemble de nos technologies. Ce n'est pas propre à l'IA : nous bradons déjà nos données et notre vie privée un peu partout. Et j'aimerais que nous, en tant que gouvernement, nous montrions plus fermes devant ces entreprises et que nous leur disions : « Écoutez, nous n'allons pas payer pour protéger notre vie privée. Vous devez protéger notre vie privée. »

Je suis inquiète au sujet de… voici venue la partie où; je vais dire quelque chose. Vous allez couper ce passage dans la vidéo, parce que je vais faire une déclaration qui ne vous plaira pas : je déplore que, la semaine dernière, lors de la réunion des responsables de l'IA des États aux États-Unis, Sam Altman ait été invité comme conférencier principal.

Nous devrions, en tant qu'États (c'était là le sens de « IA des États », je n'étais pas là, c'est pourquoi je peux le critiquer [rires]), en tant qu'États, nous devrions nous unir pour formuler des revendications à l'égard de ces entreprises. Et elles gagnent beaucoup d'argent, notamment aux dépens des contribuables, et nous devrions leur dire : « Non, la protection de la vie privée doit être au cœur de vos activités. » Et cela ne se limite pas à l'utilisation par le gouvernement. Cela devrait faire partie de notre réflexion publique sur ces questions. C'est l'argent des contribuables qui a permis de créer les données ouvertes qui servent à entraîner ces systèmes.

À l'époque où; je travaillais au sein du gouvernement fédéral, Google a pris l'initiative en déclarant : « Nous hébergerons l'ensemble des données relatives aux brevets. » Nous avons dit : « Oh, c'est vraiment très généreux de votre part. Merci beaucoup. » Nous ne nous en rendions pas compte à l'époque, et je suis contente que nous l'ayons fait, car cela nous a permis de rendre toutes les données relatives aux brevets accessibles à tous, ce que nous, en tant que gouvernement, n'aurions pas pu faire, car cela aurait fait planter tous nos serveurs et paralysé l'administration. Mais si l'entreprise s'est portée volontaire pour le faire, c'est parce que cela lui a permis d'obtenir des données d'entraînement pour développer leurs modèles de traduction. À l'époque, nous ne nous rendions pas compte que nous étions en train de poser les bases de l'IA générative.

Une dernière chose à propos de la dépendance… désolée, je me suis un peu étendue sur le sujet, mais c'est une bonne question. L'une des choses sur lesquelles je travaille actuellement, c'est… nous avons quelques titulaires d'une bourse spécialisés en IA qui sont est en train de développer, dans le cadre d'une des formations que nous lançons, un outil de coaching. Un outil fondé sur l'IA qui vous coache dans votre réflexion sur la manière dont vous menez des actions de mobilisation du public. Pour ne citer qu'un exemple, cela pourrait concerner les transports en commun, les soins de santé, ou tout autre domaine. L'IA n'est pas programmée pour vous dire quoi faire. Elle est programmée pour vous poser des questions afin que vous trouviez vous-même les réponses.

Mais c'est vraiment difficile, et c'est un choix de conception, de dire « je veux utiliser l'IA pour m'aider à avoir davantage de capacité d'agir. » Ce sera le défi de notre vie, non seulement pour le gouvernement, mais aussi pour nos enfants. Dans le cadre de l'éducation des élèves, et nous nous demandons comment utiliser l'IA pour qu'elle nous pose des questions plutôt que de nous donner des réponses? Elle est très, très douée pour cela, mais il faut lui donner les instructions nécessaires pour qu'elle le fasse. Alors, quelle est notre conception de l'apprentissage? Comment l'École de la fonction publique du Canada repense-t-elle la formation dans le secteur public d'une manière qui utilise l'IA comme un coach plutôt que comme une béquille? Telle est la question. Nous allons donc lancer toute une série de formations consacrées à l'IA et à la mobilisation des travailleurs et des travailleuses. Quelle conversation souhaitons-nous avoir avec nos propres effectifs au sujet de l'IA, alors que ce problème nous préoccupe; que nous craignons de perdre notre emploi et d'être mis·es à pied; et que nous nous interrogeons sur ce que cela veut dire pour notre autonomie? C'est une conversation que nous devons avoir et qui nous amènera à prendre des décisions délibérées. L'IA ne fait rien toute seule. Elle fait ce qu'on lui demande de faire, donc il faut lui donner les bonnes instructions.

Vanessa Vermette : D'accord, je vous en prie, allez-y.

Membre de l'auditoire : Bonjour, merci beaucoup. Et merci beaucoup pour cette présentation et pour le travail que vous faites. C'est très apprécié.

Il semble que l'IA démocratique exige que les personnes investies du pouvoir de décision adhèrent aux valeurs démocratiques, les respectent comme il se doit, et les mettent en œuvre de manière appropriée. Nous savons que les responsables de l'approvisionnement, qui font l'objet de pressions de la part des groupes d'intérêt, s'expriment : il existe de nombreuses incitations économiques, mais peu de garde-fous sont actuellement en place. Et nous savons que les décisions sont prises par des personnes pour diverses raisons. Elles peuvent être d'ordre politique, elles peuvent être philosophiques, elles peuvent reposer sur des éléments probants, mais il s'agit là de motivations différentes.

Donc, sur ce point précis, en tant que fonctionnaires, nous ne décidons pas dans le cadre de quels programmes cela se fait, nous ne nous chargeons pas de l'approvisionnement, et nous ne déterminons pas non plus, à bien des égards, les meilleurs scénarios d'utilisation. Comment les institutions peuvent-elles mettre en place un cadre, des mesures d'accompagnement ou des garde-fous pour s'assurer que les décideurs et décideuses ainsi que les leaders font les bons choix sur le plan éthique, tout en veillant à… comme dans le cas du problème du VAR… Ne pas résoudre les problèmes que nous n'avons pas? Parce qu'au sommet, la vision des problèmes auxquels nous faisons face diffère grandement de celle d'un·e fonctionnaire ordinaire. Alors, quels cadres pouvons-nous utiliser? Merci.

Beth Simone Noveck : Oui. Hum. Donc, je pense qu'il y a de grands… je ne veux pas paraître trop naïve ou excessivement optimiste. Il y a aussi des cas de corruption inacceptables dans le domaine de l'approvisionnement, notamment du genre : « Mon beau-frère a un produit que je voudrais que vous achetiez ». Cela a toujours été un problème, toujours. Le domaine de l'IA n'est pas le seul touché. Il y aura de mauvaises décisions qui seront prises, parce que c'est le beau-frère de quelqu'un, ou je ne sais quoi. Vous savez, nous sommes…

[01:15:02 Un avion à réaction de l'ARC rugit dans le ciel.]

Beth Simone Noveck : Wouh!

Membre de l'auditoire : Nous allons avoir une nouvelle gouverneure générale aujourd'hui.

Vanessa Vermette : Oui, en effet.

Beth Simone Noveck : Ah, c'est donc de cela qu'il s'agit. D'accord, tant que c'est une bonne chose.

Vanessa Vermette : Célébration. Célébration.

Beth Simone Noveck : Un survol… quoique cela ait pu être… de célébration.

Je repense à il y a quelques semaines, quand Kristi Noem a été mise à pied. C'est après s'être rendu compte ou avoir découvert qu'ils avaient dépensé… combien? Certains se souviennent peut-être du montant, une somme très, très importante consacrée au tournage de vidéos la montrant à cheval, réalisées par une société sélectionnée dans le cadre d'une procédure sans appel d'offres qui n'avait en réalité jamais tourné de vidéo auparavant. Cette affaire ne fera pas l'objet d'une enquête pour l'instant, et vous n'en entendrez pas parler. Mais bon, il y avait manifestement une sorte de malversation qui se tramait là-bas, ou du moins c'est ce qu'il semblait.

Mais je pense que ce qui est passionnant, c'est tout d'abord qu'il existe désormais de nombreux exemples intéressants de personnes qui utilisent l'IA dans le domaine de l'approvisionnement pour rendre le processus plus efficace et plus transparent, et ainsi gagner du temps pour se poser les questions les plus difficiles. Donc, encore une fois, mis à part cela, il faut avant tout avoir la volonté de bien faire les choses. Mais lorsque je parviens à gagner du temps, comme le font actuellement des administrations telles que celles de l'Utah, de Washington D.C. et de Boston, avec des résultats réellement mesurables et d'excellents chiffres en matière d'efficacité (Boston mène actuellement une étude avec Harvard pour évaluer le temps gagné sur son approvisionnement rien que sur les aspects routiniers et la partie [inaudible], notamment la partie administrative), j'espère que cela permettra de consacrer davantage de temps à la refonte du fonctionnement de ce processus.

Et cela nous ramène non seulement à la manière dont nous pouvons mener nos activités actuelles plus efficacement, mais aussi à la manière dont nous pouvons mieux les mener, afin de consacrer du temps à nous poser la question suivante : « Quel est le problème que nous cherchons à résoudre? » Cet outil permet-il réellement de résoudre le problème? Est-ce que nous définissons les bons paramètres pour garantir l'efficacité, plutôt que de nous contenter d'une évaluation fondée uniquement sur les coûts? Nous pouvons pardonner bien des manquements à cette règle à une époque où; nous avions tant de paperasse à remplir.

Je suis donc optimiste, je pense qu'il existe de meilleures façons de bien faire les choses et que nous pourrons alors commencer à nous dire : « Bon, assurons-nous que l'une des questions que nous nous posons soit : est-ce que cela fonctionne? »

Nous sommes sur le point de lancer une nouvelle formation en collaboration avec un groupe appelé Partners for Public Good, une entreprise dérivée de Harvard spécialisée dans l'approvisionnement. Cette formation porte plus précisément sur la manière d'utiliser l'IA pour améliorer l'approvisionnement et renforcer les valeurs inhérentes à ce processus, en permettant de gagner du temps sur certaines tâches routinières. Il y a une deuxième initiative que nous mettrons en œuvre plus tard dans l'année, qui portera sur « ce que nous achetons » et, plus précisément, sur la manière de mesurer l'efficacité de l'IA.

Mais que ce soit pour acheter un crayon ou tout autre produit, nous souhaitons rendre ces procédures à la fois plus compétitives, plus inclusives et plus efficaces pour le contribuable. Et l'espoir est que, une fois encore, l'IA nous permette de repenser notre façon de travailler.

Vanessa Vermette : Merci pour votre question. Je vois que Melanie est déjà au microphone, puis je viendrai ici, et cela fera probablement… d'accord, il y a trois personnes qui dans la file, et je pense que cela nous amènera à…

Beth Simone Noveck : Est-ce que je devrais leur demander à toutes les trois, et ensuite je…

Vanessa Vermette : Oui, pourquoi pas. Si vous pouviez poser des questions courtes, et nous pourrons répondre à toutes.

Beth Simone Noveck : Je vais essayer de donner des réponses plus courtes, désolée.

Vanessa Vermette : Oui, en fait, c'est peut-être vous le problème.

Beth Simone Noveck : Je suis le problème.

Vanessa Vermette : Je vous en prie, allez-y.

Melanie : Bonjour, je m'appelle Melanie. Je suis membre de la direction ici à l'École, mais j'ai auparavant travaillé dans le domaine du gouvernement ouvert. Nous avons travaillé ensemble il y a 10 ans, si je me souviens bien. Je suis vraiment ravi de vous revoir.

Question : en tant que membre du corps professoral, quelles compétences devons-nous acquérir dès maintenant pour nos nouveaux et nouvelles membres du personnel, et comment pouvons-nous concrètement les former? Tout comme la lecture, l'écriture et la synthèse revêtaient autrefois une grande importance, elles peuvent désormais bénéficier d'une aide. Alors, sur quoi mettons-nous l'accent en matière d'IA?

Vanessa Vermette : Donc, j'ai une question concernant les compétences et les domaines sur lesquels axer la formation.

Beth Simone Noveck : Vous êtes prête à répondre à votre propre question? Je suppose que vous avez une bonne réponse, sans doute même une meilleure.

Membre de l'auditoire : Oui. Est-ce que je peux monter un peu le volume sans faire mal aux oreilles de quelqu'un? Je voulais juste revenir sur ce dont vous parliez à propos de la conférence avec Sam Altman. Et vous avez mentionné que vous pensiez qu'il était important de le convaincre, lui et les personnes qui partagent son point de vue, que la protection de la vie privée peut être intégrée dès la conception de l'IA afin de tous et toutes nous protéger. Je me demande simplement : dans quelle mesure est-ce possible sans le soutien du gouvernement fédéral? Parce que j'imagine qu'aux États-Unis, vous pourriez être confrontés à ce problème, et ce qui se passe là-bas pourrait avoir une influence et des répercussions sur ce qui se passe ici. Merci.

Vanessa Vermette : D'accord, super. Merci. Et maintenant, une dernière question, là-bas au fond.

Erin : Bonjour, je m'appelle Erin. Bonjour. En fait, j'appuie vraiment cette dernière question, donc si on manque de temps et qu'il faut en sauter une, vous pouvez sauter la mienne, car je me rends compte que ma question pourrait servir de transition, mais j'espérais simplement que vous puissiez partager vos réflexions ou vos préoccupations , en choisissant par exemple votre principale préoccupation sur le fait que l'IA mène désormais des guerres, au lieu que des troupes soient… ce n'est pas qu'il n'y a pas de troupes sur le terrain, mais je veux dire que l'IA participe désormais à des guerres… et comment la défense de notre souveraineté, de nos droits et de notre démocratie s'inscrit dans ce contexte; simplement, vos réflexions et vos sentiments à ce sujet. Donc, c'est un peu une transition, je comprends.

Vanessa Vermette : Oui. Merci. D'accord, on va vous caser là aussi. Oui, continuez à parler, je prendrai le relais.

Membre de l'auditoire : Tout d'abord, merci beaucoup. J'en suis actuellement à ma quatrième année d'étude à l'Université de la Colombie-Britannique, et je dirais que je me situe à la croisée de deux générations différentes en ce qui concerne l'utilisation de l'IA. Il y a donc un aspect auquel nous avons davantage été confrontés, à savoir que l'IA a déjà été développée, et que nous essayons d'en reprendre les rênes, contrairement à la jeune génération qui arrive à l'université (je le constate vraiment parmi mes pairs), ce qui nous ramène à la question de la dépendance à l'égard de l'IA et le recours à celle-ci.

L'une de mes préoccupations concerne donc cette dépendance excessive, au point que nous ne sommes même plus capables de reconnaître certaines utilisations de l'IA, ni de reconnaître le caractère inefficace ou la mauvaise qualité des résultats qu'elle diffuse auprès du public. Et cela entraîne donc des erreurs qui génèrent des coûts plus élevés. Donc, je sais maintenant que si nous mettons en place ces cadres, nous pourrons essayer de reprendre les rênes afin d'éviter, à l'avenir, cette dépendance totale par rapport à l'IA. Mais si l'on adopte une approche pessimiste, se pourrait-il que nous soyons déjà à court de temps, compte tenu de l'ampleur de la mise en œuvre de l'IA? Donc oui, c'est ma question. Merci.

Vanessa Vermette : Oui. Donc, on pourrait peut-être commencer par là, pour finir sur une note positive.

Beth Simone Noveck : Selon vous, quel élément de cette liste est positif? Pas celui sur la guerre.

Vanessa Vermette : Pas celui sur la guerre. Et surtout pas celui qui dit : « Est-ce qu'il est déjà trop tard? » À moins que vous ne vous apprêtiez à dire qu'il n'est pas trop tard.

Beth Simone Noveck : Je promets d'être positive et de faire court. Je vais donc m'y prendre à l'envers. En ce qui concerne les universités, on voit de plus en plus souvent des étudiant·es se faire huer lors des remises de diplômes ces derniers temps, et cela m'inquiète. Je pense qu'il y a deux aspects à cela.

D'une part, nous devons fermer nos ordinateurs portatifs dans de nombreuses situations. Encore une fois, cela ne se limite pas à l'IA, mais nous devons effectuer de nombreuses actions sans recourir à la technologie pour réintroduire une dimension humaine dans notre façon de fonctionner. Mais cela m'enthousiasme énormément (et comme c'est mon domaine, je ne suis donc pas tout à fait impartiale) de voir les possibilités offertes pour amener les jeunes à utiliser l'IA au service des conséquences sociales. Et encore une fois, ce n'est pas une question d'IA, mais de conséquences sociales.

Je pense que c'est l'occasion de repenser et de réorganiser les universités afin qu'elles mettent l'accent sur les conséquences. Cela fait maintenant 20 ans que nous nous concentrons sur l'aide aux jeunes qui créent leur entreprise, et le manque d'entrepreneuriat a toujours été la caractéristique principale. Et je pense que c'est l'occasion de parler aujourd'hui d'entrepreneuriat public, de service public, les jeunes veulent lutter contre les changements climatiques, ils veulent faire le bien dans le monde. C'est ce que montrent toutes les données, et je pense qu'il est important que nos universités réfléchissent aux conséquences possibles. L'IA peut être d'une grande aide dans ce domaine. Mais pour ce qui est des éléments fondamentaux, il est temps de fermer les ordinateurs portatifs. Alors, ce n'est peut-être pas la réponse à laquelle vous vous attendiez de ma part, mais j'ai un·e adolescent·e, donc ce sujet me touche particulièrement.

Mener des guerres. Encore une fois, l'IA est un outil fondé sur les données. Il s'agit d'outils de traitement des données qui contribuent à la précision et à l'exactitude, ce qui nous permet de réduire les dommages collatéraux. C'est formidable, mais nous sommes profondément préoccupés par le fait que les humains ne soient pas seulement mis à l'écart, mais qu'ils ne jouent pas non plus un rôle de premier plan dans la manière dont nous faisons les choses. Il s'agit donc d'un sujet bien plus vaste qui porte notamment sur les risques liés aux opérations militaires, en particulier l'utilisation de l'IA dans les systèmes sans pilote à des fins de surveillance, ainsi que son utilisation dans le cadre de la conduite de la guerre; les risques sont nombreux et très importants. Je ne voudrais pas que mes propos minimisent ces dangers.

Et je suis très reconnaissante de voir que beaucoup de gens en parlent et s'intéressent à ces questions. Je ne veux tout simplement pas que l'on se concentre exclusivement là-dessus… si on ne parle que de ça, alors on ne parle pas de la manière dont on nourrit ceux qui ont faim, ni de la manière de fournir de meilleures prestations, ni de la manière dont on met tout cela en œuvre, parce que nous sommes trop obnubilés par le problème des guerres.

Vous savez, le problème de la guerre n'est, encore une fois, pas seulement un problème d'IA. Le fait que des leaders se lancent dans des guerres malavisées et infructueuses, qui mettent en danger la vie des gens, est un phénomène très ancien. Donc, d'une certaine manière, je préférerais que ce soient des robots qui mènent ces guerres plutôt que des êtres humains qui y perdent la vie. Voilà donc une réponse médiocre à une question vraiment, vraiment difficile.

La lecture et l'écriture, et la manière dont nous repensons notre façon de faire les choses. Eh bien, je me demanderais si, collectivement, nous pensons que c'est une répétition de ce à quoi nous avons été confrontés lors de l'introduction de la calculatrice, quand nous avons eu beaucoup de ces mêmes débats, du genre : « Est-ce qu'on allait perdre la capacité d'additionner? » La calculatrice va-t-elle nous rendre incapables de compter? Quand nous aurons mis en place le logiciel de traitement de texte, est-ce que nous deviendrons incapables d'écrire?

Nous avons des logiciels de traitement de texte, et pourtant, nous continuons à écrire des romans. Est-ce que cela représente une différence qualitative parce que, oui, Amazon regorge-t-il désormais de livres fondés sur du contenu dégénératif, qui n'ont pas été relus par un humain? Cela va-t-il signifier la fin de la poésie et de la littérature telles que nous les connaissons? J'espère que non, et je pense que l'on assiste actuellement à un regain d'intérêt marqué pour ces sujets, mais je pense que la situation va empirer avant de s'améliorer, et que nous devrons réfléchir à la manière dont nous allons continuer à enseigner la lecture, et comment nous allons y parvenir à l'aide de ces outils.

Ce qui me réjouit, c'est que si je veux aider un·e enfant à apprendre à lire et que cet enfant aime les dinosaures, je peux désormais lui donner un livre sur les dinosaures. Et ensuite, je peux créer un livre (l'enfant aime les licornes), je peux lui offrir un livre sur les licornes, et peut-être que cela l'aidera vraiment à mieux lire. L'une des choses que nous avons faites l'année dernière a été de consacrer beaucoup de temps à aider les décideurs et décideuses politiques à comprendre comment l'IA peut être utilisée en classe pour favoriser la littératie.

Encore une fois, si nous nous en servons à bon escient, nous nous attaquons à des problèmes comme la lecture, l'écriture et l'innumérisme, ainsi qu'à d'autres difficultés que nous avons… franchement, ce n'est pas comme si nous vivions un âge d'or que nous allions gâcher. Aux États-Unis, en tout cas, seulement 40 % des enfants ont un niveau de lecture correspondant à celui de leur année d'étude. Donc, franchement, nous ne pouvons que remonter la pente. Mais oui, je ne cherche pas à minimiser le problème. Le fait est que c'est que la question de la dépendance qui nous préoccupe.

Les États et le gouvernement fédéral, le gouvernement fédéral ne va rien faire. Ils font un peu marche arrière et disent : « D'accord, on va peut-être tester ces modèles », mais les 50 États se sont unis : nos responsables de l'IA des 50 États se réunissent… nos responsables de l'IA des 50 États toutes les 2 semaines. C'est un groupe qui a déclaré : « Nous voulons nous réunir plus souvent, pas moins souvent. » Je pense que nous pouvons et que nous allons agir collectivement, notamment à l'échelle des États et surtout en dehors des États-Unis, pour réfléchir à l'utilisation de l'IA à des fins d'intérêt général. C'est là que l'on observe une grande vague d'innovation.

Je suis vraiment ravie, et je le suis parce que ces 50 États, [en] l'absence totale du gouvernement fédéral, se sont tous engagés à mettre en œuvre un programme d'éducation.

InnovateUS ne compte pas 50, mais 60 partenaires, car nous regroupons les 50 États, y compris tous les États républicains et tous les États démocrates, ainsi que de plus en plus de villes qui nous rejoignent aujourd'hui pour affirmer : « Il est temps de mettre en place un programme consacré à l'apprentissage dans le secteur public. Le Canada le fait, alors nous aussi, nous pouvons le faire. »

Donc, je garde espoir.

Vanessa Vermette : Merci, Beth. Je pense que c'est le moment idéal pour en rester là. Pour conclure, je vais vous citer : « L'IA fait ce qu'on lui demande de faire, donc il faut lui donner les bonnes instructions. » Veuillez vous joindre à moi pour remercier Beth Noveck. Merci, Beth. Et merci, merci à vous tous et toutes d'être avec nous aujourd'hui, ainsi qu'à notre audience en ligne. Beth, avez-vous un mot de la fin avant de conclure?

Beth Simone Noveck : Profitez du soleil.

Vanessa Vermette : Oui, il fait vraiment beau dehors.

Beth Simone Noveck : Merci d'être venus, je suis très reconnaissante, et parlez-en autour de vous.

Et oui, une dernière chose : nous publions chaque semaine des actualités sur la démocratie, la gouvernance et l'IA. Si vous menez une initiative intéressante au sein de votre organisme ou de votre ministère, n'hésitez pas à m'envoyer un courriel pour m'en informer. Si vous épelez mon nom de famille, le message me parviendra. Noveck au GovLab, Noveck à InnovateUS, Noveck à Northeastern, et ainsi de suite.

Faites-le-nous savoir, car tout ce que nous faisons repose sur l'apprentissage entre pairs. Nous ne facturons rien à nos apprenant·es, mais nous rémunérons les membres de notre corps professoral. Vous travaillez au sein du gouvernement, donc vous ne pouvez probablement pas être rémunérés, mais s'il y a une belle histoire à partager, nous en organisons beaucoup et nous serions ravis de les partager au-delà des frontières, pas seulement au Canada. C'est pourquoi nous avons des apprenant·es dans 80 pays et que je m'apprête à lancer Innovate Bhutan, car les gens viennent tout simplement pour enseigner et apprendre les uns des autres.

Donc, tout cela pour dire : s'il vous plaît, venez échanger avec nous, et même si nous ne pouvons pas vous rémunérer, nous vous réserverons un accueil extrêmement chaleureux. Et nous avons un auditoire reconnaissant et avide d'apprendre, alors n'hésitez pas à venir nous rendre visite. Merci.

Vanessa Vermette : Génial. Merci.

[01:30:42 Le logo animé de l'EFPC s'affiche à l'écran. Texte à l'écran : canada.ca/school-ecole.]

[01:30:47 Le mot-symbole du gouvernement du Canada s'affiche à l'écran.]