Discussion informelle dans le cadre de la Conférence sur les données du GC 2026 : S'orienter dans la souveraineté, l'intendance et la confiance en matière d'IA et de données (DDN3-V16)

Transcription : Discussion informelle dans le cadre de la Conférence sur les données du GC 2026 : S'orienter dans la souveraineté, l'intendance et la confiance en matière d'IA et de données

[00:00:00 Le logo animé de l'EFPC apparaît à l'écran. Texte à l'écran : Bienvenue.]

[00:00:07 Page de titre, texte à l'écran : 10 Ans, Conférence sur les données du GC 2026, S'orienter dans l'univers des données au Canada.]

[00:00:19 Vanessa Vermette apparaît, s'exprimant depuis un pupitre sur la scène.

Texte à l'écran : Vanessa Vermette, Vice-presidente, École de la fonction publique du Canada.]

Vanessa Vermette : J'aimerais maintenant accueillir sur scène nos conférenciers pour notre séance d'ouverture. Nous avons le plaisir d'accueillir Taki Sarantakis, président de l'École de la fonction publique du Canada, Nick Frosst, cofondateur de Cohere,

[00:00:35 Les panélistes montent sur scène au moment de leur présentation et prennent place sur les chaises disposées sur scène. Un grand écran est visible au-dessus de ces personnes, affichant leurs noms et leurs photos.]

Vanessa Vermette : Bailey Kacsmar, professeure adjointe en informatique à l'Université de l'Alberta et membre de l'Alberta Machine Intelligence Institute, ainsi qu'Abdi Aidid, professeur adjoint à la Faculté de droit de l'Université de Toronto. Pendant que nos panélistes s'installent sur scène, voici quelques éléments marquants de leurs biographies.

[00:00:50 Vanessa Vermette s'exprime depuis le pupitre sur la scène. La caméra montre de brèves vues des panélistes sur scène au fur et à mesure que chaque présentateur est présenté].

Vanessa Vermette : Tout d'abord, voici Nick Frosst. Avant de fonder Cohere avec Aidan Gomez et Ivan Zhang, Nick a collaboré avec Geoffrey Hinton, devenant le premier employé du professeur Hinton au laboratoire torontois de Google Brain. Eh oui, Nick est aussi le chanteur principal du groupe indie pop rock Good Kid. J'espère que Taki lui posera des questions à ce sujet.

Ensuite, nous accueillons Bailey, qui nous rejoint depuis d'Edmonton. Elle est chercheuse à l'Alberta Machine Intelligence Institute, et ses travaux portent sur l'intersection de la protection de la vie privée, de la confiance humaine et de la perception du public. Elle vise à développer des technologies favorisant la protection des renseignements personnels centrées sur l'humain, en étudiant en parallèle les solutions techniques en matière de confidentialité et d'apprentissage automatique, ainsi que les perceptions, préoccupations et la compréhension qu'en ont les utilisateurs.

Et enfin, nous accueillons Abdi Aidid, une voix de premier plan dans l'évolution des relations entre le droit et les technologies émergentes. Parmi ses nombreuses réalisations, il est titulaire d'une Chaire de recherche du Canada en intelligence artificielle et accès à la justice, et il est coauteur de Legal Singularity, un ouvrage portant sur le potentiel transformateur de l'IA dans le domaine juridique. Abdi est également le premier à occuper ici, à l'École, le poste de chercheur invité dans le cadre de l'Initiative de chercheurs invités Ian D. Shugart.

Je vous invite à vous joindre à moi pour souhaiter la bienvenue à Taki, Nick, Bailey et Abdi.

[00:01:57 Le public applaudit. Vanessa Vermette quitte la scène. La caméra alterne entre différents angles tout au long de la discussion, notamment des gros plans sur les panélistes lors de leurs discours, ainsi que des vues larges des personnes sur scène au fil des échanges.]

[00:02:11 Texte superposé à l'écran : Taki Sarantakis, Président, École de la fonction publique du Canada.]

Taki Sarantakis : Merci beaucoup, Vanessa. Nick, je ne vais pas vous poser de questions sur ce dont Vanessa a parlé, mais je suis sûr que vous êtes vraiment, vraiment doué. Ceci dit, vous êtes aussi vraiment, vraiment doué pour plein d'autres choses dont on va discuter au cours des prochaines minutes.

Comme Vanessa l'a mentionné, il s'agit de la 10e conférence sur les données du gouvernement du Canada. La première, je crois, avait rassemblé quelques centaines de personnes. Au cours des dernières années, on a rencontré entre 10 000 et 11 000 personnes, ce qui montre bien à quel point cette question a gagné en importance au cours de la dernière décennie. Et aujourd'hui, nous avons entre 6 000 et 7 000 personnes qui participent virtuellement, en plus de celles présentes dans la salle.

Alors, Nick, pour commencer : Pourquoi on parle de ce sujet? Pourquoi les données sont-elles importantes? Pourquoi l'IA est-elle importante, et pourquoi le monde semble-t-il changer si rapidement sous nos pieds?

[00:03:23 Texte superposé à l'écran : Nick Frosst, Co-fondateur, Cohere.]

Nick Frosst : Pourquoi les données sont-elles importantes? La réponse à cette question semble aller de soi. Je me souviens, la première fois que j'ai entendu dire que les politiques fondées sur des données probantes étaient devenues un mot tendance. Ma mère a travaillé un certain temps au gouvernement et, à un moment donné, elle m'a dit : « Oh, tout le monde est enthousiaste à propos de la prise de décision fondée sur des données probantes ».

Taki Sarantakis : Par opposition à une prise de décision fondée sur les biais.

Nick Frosst : Mais qu'est-ce qu'on faisait avant, bon sang?

Taki Sarantakis : Oui, exactement.

Nick Frosst : Oui, donc ça m'a quand même assez surpris. Je pense que lorsque vous avez lancé cela il y a 10 ans, qu'est-ce qui se passait? L'IA se développait, on construisait des réseaux neuronaux. Je travaillais sur des réseaux neuronaux qui, fondamentalement, sont encore les mêmes que ceux utilisés aujourd'hui, mais ce n'était pas aussi accessible. Il y avait quand même cette prise de conscience : « Hé, on devrait prendre des décisions en collectant beaucoup de données, puis en les analysant, et ensuite en déterminant ce qui est optimal à partir de cela ».

Oui, ça semble être une très bonne idée. Et indépendamment de l'apprentissage automatique, des transformateurs, des modèles de langage — de l'IA moderne en général — il reste encore énormément de travail à faire dans ce domaine. On dirait — et je ne travaille pas au gouvernement, donc je ne peux pas l'affirmer — mais on dirait que l'élaboration de politiques fondées sur des données probantes est encore un peu un mot tendance. Ce n'est pas encore la norme.

Taki Sarantakis : Vous n'avez pas tort, c'est un peu la réalité.

Nick Frosst : Bon, j'essaie d'être gentil.

Taki Sarantakis : Alors, Bailey, si cela semble aller de soi et que, comme Nick l'a dit, c'est en quelque sorte intrinsèquement positif, pourquoi certaines personnes d'entre nous sont-elles un peu mal à l'aise? Pourquoi on s'inquiète de certains aspects de ce monde nouveau qui évolue rapidement?

[00:05:14 Texte superposé à l'écran : Professeure adjoints, Université de l'Alberta et boursière de l'AMMI.]

Bailey Kacsmar : Alors, une des premières choses qui me vient à l'esprit, c'est que lorsqu'on parle de données — surtout celles et ceux d'entre nous qui sommes technologues ou qui rédigeons des documents juridiques — on les traite comme un concept abstrait. Mais en réalité, la plupart des données qui entrent dans ces systèmes et qui sont utilisées pour prendre des décisions sont des renseignements concernant des personnes. Et cela signifie qu'il existe une connexion directe, mais aussi des conséquences à la manière dont on utilise, ou dont on peut mal utiliser, ces renseignements pour tout ce qu'on construit à partir d'eux.

Et donc, l'un des principaux facteurs qui alimente cela, c'est que les gens ne comprennent pas comment ces données les concernent, ce qu'elles impactent dans leur vie quotidienne, et comment ces renseignements les concernant ont été collectés. Il y a donc toute une complexité qui est difficile à saisir ou à encadrer, parce qu'on ne devrait pas avoir besoin d'être spécialiste dans ce domaine pour comprendre comment cela nous affecte.

Mais la réalité, c'est que toutes les communications qui sont faites sur ces sujets supposent un certain niveau d'expertise, ou bien qu'il faut simplement faire confiance à ce que dit des spécialistes. Mais les spécialistes ne sont pas toujours d'accord. Et donc, les gens se retrouvent à nouveau à se dire : « Je ne sais pas quoi faire », et « Pourquoi est-ce que vous collectez ces renseignements sur moi? », malgré le fait que les données soient une composante intrinsèque de notre société — et ce n'est même pas quelque chose de nouveau.

Je ne sais pas depuis combien de temps nous avons un recensement, mais je pense que cela remonte assez loin. C'est simplement qu'aujourd'hui, nos données sont largement numériques, ce qui signifie aussi que la manière dont elles circulent a complètement changé. On ne peut plus simplement prendre un document physique et le verrouiller. Il peut voyager sur Internet à travers le monde entier. Et donc, on ne peut plus visualiser les contraintes qui s'appliquent à cette information, même si elle a été collectée à votre sujet par quelqu'un en qui vous avez confiance.

Taki Sarantakis : C'est vraiment intéressant qu'il y ait une certaine méfiance envers l'État, parce que même avant l'État — dans les villages, les villes, les cours royales — une grande partie de leur fonctionnement reposait sur les données : des registres. Qui vit ici? Qui ne vit pas ici? Qui possède des biens? Qui n'en possède pas?

Historiquement, l'État a été une machine à données, et il a aussi été le dépositaire d'un type de données que nous appelons la vérité. C'est comme : j'ai cette petite propriété dans la ville d'Ottawa, avec telle et telle coordonnée, et si quelqu'un à la Ville d'Ottawa ne détenait pas ces données et n'en attestait pas officiellement la propriété, je ne pourrais pas posséder ce bien.

Maintenant, Abdi, parle-nous un peu de… je veux rester un peu sur la notion de peur, parce que je pense qu'on va aborder les deux aspects, mais j'aimerais que vous nous parliez de la peur liée aux données. Et je vais vous lancer avec ceci : Je pense que, comme Bailey l'a un peu dit, on ne parle pas seulement de données. Parce que si on parle de l'endroit où; je vis, où; je travaille, de mon rythme cardiaque, de mon taux de cholestérol, de la personne avec qui je suis marié, de mes enfants, il me semble qu'on ne parle plus de données — on parle de moi.

[00:08:42 Texte superposé à l'écran : Abdi Aidid, Professeur adjointe, Faculté de droit et chercheur invite, U de T, École de la fonction publique du Canada.]

Abdi Aidid : Je pense que Bailey a raison lorsqu'elle dit que nous parlons des données comme d'une chose désincarnée, alors qu'en réalité, il s'agit de qui nous sommes. Et en fait, les données deviennent d'autant plus problématiques qu'elles en révèlent davantage sur nous. Et je pense que cela rejoint aussi le défi central de l'IA, parce qu'autrefois, il fallait me suivre physiquement pour savoir ce que je faisais au cours d'une journée. Aujourd'hui, on peut synthétiser un ensemble de choses.

Taki Sarantakis : Et d'ailleurs, pour information, le gouvernement vous suivait effectivement constamment.

Abdi Aidid : J'ai eu cette impression aujourd'hui en entrant dans le bâtiment. Mais je pense que c'est un point essentiel : en partie grâce à notre capacité remarquable en science des données et à la puissance de calcul, nous sommes capables non seulement d'ingérer davantage d'informations sur les personnes, mais aussi de faire des prédictions à partir d'informations qui, prises isolément, semblent anodines. Alors, réfléchissez. Vous allez m'entendre répéter que le droit n'est pas suffisant à plusieurs reprises, mais voici en quoi il ne l'est pas.

Le droit prend en compte les information privées, les renseignements personnels — ou une donnée — qui révèle quelque chose sur vous. Mais que se passe-t-il avec ceci? Avec l'arrivée des « mégadonnées », nous pouvons prendre plusieurs éléments d'information anodins vous concernant, les synthétiser, puis en tirer une conclusion intrusive sur vous.

Taki Sarantakis : c'est-à-dire que vous êtes enceinte.

Abdi Aidid : Oui, peut-être, oui.

Taki Sarantakis : c'est-à-dire que vous avez du diabète.

Abdi Aidid : Exactement.

Taki Sarantakis : c'est-à-dire que vous avez des problèmes cardiaques.

Abdi Aidid : Et donc, votre intérêt juridique à protéger la confidentialité de ces renseignements ne s'applique à aucune des composantes individuelles de ce calcul, alors que le résultat final révèle peut-être davantage sur vous que n'importe quel renseignement personnel que vous cherchiez déjà à protéger. C'est donc ce que la technologie permet aujourd'hui.

Vous m'avez entendu dire que nos réponses juridiques et réglementaires sont insuffisantes face à ce problème, mais il y a aussi un autre aspect : les gens n'arrivent pas vraiment à imaginer que cela se produise en permanence. Ils ne savent pas vraiment contre quoi ils doivent se prémunir. Je sais que si je veux dissimuler des renseignements concernant ma famille, je vais tirer les rideaux pour que vous ne voyiez pas ce qui se passe chez moi.

Mais comment me protéger contre un calcul avancé qui fait des prédictions à mon sujet? Est-ce que je ne vais pas simplement continuer à adopter toute une série de comportements anodins? C'est là une partie du défi. Ce n'est pas seulement le fait que les données soient utilisées pour produire des renseignements sur vous, mais aussi que les moyens traditionnels de s'en protéger sont devenus abstraits et moins accessibles.

Taki Sarantakis : Oui. Maintenant, je suis assis ici avec trois personnes extrêmement accomplies, trois génies, et moi je suis un peu le « simplet de service » sur ce panel. Mais voici ma grande contribution à cette discussion : Un Américain meurt et arrive à l'endroit où; l'on passe avant d'aller vers le haut ou vers le bas. Quelqu'un examine sa vie et dit : « Félicitations, M. Smith, vous pouvez aller au paradis. Vous pouvez monter ». M. Smith est ravi. Ensuite, une Européene meurt et subit le même processus. On regarde et on lui dit : « Félicitations, Madame Labelle, vous pouvez aller au paradis ». Et elle est soulagée. Une personne canadienne meurt et se rend au même endroit. On fait le bilan de sa vie et, heureusement, cette personne va rejoindre au paradis, mais elle n'est pas heureuse. Elle est outrée et demande : « Comment avez-vous obtenu mes informations? Qui vous a parlé de moi? » Nous avons parmi les taux les plus élevés de — disons — méfiance envers la technologie, les systèmes d'IA et les registres dans l'OCDE.

Qui veut commencer là-dessus? Parce que c'est empiriquement vrai. Sondage après sondage après sondage montre que le public canadien fait beaucoup moins confiance à ces choses que ses homologues ailleurs dans le monde.

Nick Frosst : On se méfie de quoi? De la technologie en tant que concept?

Taki Sarantakis : Oui.

Nick Frosst : On se méfie des organisations qui utilisent cette technologie, ou tout simplement de l'ensemble de cette technologie elle-même?

Taki Sarantakis : Oui, oui.

Nick Frosst : C'est intéressant. Le Canada a une histoire intéressante. Beaucoup de gens ici ont de bonnes raisons de se méfier du gouvernement, je dirais. Il n'est donc pas surprenant que cette histoire ait fini par constituer une mémoire culturelle.

J'espère que les Canadiens et les Canadiennes pourront faire la distinction entre une méfiance envers une technologie et une méfiance envers une organisation qui utilise cette technologie. Je pense qu'aujourd'hui, surtout avec l'évolution rapide des technologies, il est très difficile de dissocier ces deux choses. Il est difficile de dire : « D'accord, voici une technologie sur laquelle j'ai une souveraineté, que je contrôle », ou bien : « Voici une technologie qui m'est imposée et que je n'ai pas vraiment le choix d'utiliser ». Je ne sais pas ce qu'il faudrait changer pour obtenir cette délimitation.

Taki Sarantakis : Il le sait. Abdi le sait.

Nick Frosst : Je vois ici beaucoup de technologues. Il y a beaucoup de gens qui veulent faire avancer la science, qui veulent faire avancer la technologie, de sorte que cette méfiance, au moins, n'aboutit pas à un rejet pur et simple.

Taki Sarantakis : Oui. Vous avez donc bien cerné la distinction entre les personnes qui travaillent sur le projet et qui se disent « continuons, continuons à avancer, améliorons, optimisons ». Et les gens de l'autre côté de la chose disent : « Je ne suis pas au courant de cette chose ».

Abdi Aidid : Je pense que le niveau élevé de méfiance n'est peut-être pas nécessairement dû à une méfiance à l'égard des organisations qui développent l'IA, ou à une défiance à l'égard du gouvernement. Je pense que c'est lié au fait que les gens ne savent pas ce qu'ils feraient si quelque chose n'allait pas. Je pense donc que nous sommes fondamentalement insensibles aux technologies auxquelles nous faisons confiance.

La plupart des gens ne savent probablement pas comment fonctionne leur voiture, mais ils savent qu'ils peuvent appeler un service de mécanique automobile pour la réparer. La plupart des gens seraient surpris d'apprendre que la plupart des fonctions de sa voiture sont en fait des lignes de code, et que lorsque vous appuyez sur la pédale de frein, la roue n'est plus nécessairement bloquée. Ce n'est pas ce qui ralentit votre voiture. Quelle Surprise!

Mais cela ne vous inquiète pas, parce que vous savez que vous avez quelqu'un à appeler si quelque chose tourne mal. On monte dans des avions en sachant qu'il y a un pilote dans le cockpit, qu'il existe une ligne d'assistance à appeler en cas de problème avec son billet, et que Transport Canada vérifie la sécurité, jusqu'aux moindres boulons. Donc, on comprend qu'on évolue dans un écosystème encadré, et que si quelque chose tourne mal, on dispose de recours.

Je pense qu'une partie du défi aujourd'hui, c'est que nous avons tellement de curiosité à propos de la technologie qui sous-tend l'IA. Tout le monde veut regarder sous le capot, qu'on ait les compétences techniques ou non. Et cela tient en partie, je pense, au fait que c'est un peu tout ce que nous avons pour l'instant dans le monde de l'IA. S'il existait des règles habilitantes, des règles contraignantes, quelque chose qui ressemble à des mécanismes de recours lorsque des problèmes surviennent — et cela n'a pas nécessairement besoin d'être un recours juridique — je ne parle pas d'un droit d'action en justice si quelque chose tourne mal dans une jeune entreprise d'IA. Je parle plutôt d'une institution capable d'accompagner et de médiatiser l'expérience des gens avec la technologie. Je pense qu'on verrait probablement des niveaux de confiance plus élevés. Je dirais aussi que le faible niveau d'adoption au Canada — les statistiques peuvent parfois être trompeuses — mais le Canada se classe dernier en matière d'adoption.

Taki Sarantakis : Vous savez, 28,794 % de toutes les statistiques sont inventées sur le moment.

Abdi Aidid : Inventé, oui. En voici une qui n'est pas inventée. Le Canada se classe dernier parmi les pays de l'OCDE et du G7 en matière d'adoption de l'IA au niveau des entreprises, et cela est probablement davantage…

Taki Sarantakis : Nous sommes aux alentours de 12 %.

Abdi Aidid : 12 %. C'est probablement plus dû au fait qu'on a beaucoup d'industries traditionnelles, disons les vieilles industries, les ressources extractives, les télécommunications, les imprimeurs d'argent, où; il n'y a pas d'incitation significative à vraiment changer. Il se peut qu'elles aient deux révolutions technologiques de retard sur certains systèmes parce que tous les fonds supplémentaires consacrés à la R&D vont à l'amélioration de la technologie d'extraction.

Je pense que cela tient en partie au fait que l'adoption de l'IA ne se fait pas sur mesure. Les stratégies d'adoption ne sont pas adaptées au marché canadien.

Taki Sarantakis : Absolument. Alors, Bailey, l'un des domaines que vous étudiez dans ce contexte est la technologie, l'IA et la vie privée, ce qui est particulièrement pertinent pour cette discussion, car il me semble que ce qu'Abdi évoquait concernait en partie la vie privée, et en partie les règles.

Zuckerberg — M. Zuckerberg — a dit quelque chose de célèbre, ou d'infâme, il y a longtemps. Il a répondu : « Vie privée? Qui se soucie de la vie privée? C'est comme, passez à autre chose. Personne n'a vraiment de vie privée. Et si vous revendiquez de la vie privée, qu'avez-vous à cacher? » Je paraphrase, mais parlez-nous un peu de ce grand décalage entre, peut-être, les prestataires et les utilisateurs.

Bailey Kacsmar : Puisque vous avez commencé par Facebook/Meta, je vous signale que leur système a besoin que les gens partagent des renseignements. Alors, bien sûr, vous allez vouloir invoquer l'argument du "rien à cacher", mais c'est une erreur absolue de partir de là. C'est une simplification excessive de la vie privée que de la réduire à une seule idée, celle qu'il s'agirait simplement de cacher des choses.

Si vous commencez à penser à la protection des renseignements personnels en tant que concept réel et dans votre réalité, tout le monde dans cette salle a une définition intuitive de la confidentialité. Elles ne sont pas toutes identiques, car la protection de la vie privée est aussi incroyablement complexe. Elle dépend de la vie de chaque individu et comporte donc de nombreuses composantes individuelles et culturelles.

En réalité, la vie privée ne consiste pas à se cacher, mais à exister dans une sphère publique tout en restant soi-même. S'il n'y a pas de société, s'il n'y a pas d'interactions, nous n'avons pas besoin de cette notion de vie privée. C'est très, très humain et très, très social. Il s'agit de savoir ce qui convient ou non à différentes personnes.

Par exemple, vous dites certaines choses aux membres de votre famille que vous ne dites peut-être pas à votre gestionnaire. Ou bien vous dites des choses à vos amis, et vous ne les dites pas à votre nièce ou à votre neveu. Tous ces éléments constituent une forme de protection des renseignements personnels à un niveau très simple. Ainsi, lorsque les gens voient ces grandes entreprises technologiques s'emparer de toutes leurs renseignements ou dissimuler toutes les façons dont elles les collectent, il peut devenir très, très difficile de les contrôler.

Et donc, si vous pensez simplement à votre vie quotidienne : vous avez ouvert votre site bancaire parce que vous vouliez payer une facture, puis vous avez dû venir ici à temps avant que tout ne commence. Vous devez cliquer sur certains boutons. « Est-ce que j'accepte ces témoins, oui ou non? » Vous vous dites : « Je ne sais pas, est-ce que ça change vraiment quelque chose? » Et comme vous êtes pressé, vous cliquez simplement sur l'option la plus rapide pour faire disparaître cette fenêtre agaçante. Mais dès que vous faites cela, vous avez techniquement consenti — pas vraiment dans les faits, mais c'est ainsi que nous le modélisons — à ce que ces données soient collectées par cette entreprise, puis utilisées de différentes façons, telles qu'elles sont décrites dans leur immense document juridique illisible sur la vie privée.

Donc, quand j'entends des gens dire des choses comme « je n'ai rien à cacher » ou « les gens ne se soucient pas de la vie privée », je reviens toujours à cette question : avez-vous passé ne serait-ce que quelques heures à voir combien de temps et d'efforts il faut, dans nos systèmes techniques actuels, pour avoir un véritable contrôle actif sur le moment où; vous envoyez — ou non — des informations à quelqu'un?

Et donc, cette question de confiance devient vraiment centrale, comme cela a été souligné. Et une partie de cela tient à des comparaisons comme celles entre l'Europe et les États-Unis. L'Europe a des lois de protection des données beaucoup plus strictes. Les États-Unis, c'est un peu : « non, on va gérer les données de santé et celles des enfants, et le reste, ça devrait aller ». On se retrouve donc avec des extrêmes complets, et puis il y a la version canadienne, où; nous avons des lois sur la protection des renseignements personnels, mais aussi des technologies émergentes — et nos lois actuelles en matière de protection de la vie privée n'ont pas été mises à jour depuis un certain temps. Les gens ne savent pas vraiment ce que cela signifie dans un monde numérique. Ce n'est pas comme une voiture, où; l'on sait qu'elles ne sont pas toutes construites de la même manière, mais qu'elles doivent toutes respecter un certain standard de sécurité en cas d'accident.

Alors que se passe-t-il lorsque les systèmes technologiques tombent en panne? Dans certains contextes, il devrait exister des normes sur ce qui constitue un mode d'échec acceptable. Quelles sont les exigences de ces systèmes? Si nous cherchons à instaurer la confiance, nous devons être conscients des domaines dans lesquels nous déployons ces systèmes. Les données qui y sont collectées, celles qui sont renvoyées, et tout le reste — de la même manière que nous l'avons fait pour tant d'autres choses.

Taki Sarantakis : Maintenant, Nick, il me semble que si j'écoute vos deux collègues à votre gauche, il me semble que vous pouvez faire valoir un argument solide pour que vos données soient vos données. Et, Bailey, vous devez être propriétaire de vos données. Et Abdi, vous données devraient vous appartenir en propre. Est-ce que c'est la bonne manière de voir les choses : que mes données sont mes données, et que vous ne devriez pas pouvoir les utiliser sans mon consentement… ou pas?

Nick Frosst : C'est évidemment la bonne façon de voir les choses.

Taki Sarantakis : Vraiment?

Nick Frosst : Oui.

Taki Sarantakis : C'est absolument la bonne façon de voir les choses?

Nick Frosst : Oui. Je veux dire, bien sûr, il y a des moments où; il est préférable de mutualiser les données. Il y a des moments où; nous, en tant que personnes, décidons qu'il est préférable de prendre des données, de les agréger et de les rendre accessibles d'une certaine manière. Comme les gens qui publient des choses sur Internet, ou qui hébergent des sites web que n'importe qui peut consulter. Il y a des décisions que les gens prennent lorsqu'ils disent : voici les données, voici ce que je souhaite rendre public.

Taki Sarantakis : D'accord.

Nick Frosst : Mais c'est à vous de prendre cette décision. Dans un hôpital, par exemple, les données relatives à la santé sont les plus importantes, parmi les plus élevées, les plus importantes et les plus personnelles que nous possédons. Et pourtant, de nombreuses avancées scientifiques qui ont eu lieu — et qui restent encore à venir — sont le résultat de l'agrégation de données.

Donc, il y a clairement des moments où; nous voulons faire cela. Mais je pense qu'il est assez clair qu'il est souhaitable que les gens en soient conscients et qu'ils aient davantage d'autonomie dans le processus.

Taki Sarantakis : Comment se fait-il qu'il n'en soit pas ainsi?

Nick Frosst : Pourquoi est-ce que ce n'est pas le cas? Parce qu'il existe de grandes entités à but lucratif dont l'objectif est de…

Taki Sarantakis : Oh, c'est intéressant.

Abdi Aidid : Il y a un autre problème, qui est que la notion de propriété est une mauvaise analogie.

Nick Frosst : D'accord.

Abdi Aidid : Donc, mon iPhone est dans ma poche. Pour les gens de l'audiovisuel, il est dans la poche où; il n'y a pas le boîtier du micro. C'est pour ça que vous n'entendez pas de retour en ce moment. Donc, mon iPhone est dans ma poche. Comment savoir si mon iPhone m'appartient? Comment savez-vous que mon iPhone m'appartient? Vous voyez? Comment savoir que mon iPhone m'appartient? Eh bien, peut-être que mon nom figure sur un reçu quelque part quand je l'ai acheté à l'Apple Store, mais la principale façon dont vous savez qu'il est à moi, c'est que je l'ai, et que vous ne l'avez pas.

Taki Sarantakis : Ainsi, vous avez physiquement quelque chose.

Abdi Aidid : Il y a un droit d'exclure. C'est comme un bien non fongible, dans ce même sens. Il y a un droit d'exclure.

Taki Sarantakis : Si vous l'avez, je ne peux pas, et vice versa.

Abdi Aidid : Ce qui n'est pas vrai pour les données, parce que si je vous envoie un courriel contenant mes renseignements personnels, maintenant vous les avez, et moi je les ai encore, et toute personne à qui vous transférez ce message les a aussi. La propriété n'est donc pas le bon cadre. Je sais que, comme fonctionnaires, certains d'entre vous envoient un courriel de rappel et pensent avoir récupéré les renseignement. Mais en réalité, une fois que c'est parti. C'est parti.

Taki Sarantakis : Cela rend les gens encore plus curieux.

Abdi Aidid : Oui, oui.

Taki Sarantakis : Lorsque vous recevez un message de rappel...

Abdi Aidid : Quel était le premier message?

Taki Sarantakis : ... courir vers ce message.

Abdi Aidid : Oui, les avocats, nous faisons une chose au bas de notre signature de courriel.

Taki Sarantakis : Il s'agit de 8 pages. Oui. Si vous l'obtenez par accident, veuillez nous le renvoyer.

Abdi Aidid : Exactement. C'est très long. Et là encore, c'est un mensonge. C'est vraiment un mensonge.

Et donc, je pense qu'une raison pour laquelle nous avons des difficultés en ce moment, et que nous avançons un peu à tâtons dans tout cela, c'est que la notion de propriété est un concept qui s'adapte mal à la manière dont nous devrions penser les données.

Taki Sarantakis : Alors, quel est le mot juste, si ce n'est pas la propriété?

Abdi Aidid : C'est quelque chose de plus proche de ce que disait Bailey, à savoir une notion plus dynamique du contrôle. De l'autonomie. Et l'autre problème avec la notion de propriété, c'est qu'elle est en quelque sorte — je ne sais pas comment le dire — une idée assez neutre sur le plan moral.

Par exemple, on dit souvent : « soyez propriétaires de vos données ». Mais si la vie privée est une vertu, une valeur, quelque chose que nous voulons parce que nous souhaitons que les gens participent pleinement à la vie sociale, alors si on leur donne la propriété, on peut aussi dire qu'on peut les vendre à qui on veut, y compris au plus offrant. Vous créez alors un marché secondaire où;, si j'ai besoin d'argent, pourquoi ne pas vendre mes données?

Taki Sarantakis : Et là, on crée un marché secondaire où;, si j'ai besoin d'argent, pourquoi ne vendrais-je pas mes données?

Nick Frosst : La protection de la vie privée, je pense que dans cette discussion — et dans la manière dont on la cadre ici — on la présente comme quelque chose que les individus veulent, et pas comme quelque chose que les organisations veulent, et ce n'est pas du tout la réalité.

Taki Sarantakis : C'est parce que je suis le simplet de service sur ce panel.

Nick Frosst : Oui. Chez Cohere, nous construisons des modèles, nous les remettons à notre clientèle, et ensuite notre clientèle — ces entreprises — voit ce qui entre et sort de ce modèle, de cette IA, et nous, nous ne le voyons pas. Et c'est une énorme valeur ajoutée pour nous. Nous travaillons avec des entreprises qui ont des exigences très élevées en matière de confidentialité et de sécurité, parce qu'elles évoluent dans des secteurs réglementés, comme la santé, ou parce qu'elles y voient simplement un avantage stratégique. Et nous leur donnons l'IA que nous construisons, puis nous ne voyons pas ce qui entre et sort. Elles peuvent la garder complètement sécurisée et confidentielle. Elles peuvent l'exécuter sans connexion à Internet. Elles peuvent même la faire fonctionner dans l'Arctique si elles le veulent.

Taki Sarantakis : Excellent.

Nick Frosst : Et ça, c'est une valeur importante. Il y a beaucoup d'entreprises qui souhaitent faire cela pour elles-mêmes et pour leur clientèle. Donc, je ne pense pas qu'on ait besoin de le formuler ainsi.

Taki Sarantakis : Ce que je comprends de ce que vous dites, c'est qu'il existe d'autres modèles que celui financé par la publicité, où; tout est ouvert et accessible à tout le monde. Il y aurait plutôt un modèle par abonnement ou par paiement, dans lequel on ne fait pas un compromis entre la protection de la vie privée, les données et la sécurité. Les choses sont contrôlées de la manière dont on veut les contrôler, en tant que détenteur des données. Est-ce que c'est bien ça?

Nick Frosst : Absolument.

Taki Sarantakis : Bien. Un dernier mot sur la protection de la vie privée?

Bailey Kacsmar : En guise de conclusion, même s'il est positif d'avoir des organisations qui fournissent ces services en étant attentives à la protection des renseignements personnels et à l'impact des données qu'elles collectent, transmettent ou auxquelles elles ont accès, on ne peut pas compter sur la bienveillance de toutes les entreprises — sinon, nous n'aurions pas vraiment besoin de réglementation. Deuxièmement, on prend le risque de voir des entreprises à but lucratif définir elles-mêmes les règles concernant ce qui est ou n'est pas accessible en matière de protection ou de transparence sur les flux de données.

On se dirige alors vers un modèle de type « payer pour la vie privée », ce qui n'est pas nécessairement une direction souhaitable, même si on peut reconnaître que cela peut être positif d'avoir ces options. Cela crée néanmoins une forme de division : qui peut se permettre de payer pour participer à des systèmes plus protégés ou plus respectueux de la vie privée?

Abdi Aidid : <inaudible> effectuera le travail de développer des processus et des procédures internes de conformité, parce que la perte de données représente un enjeu majeur pour Cohere. Ce qui m'inquiète davantage, ce sont les petites opérations un peu bricolées qui, malgré tout, arrivent à obtenir des quantités importantes de vos données. Et donc, si on s'en remet entièrement à elles, on crée un risque supplémentaire. Je ne m'inquiète pas pour Nick, je m'inquiète pour les imitateurs.

Taki Sarantakis : Oui, « Bob's Corner AI ». Alors, passons maintenant à un concept dont on parlait très peu au Canada auparavant, mais qu'on ne peut plus éviter aujourd'hui : la souveraineté. Souveraineté.

Parlons donc un peu — d'abord — de souveraineté des données. Nous aborderons aussi la souveraineté informatique, ainsi que d'autres formes de souveraineté. Mais est-ce que quelqu'un parmi vous a une définition de la souveraineté qu'il aimerait partager avec les personnes qui nous regardent? Je vois que vous avez un petit sourire malicieux, Bailey, alors commençons par vous.

Bailey Kacsmar : Non, je pense que je vais plutôt passer la parole à notre spécialiste en terminologie. Désolée, mais c'est juste que vous devez rédiger des textes formels en permanence, vu votre expertise.

Abdi Aidid : Oui… je suis un peu à court pour celle-là. Je peux vous dire qu'on utilise ce terme de tellement de façons différentes.

Taki Sarantakis : Donnez-nous une façon dont les gens conçoivent la souveraineté, ou comment vous la concevez, par exemple.

Abdi Aidid : Oui, lorsqu'on parle de souveraineté dans le contexte des données, on parle souvent d'un contrôle juridictionnel exclusif sur les données, ce qui signifie—

Taki Sarantakis : Donc, la juridiction est un élément, je pense que c'est une bonne façon—

Abdi Aidid : Donc, l'un des éléments — et cela rejoint ce que je disais plus tôt — c'est que les données sont de nature fongible : elles peuvent circuler partout dans le monde sans jamais diminuer. Cela rend très difficile, pour un cadre juridique national, de les encadrer et de leur imposer des règles. En partie parce que, si vous êtes une entreprise canadienne, par exemple, vous pouvez faire transiter vos données par de nombreux endroits différents. Cela limite la portée territoriale du Canada, tout en créant des points d'ancrage juridictionnels dans tous les autres pays où; ces données passent.

Ainsi, si vous êtes un acteur malveillant, vous pouvez vous livrer à de l'arbitrage réglementaire, jouer avec les règles et chercher l'endroit où; les protections — par exemple en matière de vie privée — sont les plus faibles. Donc, une des raisons pour lesquelles on pourrait vouloir la souveraineté des données…

Taki Sarantakis : Les entreprises ne font jamais cela. Jamais. Elles ne s'incorporent jamais au Delaware ou en Irlande.

Abdi Aidid : Oui, oui, oui. Je laisse passer ce point. Je laisse passer celui-là. Mais l'idée ici, c'est d'avoir davantage de contrôle au niveau national, et, de manière connexe, d'être en mesure de capter les retombées économiques—

Taki Sarantakis : Le contrôle, encore un autre mot.

Abdi Aidid : — et de capter davantage de cette valeur économique. Si vous entendez le premier ministre parler de souveraineté des données, c'est aussi une stratégie de croissance économique. C'est l'idée de rapatrier l'information afin de soutenir une industrie nationale — des technologues aux centres de données, en passant par les techniciens, les mécaniciens, les travailleurs de la construction, et bien d'autres.

Taki Sarantakis : Alors, Nick, j'aimerais me tourner vers vous sur ce point, parce que vous êtes chez Cohere et que vous êtes un de ses cofondateurs. Et on entend beaucoup de gens — notamment aux plus hauts niveaux — parler de Cohere comme de notre espoir en matière de souveraineté, comme de notre chance de jouer dans cette cour.

J'ai lu quelques interviews que vous avez données au fil des années dans différents contextes, et vous ainsi que d'autres chez Cohere avez toujours bien précisé : nous sommes des personnes canadiennes. Nous pourrions aller ailleurs, mais nous avons choisi de rester ici. Nous avons choisi d'être Canadiens et Canadiennes. Et cela est devenu pertinent pour les acteurs gouvernementaux, qui se disent : « Hé, nous avons une entreprise comme celle-ci ici, qui peut nous aider en matière de souveraineté. » Parlez-nous-en un peu.

Nick Frosst : Oui. Oui, il y a beaucoup à dire là-dedans. Permettez-moi de commencer par esquisser un peu le paysage actuel de l'IA. Quand on parle d'IA aujourd'hui, on parle surtout de modèles de langage. On parle des agents conversationnels que nous utilisons, et de tout ce qui alimente l'usage du langage sur les ordinateurs. Ces modèles sont ce qu'on appelle des modèles de fondation. Il y a environ une dizaine d'entreprises dans le monde capables de les créer. Dix, peut-être onze, peut-être neuf — ça fluctue — mais cela tourne autour de dix depuis environ trois ans. Et il y a quatre pays dans le monde capables de développer cette technologie : la Chine, les États-Unis, le Canada — avec Cohere ici — et la France.

Taki Sarantakis : Et il y a un écart énorme entre les premiers et les autres.

Nick Frosst : Chacune de ces entreprises — parmi ces dix — est devenue assez importante. Mais oui, certaines sont bien plus grandes que d'autres. Mais c'est tout : il n'y a qu'une dizaine d'entreprises dans le monde qui développent cette technologie.

La raison, c'est que c'est extrêmement difficile à construire, très coûteux en capital, et que cela nécessite énormément de données, de puissance de calcul et de talents. C'est simplement la situation dans laquelle nous nous retrouvons aujourd'hui. Ce n'est pas celle que nous pensions atteindre au départ, mais c'est ainsi que la technologie a évolué.

Nous sommes restés au Canada parce que nous sommes de ce pays, et parce que j'ai grandi à Ottawa. Ivan a grandi à Toronto. Nous n'avons jamais...

Taki Sarantakis : Lui aussi. Vous êtes-vous rencontrés quand vous étiez enfants?

Nick Frosst : Nous nous connaissons depuis longtemps. Oui. Donc, envisager de partir comme une décision stratégique est une idée un peu étrange pour nous. Nous sommes canadiens. C'est ici que… nous sommes. Nous sommes maintenant une entreprise mondiale. Nous avons des bureaux partout dans le monde. Mais ici, ce sont nos racines, et c'est ici que nous voulons bâtir notre entreprise.

Je pense que nous sommes une entreprise d'IA souveraine. Et je pense que le mot « souveraineté » résonne aujourd'hui à plusieurs niveaux. En tant que nation, nous réfléchissons beaucoup à la souveraineté. Et honnêtement, quand les gens parlent de souveraineté, je remplace souvent ce mot par « autonomie » ou « capacité d'agir ». Cela revient simplement à se demander : êtes-vous en contrôle de ce qui vous arrive? On y pense beaucoup à l'échelle nationale.

Dans le marché actuel, les entreprises y pensent aussi énormément : est-ce que mon entreprise contrôle ce qui lui arrive? Et, en tant qu'individus, nous y pensons aussi : est-ce que je contrôle ce qui m'arrive? En particulier dans nos vies numériques. La souveraineté personnelle, le sentiment d'autonomie individuelle, n'est pas quelque chose que l'on retrouve beaucoup aujourd'hui dans nos vies numériques.

Donc, lorsque nous réfléchissons à la manière de construire l'IA, à la façon de la fournir à nos clientèles et aux utilisateurs, nous nous posons toujours la question suivante : est-ce que cette technologie est mise entre les mains de quelqu'un qui en garde le contrôle, qui peut décider de son usage, et qui peut le faire de manière privée, sécurisée et sûre — en assurant toutes les conditions nécessaires pour qu'elle soit réellement utile? Et parmi les dix entreprises qui existent dans ce domaine, nous sommes réellement les seuls à avoir cela comme priorité.

Taki Sarantakis : Oui.

Nick Frosst : Donc, oui, il est très encourageant de voir le Canada et le reste du monde se dire : « réfléchissons-y ». C'est aussi très motivant de se demander : avons-nous de l'autonomie? Et est-ce que l'IA peut nous l'apporter à toutes les échelles?

Taki Sarantakis : Oui. Amy, vous travaillez dans l'un des plus grands instituts de l'IA du monde.

Bailey Kacsmar : Bailey.

Taki Sarantakis : Oh, excusez-moi, Bailey, vous êtes dans l'un des plus grands instituts d'intelligence artificielle du monde, l'AMMI. Est-ce que vous parlez de souveraineté? Est-ce que vous dites parfois : « ceci est important pour le public canadien », ou « ceci est important pour le public américain », ou pour les populations européennes, et ainsi de suite? Ou est-ce que vous parlez surtout des capacités, en restant plutôt agnostiques sur le pays d'utilisation ou de déploiement?

Bailey Kacsmar : Eh bien, d'une part, AMMI est l'un des trois instituts pancanadiens d'IA, et chacun d'eux, y compris AMMI, couvre énormément de sujets. Il y a donc des personnes qui travaillent à la fois sur ce que signifie l'IA pour le Canada, sur la manière de tirer parti de l'expertise et des infrastructures que nous avons ici pour en faire bénéficier au mieux la population canadienne, et aussi tout un éventail de chercheurs qui travaillent simplement à faire progresser l'IA de façon générale vers de nouveaux horizons.

En ce qui concerne la souveraineté, je ne parlerai pas au nom de toute l'organisation. Je fais partie, disons, d'un groupe d'environ 50 membres actuellement, sans compter les chercheurs et le reste de l'équipe. Mais nous abordons ce sujet en grande partie parce qu'il y a eu une prise de conscience, avec le déploiement massif de tous ces grands modèles de langage, que nous interagissons avec des systèmes techniques opérés par des organisations entièrement en dehors de notre contrôle, de notre pays et de notre administration.

C'est vrai, et ça rejoint une nuance importante : ce n'est pas un problème entièrement nouveau. Dans les faits, la plupart des gens utilisent déjà des systèmes fournis par des entreprises comme Google, Microsoft ou Apple, qui ne sont pas basées au Canada. Elles ont des installations ici parce qu'elles doivent respecter certaines obligations locales, mais elles ont aussi des installations à l'échelle américaine et mondiale. Ce n'est pas un problème nouveau en soi; c'est simplement qu'il s'agit maintenant d'une technologie différente qui fait l'objet de l'attention, notamment pour déterminer si elle est ou non sous contrôle canadien, quelles lois s'appliquent et toutes les complications liées aux limites entre les administrations.

Et donc, dans mon domaine de recherche, l'un des aspects sur lesquels nous nous concentrons sur comment garantir que des acteurs non autorisés ne puissent pas accéder à certaines données. Est-il possible de continuer à fonctionner dans l'infrastructure actuelle, tout en évitant que les données soient sous une forme telle qu'une personne non autorisée — ou un acteur malveillant — puisse contraindre une entreprise à y donner accès?

Il s'agit d'un domaine de recherche actif et en constante évolution, notamment autour de la question suivante : peut-on effectuer des calculs sur des données chiffrées pour certains services? Peut-on assurer une protection significative de la confidentialité des données d'entraînement ou des données de requête dans les systèmes d'IA? Et dans quelle mesure cela est-il fondamentalement impossible? Nous n'avons pas encore de réponses à l'ensemble de ces questions. Ainsi, lorsque nous utilisons l'IA ou toute autre technologie dans un domaine où; ces questions demeurent sans réponse, il arrive que la réponse soit simplement qu'il faut attendre.

Il faut déterminer à quel moment et dans quels contextes il est approprié de les déployer afin de tirer le meilleur parti de ces technologies, sans pour autant les utiliser dans des situations où; elles ne sont pas encore prêtes.

Taki Sarantakis : Maintenant, Abdi, je veux reprendre quelque chose que Nick a évoqué, le prolonger un peu, puis vous poser une question. Nick a essentiellement dit qu'il n'y a que quatre pays au monde capables de faire cela. Il y a environ 200 pays dans le monde, selon la manière dont on les compte à un moment donné. Donc, est-ce que cela signifie que, si on se projette un peu dans le futur, 196 pays dans le monde ne seront pas souverains, ou vont perdre en souveraineté parce qu'ils ne disposent pas de ces capacités souveraines? Pourriez-vous nous expliquer un peu ce que signifie être souverain dans le domaine de l'IA, et ce que cela implique de ne pas l'être?

Abdi Aidid : Oui, aujourd'hui, cela signifie que si une industrie technologique nationale dans un pays qui ne fait pas partie de ces quatre veut utiliser des outils très avancés et sophistiqués, elle devra recourir à des solutions prêtes à l'emploi provenant de l'extérieur. Cela implique aussi de faire des paris sur le fait que les lois du pays d'origine de ces entreprises sont suffisamment compatibles avec ses propres valeurs.

Ainsi, dans une logique de souveraineté, l'enjeu est de dire que si Cohere constitue notre solution d'IA canadienne, alors comment investir et soutenir Cohere, tout en s'assurant qu'elle rende des comptes au public canadien, puisqu'elle relève d'institutions canadiennes et non de chaque nouveau régime réglementaire de l'IA dans le monde.

De ce point de vue, il s'agit en réalité d'un avantage considérable pour le Canada. Et si la question, formulée de manière synthétique, est de savoir s'il est vrai que 196 pays dans le monde se trouvent aujourd'hui dans une position de désavantage important, la réponse est oui.

Taki Sarantakis : Un dernier mot sur la souveraineté avant de passer au sujet suivant?

Abdi Aidid : Il y a aussi l'aspect américain dont nous n'avons pas parlé.

Taki Sarantakis : Parlez-nous-en un peu. Apparemment, il y a ce mec. Il est nouveau et il dit des choses sur le Groenland et d'autres endroits.

Abdi Aidid : Oui, il est nouveau, mais nous le connaissons depuis toujours. Je pense qu'il est important de reconnaître la position du Canada dans le monde.

Dans l'Union européenne, ils servent en quelque sorte de modèle en matière de réglementation de la protection des données pour le reste du monde, même si le RGPD ne mentionne pas explicitement la « vie privée » : il s'agit d'un règlement sur la protection des données. Ils ont également désormais le règlement sur l'IA, qui bénéficie à bien des égards de leurs institutions de régulation de la protection des données.

Aux États-Unis, il n'existe pas de loi fédérale globale sur la protection des renseignements personnels. Il existe la HIPAA, qui est une loi sur la confidentialité des données de santé, le Quatrième amendement qui interdit les perquisitions et saisies abusives, ainsi que certaines actions en responsabilité civile de common law liées à l'atteinte à la vie privée, mais il n'existe pas de loi générale sur la protection des renseignements personnels aux États-Unis.

Taki Sarantakis : La question a été débattue à un moment donné et on a dit non, non.

Abdi Aidid : Il existe des mesures actives pour l'arrêter. Il y a actuellement plusieurs projets de loi qui circulent au Congrès, à la Chambre des représentants et au Sénat, mais ils n'ont pratiquement aucune chance d'être adoptés. En fait, le président a publié un décret visant à restreindre, de façon effective, la capacité des États à encadrer la réglementation de l'IA au niveau local. Les gens se demandent donc constamment quand les États-Unis vont réglementer l'IA. Et je réponds : probablement « le jour après jamais », parce qu'ils n'ont pas de cadre global en matière de protection de la vie privée, ni de loi véritablement structurante sur la protection des renseignements personnels à l'échelle fédérale.

Taki Sarantakis : Mais il n'y a pas non plus un réel intérêt politique à le faire, parce qu'ils veulent continuer à faire croître ces entreprises.

Abdi Aidid : Oui, et l'un des défis pour le Canada, c'est que beaucoup d'entreprises canadiennes — le Canada compte quoi, 40 millions de personnes, soit à peu près la population de la Californie et d'un de ses petits États voisins — donc, si vous êtes une entreprise canadienne, il est souvent plus rationnel de viser le marché américain.

L'un des enjeux, c'est donc de savoir si l'on adopte des normes ambitieuses, presque idéales, en matière de protection des données et de réglementation, ou si l'on met en place des règles qui permettent tout de même aux entreprises canadiennes de rester compétitives, sans créer une forme de double imposition réglementaire. Parce que les entreprises canadiennes devront de toute façon se conformer aux règles locales, mais aussi aux exigences internationales dans les marchés où; elles opèrent.

Cela crée une posture géopolitique délicate, d'autant plus complexe avec l'existence de CLOUD Act aux États-Unis. Alors, CLOUD Act ...

Taki Sarantakis : Parlez-nous un peu de cette loi, car je pense que c'est l'une des choses que la population canadienne devrait apprécier. Très peu de personnes ici comprennent réellement les dispositions de CLOUD Act dans la mesure où; elles ont une incidence sur leur vie.

Abdi Aidid : Oui, de façon très simplifiée, les données qui sont hébergées aux États-Unis ou qui transitent par les États-Unis peuvent être accessibles aux autorités fédérales américaines dans le cadre d'un processus légal. Il existe donc un intérêt particulier, si l'on considère la vie privée comme une valeur — une valeur nationale et un prolongement de la justice fondamentale — à assurer une forme de souveraineté des données, afin d'éviter ce type d'ingérence, qui peut apparaître de plus en plus arbitraire.

Taki Sarantakis : Donc, pour le dire simplement, si vos données de santé sont stockées chez Google ou Microsoft, est-ce que cela signifie que le gouvernement américain a, après un processus légal, un droit d'accès statutaire à ces données?

Abdi Aidid : Bailey sourit, parce que les données de santé font figure d'exception : c'est précisément le type de données qui ne peut pas être transféré. Les responsables de la gestion des renseignements de santé au Canada ne peuvent pas héberger des données de santé canadiennes à l'extérieur du pays.

Taki Sarantakis : C'est très bien. Je ne le savais pas.

Abdi Aidid : Ce qui vous dit comment, quand on traite les données, et quand on pense à ce qui est important...

Taki Sarantakis : Lorsqu'on décide quelque chose consciemment, on le décide consciemment plutôt que ...

Abdi Aidid : Mais je ne veux pas trop... Ce discours se transforme en un cours de droit, excusez-moi.

Taki Sarantakis : Non, mais c'est quelque chose que les gens doivent comprendre, parce qu'on entend souvent des personnes dire : « Je ne me soucie pas que ce soit AWS, Microsoft ou Google ». Vous, personnellement, vous n'y accordez peut-être pas d'importance, mais il y a des conséquences à ne pas s'en soucier.

Nick Frosst : Il est possible que la plupart des personnes n'y réfléchissent pas beaucoup, mais je peux vous dire que les entreprises, partout dans le monde, y réfléchissent de plus en plus.

Abdi Aidid : Elles ne veulent pas non plus avoir à se conformer à des assignations à produire des données qu'elles jugent arbitraires. C'est chronophage.

Nick Frosst : Donc, toutes les plus grandes entreprises situées à l'extérieur des États-Unis cherchent des moyens de se découpler, de s'appuyer sur des prestataires des services technologiques provenant de l'extérieur de l'Amérique.

Taki Sarantakis : Exactement. Maintenant, passons à notre prochaine discussion. Nous avons parlé du fait que les personnes canadiennes ont, dans une certaine mesure, un faible niveau de confiance à l'égard de ces technologies. Nous avons pourtant beaucoup fait : le Canada a eu un poids disproportionné dans la création de l'IA par rapport à sa taille. Mais nous obtenons des résultats disproportionnellement faibles, non seulement en ce qui concerne la capture des retombées économiques de l'IA et des technologies connexes, mais aussi, de manière très simple, dans l'adoption de l'IA.

Nous en avons déjà parlé, mais je pense que nous allons y revenir ici : le Canada affiche, selon Statistique Canada, le plus faible taux d'adoption de l'IA parmi les pays de l'OCDE. Et quand on considère que beaucoup de ces technologies ont été inventées ici, qu'une grande partie de leur développement a été financée indirectement par les contribuables canadiens, et que de nombreuses avancées ont été réalisées à Toronto, en Alberta et à Montréal par l'intermédiaire de différentes institutions et universités, le contraste est frappant. Vous faites partie des rares entreprises à avoir réussi à se développer à grande échelle au Canada dans ce domaine.

Parlez-nous un peu du contexte mondial, et peut-être aussi de la manière dont vous avez réussi à faire figure d'exception.

Nick Frosst : Oui, il est vrai que l'écosystème canadien, et sa contribution à la recherche, a été — la technologie a été inventée ici. Elle a été conçue ici, puis transformée, grâce à de la persévérance et de la ténacité, en quelque chose de concret. Geoff Hinton a travaillé sur ces questions pendant 20 ans, alors même que de nombreuses personnes lui disaient que c'était une mauvaise idée.

Taki Sarantakis : Exactement. Pourquoi travaillez-vous sur les réseaux de neurones? Soyons sérieux!

Nick Frosst : Oui. Et pourtant, Cohere est, je crois, l'une des plus grandes entreprises en démarrage de l'histoire du Canada. Nous sommes certainement parmi les plus importantes. Et nous ne voyons pas beaucoup d'autres acteurs autour de nous faire la même chose. Et j'espère qu'un jour ce sera le cas. J'espère qu'il existera de nombreuses jeunes entreprises canadiennes, développées localement, qui construisent des technologies utiles et innovantes.

Je pense que la raison de cette situation est relativement simple : il s'agit d'un effet de cercle vertueux lié au financement. Les gens ont fini par intégrer l'idée que, pour créer une entreprise en démarrage ou en financer une, il fallait aller dans la Silicon Valley. Cela a fait exploser ces deux dynamiques, qui se renforcent mutuellement. À cela s'ajoute une disposition, du côté public comme privé aux États-Unis, à adopter les technologies américaines dès que possible.

Ces deux éléments combinés font que le gouvernement américain intervient et investit en achetant des technologies américaines dès le départ. Et il y a aussi un très grand nombre d'investisseurs, un très grand nombre de personnes qui veulent créer des entreprises, ainsi que des programmeurs qui souhaitent y travailler. Tout cela a enclenché un cycle qui a donné naissance à ce qu'est aujourd'hui la Silicon Valley.

Je pense qu'il existe une possibilité au Canada de faire quelque chose de semblable. Mais je ne regarde pas la Silicon Valley en disant : « Le modèle de société qu'elle propose est celui que je veux. » Je pense que la plupart des gens — quand j'étais étudiant de premier cycle, j'étais un techno-optimiste. J'étais très enthousiaste à l'idée de l'avenir technologique. Je dirais que, depuis environ 15 ans, j'ai été plutôt désillusionné. Je pense que la plupart des gens détestent leur téléphone. Beaucoup des technologies issues de ce cercle vertueux ne sont plus perçues aujourd'hui comme quelque chose dont les gens sont satisfaits ou enthousiastes.

Taki Sarantakis : Ça crée une dépendance. Et provoque l'anxiété chez nos enfants. Et ainsi de suite.

Nick Frosst : Je continue d'aimer la science. Je continue d'aimer la technologie. J'aime les grands modèles de langage. Je pense que c'est une technologie magnifique, capable d'être extrêmement utile pour accomplir de nombreuses tâches que je ne veux pas faire moi-même. Et je pense qu'il est positif d'avoir ces dynamiques de cercle vertueux, à la fois pour la prospérité économique, pour la souveraineté des États et pour la souveraineté des individus.

Donc oui, nous avons besoin de ces dynamiques. Nous avons besoin de davantage d'investissement. Nous avons besoin de davantage de bâtisseurs. Mais je ne pense pas que nous devrions regarder la Silicon Valley en disant : « Oui, exactement cela. Faisons exactement la même chose ici. » Nous devons en construire notre propre version.

Taki Sarantakis : Est-il juste de dire — et je vais me tourner vers les autres dans un instant — qu'il faut une certaine forme d'obstination dans votre secteur pour ne pas aller aux États-Unis? C'est simplement beaucoup plus facile d'y obtenir du capital, plus facile d'y trouver des clients, plus facile d'y obtenir ce que vous considérez comme une valorisation plus juste ou plus précise de votre entreprise ou de vos actifs. Est-ce qu'il faut, de manière consciente, se dire : « Non, je vais rester ici malgré ceci, malgré cela, malgré un troisième facteur »?

Nick Frosst : Oui, je dirais que nos vies auraient été plus faciles.

Taki Sarantakis : Vos vies professionnelles.

Nick Frosst : Nos parcours professionnels auraient été plus simples si nous étions partis aux États-Unis il y a des années. Il aurait été plus facile d'obtenir du financement. Il aurait été plus facile de décrocher nos premiers clients. Et lorsque je dis que nous sommes l'une des plus grandes entreprises en croissance de l'histoire du Canada, il faut aussi rappeler que nous faisons partie d'une dizaine d'entreprises capables de construire des modèles de fondation. À l'échelle globale, nous ne sommes pas un acteur de premier plan.

Mais lorsque je regarde ce qu'aurait pu être cette trajectoire, oui, cela aurait été plus simple — mais cela n'aurait pas été mieux. Cela n'aurait pas correspondu à ce que nous voulions faire. L'expérience aurait été très différente, et nous serions devenus une entreprise très différente. Et, pour être franc, je n'apprécie pas la direction que prennent les entreprises là-bas.

Taki Sarantakis : Oui. Abdi, en plus de toutes vos autres responsabilités — je ne sais d'ailleurs pas quand vous dormez — vous avez également travaillé pendant une longue période chez Blue J Legal, l'une des principales entreprises mondiales spécialisées en intelligence artificielle et en droit, plus particulièrement dans le domaine de l'IA appliquée à la fiscalité. Avec vos partenaires, vous avez également mené cette démarche au Canada. Parlez-nous un peu des mêmes éléments que ceux évoqués par Nick : ce qui est plus facile, ce qui est plus difficile, et les raisons qui vous amènent à rester ou à partir.

Abdi Aidid : Oui. Auparavant j'étais vice-président d'une entreprise appelée Blue J, qui utilisait initialement l'apprentissage automatique, puis des modèles de langage, pour prédire des issues juridiques. Dans ces domaine j'ai deux rôles. Je suis d'une part juriste et professeur de droit. Dans cet univers, je suis attaché à des notions qu'on pourrait juger un peu désuètes, comme l'État de droit, la justice et la vie privée.

En tant qu'enseignant, je forme des étudiants et étudiantes à exercer la profession d'avocat, tout en espérant de les voir intégrer des milieux professionnels qui soient à la fois stimulants et financièrement viables, et dans lesquels ils peuvent s'investir pleinement.

D'autre part, je suis aussi un technologue du droit. Je continue à concevoir des modèles permettant de prédire des résultats juridiques. Et la façon dont je concilie ces deux dimensions, c'est en disant que je ne suis pas un techno-évangeliste. Je suis simplement quelqu'un qui est convaincu que ces outils peuvent être utiles dans des contextes limités et bien encadrés, en particulier pour des enjeux comme l'accès à la justice, qui constitue un axe important de mes travaux de recherche.

Ce que nous avons fait au Canada, c'est en quelque sorte occuper un espace. À mon avis, un grand nombre d'issues juridiques peuvent être prédites. Je pense qu'il y a moins de magie qu'on ne le croit dans ce que nous faisons en matière de prévision, qu'il existe un environnement riche en données qui est sous-utilisé, et que, dans la plupart des cas, les besoins des personnes peuvent être mieux satisfaits par une combinaison de solutions humaines et technologiques.

Nous nous sommes concentrés sur le droit fiscal. La raison pour laquelle nous avons choisi le droit fiscal, c'est que, premièrement, il s'agit d'un domaine du droit codifié. Il n'y a pas une quantité excessive de règles —

Taki Sarantakis : Vous avez des règles. Vous avez beaucoup de règles.

Abdi Aidid : - tout cela se prête bien à la prédiction. Vous avez de la jurisprudence qui interprète ces règles, et donc une couche de données supplémentaire qui apporte du contexte, et cela est moins sensible que d'autres domaines du droit.

L'un des grands défis actuels dans le monde juridique, c'est que des outils sont développés pour des domaines comme le droit pénal et la justice criminelle, qui comportent, disons, toutes sortes d'éléments problématiques dans les données historiques. Et il y a donc de bonnes raisons de freiner et de dire qu'on ne souhaite pas projeter ces éléments dans le futur.

En fiscalité, on se trouve dans un univers un peu plus fermé, avec des résultats juridiques globalement plus « propres » et mieux structurés. Donc, en ce sens, nous avons fait un bon choix dans notre orientation — sur le plan du…

Taki Sarantakis : Pourquoi cette entreprise se trouve-t-elle au Canada? Pourquoi n'est-elle pas partie? Pourquoi n'est-elle pas allée à Boston? Pourquoi n'est-elle pas allée dans la Silicon Valley? Et que se serait-il passé si vous étiez partis? Auriez-vous pu atteindre une plus grande échelle en moins de temps? Auriez-vous eu une clientèle plus grande? Auriez-vous eu plus de capital?

Abdi Aidid : Oui. En réalité, au Canada, il y a deux défis. Il y a beaucoup de défis, peu importe l'endroit où; l'on se trouve, mais il y en a deux qui sont particulièrement propres aux entrepreneurs canadiens. Le premier, ce sont des marchés de capitaux relativement peu liquides. Il n'y a pas énormément d'investissements —

Taki Sarantakis : L'accès au capital.

Abdi Aidid : L'accès au capital est un problème, mais l'autre enjeu, c'est qu'il y a, au Canada, moins de mobilité de la main-d'œuvre. Aux États-Unis, il existe une culture du va-et-vient professionnel. On voit des personnes passer du gouvernement à la technologie, puis au secteur privé, ou à d'autres domaines, avec une grande flexibilité et une certaine créativité dans les rôles qu'elles occupent. Il a fallu du temps pour que les entreprises en démarrage deviennent une option attractive pour des personnes canadiennes autrement prudentes face au risque, mais très bien formées.

Pendant un certain temps, il y avait aussi une sorte de « taxe supplémentaire » pour les entreprises canadiennes, dans la mesure où; elles devaient céder beaucoup plus de capital que l'entreprise moyenne aux États-Unis pour attirer et retenir les meilleurs talents. Tout cela faisait apparaître le choix canadien comme potentiellement sous-optimal. Cela dit, il y avait une raison importante de rester au Canada, ou d'y rester volontairement : nous étions en train de créer une application importante dans un domaine émergent, ce qui rendait essentiel d'être proches de la recherche.

Les fondateurs sont des professeurs. Ce sont des personnes qui, à bien des égards, ont bénéficié du dynamisme d'institutions comme l'Université de Toronto, où; je travaille aujourd'hui. Et cela a été déterminant. Nous étions une entreprise parce que nous essayions de faire quelque chose de nouveau dans un domaine encore peu exploré, où; la communauté épistémique avait une importance réelle et très structurante. Si nous avions essayé de construire une application commerciale classique, de type « vente au détail », où; toute la réflexion sophistiquée se fait en Californie, alors cela n'aurait pas eu de sens d'être ici. Il existait aussi un avantage local. Ce n'était pas uniquement un désavantage.

Taki Sarantakis : Bien. Bailey, avez-vous des réflexions à ce sujet, notamment en lien avec ce que fait l'AMMI? Est-ce que vous voyez des entreprises issues de vos travaux qui partent se développer aux États-Unis, ou bien des idées qui, finalement, ne sont pas commercialisées ici?

Bailey Kacsmar : Nous avons donc une sorte d'abréviation qui sépare AMMI académique et AMMI à but non lucratif. Je suis plutôt AMMI académique.

Taki Sarantakis : Il fallait inviter quelqu'un d'autre, c'est ce que vous dites.

Bailey Kacsmar : Non. En réalité, il y a beaucoup de travail qu'AMMI fait avec des entreprises qui souhaitent se connecter à l'expertise de recherche canadienne. Une entreprise peut, par exemple, demander à être mise en relation avec une personne ayant une expertise en la protection des renseignements personnels, ou encore, si elle cherche des compétences spécifiques en apprentissage par renforcement, elle pourrait être orientée vers des chercheurs comme Martha White ou Michael Bowling.

Nous avons donc ces liens, et AMMI travaille directement avec de nombreuses entreprises au Canada qui passent par ce réseau. Mais ce dispositif est géré par beaucoup de personnes, et ce n'est pas moi qui en assure la gestion. Donc, sur le volet plus industriel ou corporatif, je ne suis pas particulièrement impliquée, mais je pense qu'il y a quelque chose à reconnaître.

De manière plus générale, quand on compare le Canada et les États-Unis, même dans le milieu académique, les États-Unis offrent généralement davantage de financement, mais il existe aussi des effets secondaires associés à cela, qui peuvent rendre ces environnements moins attractifs, ou tout simplement différents dans leur fonctionnement. Ma première réaction en vous entendant était de me demander s'il serait même possible de transférer un système d'IA fondé sur le droit dans une autre administration, puisque les lois y seraient complètement différentes. Le cadre resterait bien structuré, mais il faudrait tout de même le reformuler pour un autre domaine.

Cela met en lumière un point intéressant : j'aime dire qu'au Canada, on peut réaliser des avancées en IA et en technologie de type « boutique », très sophistiquées, parce que nous avons un grand nombre de domaines spécialisés à travers le pays, ainsi que des chercheurs de grande qualité. Lorsque la recherche universitaire et l'industrie collaborent, cela permet de réaliser des progrès qui ne nécessitent pas les niveaux d'investissement massif qui sont plus courants aux États-Unis et qui sont beaucoup moins accessibles ici.

Taki Sarantakis : Maintenant, je voudrais changer légèrement de sujet tout en restant dans le volet commercial, et aborder un thème qui commence par la lettre P — et ce mot, c'est la « passation de marchés publics ». L'une des critiques que l'on entend très souvent dans ce domaine, c'est que les gouvernements au Canada ne réalisent pas leurs processus d'approvisionnement aussi efficacement qu'ils le devraient. Et surtout, qu'ils n'utilisent pas suffisamment cet outil comme levier de politique publique pour atteindre certains objectifs, notamment ce que nous évoquions plus tôt : la souveraineté.

Hier — ou peut-être avant-hier — le Premier ministre a annoncé une nouvelle initiative d'investissement en matière de défense, dont un élément central est : « acheter canadien ». Et, en tant que pays, nous n'avons pas vraiment pensé de cette manière depuis longtemps — j'irais même jusqu'à dire que cela remonte peut-être à un siècle où; l'idée d'« acheter canadien » était une orientation explicite. Certains secteurs sont déjà partiellement protégés, comme les télécommunications ou certains domaines du transport, mais c'est la première fois depuis longtemps que l'on affirme aussi clairement une telle orientation. Parlez-nous de l'importance d'acheter canadien, et ensuite nous pourrons peut-être revenir sur une autre annonce récente du Premier ministre dans laquelle vous et votre entreprise avez été impliqués à un certain moment.

Nick Frosst : Je veux commencer par dire que je ne suis pas un expert de la gestion gouvernementale, ni un expert de la construction nationale ou de la manière de s'y prendre pour « faire fonctionner » tout cela. Ces décisions de politique publique sont complexes et chargées d'enjeux.

Taki Sarantakis : Vous n'avez pas suffisamment de données, à mon avis. Ce n'est pas suffisamment alimenté par des données. C'est un problème de données.

Nick Frosst : Je n'ai pas de données, effectivement. Donc je ne suis certainement pas un expert en la matière. Cela dit, je pense que, par raisonnement de premier principe, c'est une bonne idée. Quand j'observe ce qui s'est produit dans d'autres régions du monde en matière de technologie, en particulier aux États-Unis, cela me paraît être une approche pertinente. Cela semble renforcer la résilience. Cela semble aussi renforcer l'autonomie, en amenant l'État — qui est la plus grande organisation de tout pays — à investir et à acheter auprès d'autres organisations situées à l'intérieur du pays. Cela semble être une manière efficace de diffuser les retombées économiques et de construire une capacité qui devient plus autonome à différentes échelles.

Et c'est extrêmement stimulant. Et entendre cela, et percevoir une évolution du pays qui se reflète dans les choix de politiques publiques, cela contribue à reconfigurer la manière dont on perçoit le Canada : non plus simplement comme un petit pays « là-haut », ou comme un acteur essentiellement financier, ou encore comme un acheteur ou un fournisseur dépendant d'autres économies, mais plutôt comme une puissance. Un pays capable de construire, qui devrait construire, et qui devrait exporter ses idées, ses technologies et ses compétences, afin de créer quelque chose de plus vaste. C'est très motivant.

Je pense que c'est la bonne direction, et je suis enthousiaste à l'idée de voir sa mise en œuvre. Cela dit, je m'interroge sur le parcours historique qui nous a menés à un point où; nous n'avons pas adopté cette approche plus tôt.

Taki Sarantakis : Eh bien, de façon générale — je simplifie à l'extrême — nous nous sommes toujours perçus comme une puissance moyenne, et les puissances moyennes respectent les règles ainsi que les accords commerciaux fondés sur des règles : l'OMC dit ceci, l'ALENA dit cela.

Mais je pense que nous avons perdu de vue cet aspect, parce que si on remonte en arrière, ce n'est pas seulement l'actuel occupant de la Maison-Blanche. Le président Biden, la toute première chose qu'il a faite en devenant président des États-Unis a été d'annuler le permis présidentiel du projet Keystone XL. Probablement la marque distinctive de l'administration du président Biden a été le « Buy America ». Le président Biden a, à un moment donné, déclaré que les préparations pour nourrissons constituaient un enjeu de sécurité nationale, et on ne pouvait acheter que des aliments pour bébés américains.

Donc c'est quelque chose où;, je pense, d'autres pays — nous arrivons un peu tard à cette tendance, pour ainsi dire. Bailey, des réflexions sur l'approvisionnement « Achetez canadien » dans les marchés publics?

Bailey Kacsmar : La seule chose à laquelle je pensais pendant que vous disiez cela, et c'est peut-être une direction un peu étrange à prendre, c'est que j'ai aussi grandi au Canada, et étant, je ne sais pas, âgé de 10 ans, en 5e année, on apprend l'histoire canadienne et le nationalisme, et… quoi?

Abdi Aidid : Vous allez parler d'Avro Arrow?

Bailey Kacsmar : Non, je ne sais pas ce que c'est.

Nick Frosst : C'est une superbe histoire. On va vous la raconter.

Bailey Kacsmar : Pardon.

Taki Sarantakis : Les gens grognent. On va en parler hors scène.

Bailey Kacsmar : Pardon.

Taki Sarantakis : Ce n'est pas grave. Mais vous avez grandi au Canada?

Bailey Kacsmar : Oui. Et donc, lorsque l'enseignant essayait de nous amener à définir ce que signifie être Canadien ou Canadienne et ce qu'est le nationalisme canadien, tout ce que nous étions capables de dire, c'était : nous ne sommes pas britanniques et nous ne sommes pas américains. Et donc, la façon la plus rapide de renforcer le nationalisme canadien consiste à tenter de s'opposer à l'un de ces deux pôles.

Taki Sarantakis : Exactement, dire ce que nous ne sommes pas plutôt que ce que nous sommes.

Bailey Kacsmar : Donc, si vous avez un exemple, comme il y a plusieurs années lors de la grande mobilisation autour du bœuf canadien, en raison des différences de tests appliqués au bétail, puis que certains pays font des affirmations sur la partie du monde à laquelle le Canada appartient, cela ravive le nationalisme canadien, parce que nous ne sommes pas américains, et donc nous mettons davantage de l'avant le produit canadien.

Et donc, pour moi, c'est simplement une réaction très naturelle : la population canadienne a tendance à se regrouper à nouveau en réaction au fait qu'on leur dise : non, vous êtes ceci, alors que cela correspond justement à ce que le Canada n'est pas. Nous ne sommes pas d'accord sur grand-chose d'autre.

Taki Sarantakis : Quand j'étais à l'université, on nous enseignait que ce genre de choses était absurde. On nous disait : on ne favorise pas les marchés domestiques, on ne choisit pas les gagnants, on laisse le marché décider. On expose les acteurs à la concurrence, et les produits deviennent de plus en plus performants, et c'est ce qu'on achète. Et pourtant, en sautant jusqu'à hier, on est maintenant dans une logique d'« acheter canadien », du moins dans certains secteurs. Mais au minimum, on se pose désormais la question : devrait-on acheter canadien? Est-ce que ces trains devraient être canadiens? Est-ce que cet algorithme devrait être canadien? Est-ce que cet avion devrait être canadien? Parlez-nous-en un peu.

Abdi Aidid : Oui, si l'on dispose d'un niveau de stabilité de base et de règles fiables, ainsi que des ententes qui garantissent généralement l'absence de surprises, alors il est logique de dire : nous n'allons pas construire d'avions de chasse ici, parce que nous pouvons en acheter à moindre coût ailleurs. C'est préférable pour le bien-être du public canadien si nous trouvons le producteur international le moins cher qui respecte nos normes. C'est logique –

Taki Sarantakis : Jusqu'à ce que ce ne soit plus le cas.

Abdi Aidid : Jusqu'à ce que ce ne soit plus le cas. Et donc, en partie, l'élan — ou plutôt le calcul des risques — pour le Canada a vraiment changé. Je comprends donc cela. Puis-je me concentrer un instant sur l'approvisionnement?

Taki Sarantakis : Absolument, on parlait de ça justement.

Abdi Aidid : Je cherche simplement… il y a peut-être une petite tribune improvisée sous le bureau sur laquelle je pourrais monter. J'avais une conversation plus tôt aujourd'hui, que je racontais à Nick dans le foyer des artistes : les gens parlent beaucoup d'ICE. Je ne vais pas me lancer dans une diatribe sur ICE ici. Aux États-Unis, cependant.

Taki Sarantakis : Mais vous pouvez si vous voulez.

Abdi Aidid : L'immigration et l'application des mesures douanières. Et je regardais un débat entre certaines personnes sur la question de savoir si l'ICE devrait exister. On évoquait notamment la possibilité de suspendre son financement pendant un certain temps, et deux points de vue s'opposaient.

L'un disait: « Si vous retirez le financement de l'ICE, comment peut-on faire appliquer les lois sur l'immigration? Vous voulez dire que vous souhaitez suspendre l'application des règles en matière d'immigration? » L'autre répondait : « Non, mais tant que l'ICE ne se ressaisit pas, etc. »

En observant cet échange, je me disais que c'est tout à fait emblématique d'un défi que nous avons — un défi à la fois cognitif et culturel — à savoir notre difficulté à imaginer un monde où; les choses ne seraient pas exactement telles qu'elles sont aujourd'hui. L'ICE a été créé en 2003. C'est plus récent que « Hit Me Baby One More Time ». Cette chanson passait à la radio alors que l'ICE n'existait pas. Donc, quelle que soit votre opinion sur l'ICE comme institution, il y a eu un monde avant. Et j'en viens à l'approvisionnement. Je ne dis pas que l'approvisionnement est équivalent à l'ICE, mais il y a un certain parallèle.

Nick Frosst : Non, vous pouvez rester sur la tribune.

Abdi Aidid : Oui, oui, je vais rester là-dessus un instant. Je suis confortable pour le moment. La manière dont nous abordons actuellement l'approvisionnement n'est pas adaptée au monde technologique actuel. Nous avons essentiellement repris des modèles d'approvisionnement conçus pour le matériel et les avons appliqués à un univers logiciel — et maintenant à un monde d'intelligence artificielle.

Or, ce sont des réalités différentes. Lorsque vous achetez du matériel, vous partez du principe qu'il s'agit d'une technologie entièrement finalisée. Si elle est défectueuse, vous la renvoyez, et il n'y a pas de mise à jour à distance qui viendra améliorer le processeur ou autre composant. Ce n'est pas du tout ce dont il est question dans le cas des logiciels ou, plus largement, des technologies numériques.

En réalité, lorsqu'il s'agit d'un partenariat à l'échelle organisationnelle avec une entreprise d'intelligence artificielle, il y a — qu'on le veuille ou non — un processus d'itération, un dialogue continu. Ces organisations attendent vraiment d'obtenir des retours de votre part. Pendant longtemps, notre défi chez Blue Jay était que les gens ne nous disaient pas assez clairement ce qu'ils voulaient. Ils ne nous transmettaient pas suffisamment d'information pour que nous puissions apporter les correctifs appropriés, parce que le produit n'était pas « figé » de la même manière qu'un processeur l'est lorsqu'on achète du matériel d'entreprise.

Cela devrait amener les fonctionnaires à réfléchir ainsi : si, lorsqu'on acquiert une technologie, il y a des échanges continus — si l'entreprise souhaite réellement nous entendre parce que son cycle de développement repose sur l'itération — et si elle est intéressée par une relation à l'échelle organisationnelle pour explorer des outils conçus sur mesure, alors il peut effectivement y avoir des éléments personnalisés. Mais, dans tous les cas, elle veut obtenir notre rétroaction. Cela vous donne l'occasion de transmettre de l'information d'une manière qui, auparavant, n'était tout simplement pas possible.

Donc, ça, c'est un premier point. Deuxièmement, les processus d'approvisionnement que nous utilisons dans l'ensemble des administrations publiques — celle-ci ne faisant pas exception — sont quelque peu indûment restrictifs, parce qu'ils ne tiennent pas compte de cet aspect comme étant une composante essentielle du processus. Et ça c'est un autre point.

Taki Sarantakis : Vous êtes si poli. Un peu — qu'avez-vous dit? Un peu trop restrictif.

Abdi Aidid : J'ai oublié ce que j'ai dit. Je ne veux pas me répéter. J'ai oublié ce que j'ai dit.

Taki Sarantakis : Un peu trop restrictif.

Abdi Aidid : Je ne me souviens plus. Il n'y a pas d'enregistrement non plus!

Taki Sarantakis : Travaillez-vous pour le gouvernement?

Nick Frosst : Un peu trop restrictif.

Abdi Aidid : Cette année.

Taki Sarantakis : Oh oui, cette année. Vous êtes un chercheur invité?

Abdi Aidid : J'ai un peu adopté cette façon de m'exprimer, oui.

Et, dans le même ordre d'idées en matière d'approvisionnement, il n'y a jamais de… je pense à Fast and the Furious, vous vous souvenez? Il y en a quoi, une dizaine? Oui, il y en a une dizaine.

D'ailleurs, je me souviens avoir vu les deux premiers, puis être passé directement au dixième. Et, à un moment donné dans le dixième, Ludacris se retrouve propulsé dans l'espace. Je me suis dit : je croyais que c'était une série de films sur les courses de rue! Un film sur les courses de rue.

Quoi qu'il en soit, ils avaient cette chose –

Taki Sarantakis : Est-ce lié à votre groupe? [crosstalk]

Abdi Aidid : Oh, d'accord. Ils avaient un truc qu'ils appelaient le…

Taki Sarantakis : Je ne sais pas encore où; vous voulez en venir.

Abdi Aidid : Moi non plus. Voyons où; je veux en venir.

Taki Sarantakis : On va voir où; ça nous mène.

Abdi Aidid : Ils avaient un truc qui s'appelait le bouton NOS. Vous vous souvenez de ça? Quand ils font des courses et qu'ils appuient sur le bouton, et là ils sont littéralement propulsés en avant.

Taki Sarantakis : Est-ce que c'est un peu ce que les personnes de mon âge appelleraient le bouton « turbo »?

Abdi Aidid : Oui, essentiellement le bouton « turbo ». Donc, nous avons désespérément besoin de ce « turbo » dans le monde de l'approvisionnement pour deux raisons. Premièrement, parce qu'il existe un risque réel — croyez-le ou non — d'un décrochage du secteur public par rapport à la compétitivité en matière de prestation de services.

Pourquoi? Parce que l'adoption de l'IA arrive presque toujours avec un retard, quel que soit le contexte. C'est même un peu en retard dans le secteur privé, mais la plus grande agilité des processus d'approvisionnement permet une exploration plus précoce. Il existe donc un risque individuel pour les fonctionnaires qui n'ont pas une exposition suffisamment précoce à l'IA : celui de développer moins de compétences transférables s'ils souhaitent, à un moment donné de leur vie, se réorienter vers autre chose. Cela devrait donc aussi parler à leur intérêt personnel.

Mais l'autre élément, c'est que d'ici à ce que la technologie arrive à maturité, que tous les éléments de l'entente soient signés et que le système soit prêt, il est très probable qu'il y ait un mandat descendant imposant son utilisation partout, en tout temps. Et à ce moment-là, vous avez manqué, à cause du rythme très lent de l'approvisionnement, la phase d'exploration et d'expérimentation où; vous auriez pu contribuer de façon significative avec vos retours. Donc, il faut activer le « bouton turbo » de l'approvisionnement.

Et je ne suis pas tout à fait certain de la manière dont cela… enfin, j'ai quelques idées sur la façon dont cela pourrait fonctionner si vous souhaitez en parler plus tard, mais cela doit se faire. Cela doit se faire.

Taki Sarantakis : Oui, je suis d'accord. Je voulais revenir vers vous. J'avais fait allusion à cela avant que nous commencions la discussion sur l'approvisionnement. Hier, le premier ministre a annoncé, comme nous l'avons dit, l'initiative « Achetez canadien ». Il y a quelque temps — je ne me souviens plus exactement quand — il a signé quelque chose avec vous, ou il a fait une annonce avec vous. Qu'est-ce qu'il a signé ou annoncé?

Nick Frosst : Oui, Cohere. Oui, nous avons signé un protocole d'entente avec le gouvernement sur le développement de l'IA et son utilisation au sein du gouvernement. C'était quelque chose dont nous étions extrêmement fiers, et nous prenons ce devoir très au sérieux. Nous sommes très enthousiastes et honorés de pouvoir collaborer pour rendre l'IA utile au gouvernement. Très heureux.

Taki Sarantakis : Je voulais justement poser la question : nous avons un avocat ici, qu'est-ce que signifie un protocole d'entente?

Abdi Aidid : C'est essentiellement une expression d'intérêt mutuel. Ce document précise certains termes, et il est contraignant dans la mesure où; il formalise ce que les parties se sont dit. Toutefois, le protocole d'entente doit être remplacé par une entente finale, comme un contrat d'achat ou quelque chose du genre, ce que nous n'avons pas encore signé.

Taki Sarantakis : Maintenant, Nick est très poli et tout. Mais moi, je ne suis pas si poli. Je vais vous raconter une petite histoire. Le lendemain de l'annonce du protocole d'entente, j'ai appelé quelqu'un et je lui ai dit : « Je veux que l'École de la fonction publique du Canada soit la première organisation à utiliser Cohere ». Et on m'a dit : « Pas possible ». Puis j'ai dit : « Mais le Premier ministre a dit hier : bla, bla, bla ». Tout ça pour dire « Pas possible ». Et je me suis dit : « On a annoncé quelque chose, da, da, da ». « Pas possible ». Déclic. Donc, c'est en quelque sorte l'une des choses — et je pense que beaucoup de bureaucrates et de responsables publics nous écoutent — que nous ne comprenons pas toujours suffisamment, c'est que le temps est très différent en dehors du monde de l'administration.

Le délai entre un protocole d'entente et un instrument d'approvisionnement ou autre, on peut penser : « Si on est vraiment rapides, ça prendra deux ans », ou « Mon Dieu, on a travaillé très fort, on l'a fait en moins de trois ans ». Mais c'est une perception du temps complètement différente de celle qu'on a à l'extérieur des gouvernements. Pouvez-vous nous parler un peu du temps lorsque vous étiez entrepreneur, et aussi du temps aujourd'hui, puisque vous êtes encore un entrepreneur actif?

Abdi Aidid : Oui. Les cycles d'approvisionnement du gouvernement étaient longs, mais les cycles de vente dans le secteur privé peuvent aussi être longs. On peut vouloir conclure une entente d'entreprise avec un organisme client du secteur privé, et il peut leur falloir beaucoup de temps pour accepter de faire un achat. Mais une fois qu'ils ont pris cette décision, il s'agit surtout de formaliser l'entente et de régler les aspects administratifs.

Taki Sarantakis : Oui. Donc, on courtise longtemps, mais une fois fiancés, on se marie rapidement.

Abdi Aidid : On se marie assez vite, et c'est un peu l'inverse dans le secteur public, où; en réalité on vous dit tout de suite : « On vous aime beaucoup ».

Taki Sarantakis : Nous vous aimons beaucoup. Oui, nous vous aimons beaucoup.

Abdi Aidid : En fait, je vais dire oui si vous faites votre proposition maintenant.

Taki Sarantakis : Je vous aime. Je n'ai jamais vu quelqu'un d'aussi beau, d'aussi charmant que vous.

Abdi Aidid : Merci. Merci. Très bien, je suis prêt.

Taki Sarantakis : Que faire maintenant? Prenons le temps d'y réfléchir.

Abdi Aidid : Il y a un lieu que j'aime bien. Il est disponible dans trois ans. C'est le seul endroit où; je veux me marier.

Taki Sarantakis : D'accord, mais moi je veux –

Nick Frosst : Nous devons mettre fin à ce sketch rapidement ou [diaphonique et rires].

Taki Sarantakis : Non, mais on ne peut pas, parce que l'un de nous est du secteur privé et l'autre du secteur public, donc on va se fréquenter pendant très, très longtemps.

Abdi Aidid : Je pense que l'essentiel, c'est que la partie difficile est censée être terminée.

Taki Sarantakis : Oui, parce qu'on s'apprécie.

Abdi Aidid : Et nous avons décidé que nous aimons Cohere. On a décidé qu'on veut une solution d'IA souveraine canadienne. Nous avons l'une des dix entreprises. Elles prétendent réellement construire des choses qui sont adaptées et particulières pour nous…

Taki Sarantakis : Donc maintenant, il ne reste plus qu'à formaliser la transaction.

Abdi Aidid : C'est censé être…

Taki Sarantakis : C'est comme aller à l'hôtel de ville et obtenir le certificat.

Abdi Aidid : C'est censé être ça.

Taki Sarantakis : Alors, êtes-vous à l'hôtel de ville? Avez-vous obtenu le certificat?

Nick Frosst : Je ne suis pas à l'hôtel de ville en ce moment.

Taki Sarantakis : Vous n'êtes pas à l'hôtel de ville en ce moment.

Nick Frosst : Non. Enfin ...

Taki Sarantakis : Mais parlez-nous du temps. Revenons au sérieux.

Nick Frosst : Oui. Oui.

Taki Sarantakis : Qu'est-ce qu'une année représente pour vous? Qu'est-ce que six mois représentent pour vous?

Nick Frosst : Nous sommes une entreprise depuis 6 ans. Cette technologie existe dans l'espace public, dans l'esprit des gens depuis, je ne sais pas, trois ans, deux ans — ce n'est vraiment pas long, pas long du tout. Je parle souvent de l'IA et des modèles de langage comme d'une nouvelle révolution industrielle. Et il y a eu des révolutions industrielles précédentes, des révolutions technologiques précédentes. Je pense à l'apparition de l'ordinateur personnel, à l'imprimerie, à la machine à vapeur : nous avons traversé beaucoup de ces transformations qui ont fondamentalement changé notre manière de travailler. Je pense que celle-ci en est une autre. Chacune de ces révolutions a en réalité été une période assez longue. On les raconte comme si c'était : « Oui, la Révolution industrielle a eu lieu et soudain tout a changé du jour au lendemain ».

Taki Sarantakis : L'électricité partout.

Nick Frosst : Ça prend beaucoup de temps. Donc, nous en sommes encore aux débuts de cette technologie, et il reste un long chemin à parcourir.

Cela dit, ailleurs, les choses évoluent très rapidement. Nous travaillons avec certaines entreprises — par exemple RBC, qui fait partie de notre clientèle. Nous avons déployé North, notre plateforme agentique, c'est-à-dire l'outil que les employés utilisent au sein de RBC pour automatiser leurs tâches répétitives et peu intéressantes. Nous l'avons déployée très rapidement auprès d'un grand nombre de leurs employés, et pourtant il s'agit d'une entreprise vieille de 150 ans. Et ils avancent extrêmement vite pour une organisation de cette taille. Nous avons aussi déployé North dans des entreprises qui l'ont ensuite mis entre les mains de 10 000 employés immédiatement après, une fois que nous l'avions rendu disponible de manière sûre et sécurisée.

Donc, d'un côté, nous sommes encore au début de cette technologie, et il reste beaucoup à faire. De l'autre, le reste du monde avance très vite, et nous prenons du retard. Je ne sais pas ce qui est normal pour le gouvernement — je ne suis pas un expert en administration publique et je n'y ai jamais travaillé — donc je ne connais pas les délais habituels. Mais ce que je sais, c'est qu'actuellement nous sommes désavantagés, et que les choses gagneraient à aller plus vite.

Taki Sarantakis : Abdi, revenons au temps. J'ai entendu quelque chose de très intéressant que vous avez dit, et je pense que c'est important que les gens le comprennent, parce que ça s'aligne bien avec ce que Nick vient de dire sur le fait que le monde avance très vite. Vous dites que lorsque nous regardons une application d'IA aujourd'hui, c'est comme si nous regardions une étoile. Expliquez-nous ça — développe un peu cette idée.

Abdi Aidid : Oui, vous pensez que vous regardez le présent, mais en réalité vous regardez des années dans le passé. L'IA d'aujourd'hui, c'est la R&D d'hier. Je ne sais pas ce que Nick a en préparation en ce moment et qu'il prévoit de déployer dans deux ans. Je suis sûr que ce sera assez déstabilisant. Et le point clé, je pense, c'est qu'il faut aussi être capable d'anticiper.

Donc une technologie que Cohere vient nous présenter en disant : « nous sommes prêts à la déployer dans votre organisation », c'est une technologie sur laquelle ils ont travaillé pendant les deux dernières années. Et ils auront peut-être quelque chose de nouveau pour nous, légèrement meilleur ou beaucoup meilleur, dans deux ans. Mais pendant ces deux années, au moment où; la nouvelle version devient disponible, nous serons peut-être déjà à 65 % du processus d'approvisionnement de la première version.

Et donc, nous sommes déjà dans une situation un peu étrange sur le plan épistémologique par rapport à l'IA, parce que tout cela est souterrain. Ce n'est pas comme les médicaments qui doivent passer par une approbation de la FDA ou quelque chose du genre, où; l'on sait de façon vérifiable ce qui est en préparation et ce qui arrive. On ne sait pas. Le développement est souterrain jusqu'au moment où; il est prêt. Et donc, pour mieux faire face même aux défis éthiques, juridiques et politiques, nous devons être —

Taki Sarantakis : Nous devons nous mettre en route. Nous devons commencer à interagir.

Abdi Aidid : Nous devons commencer à courir la course un peu en parallèle de la technologie, parce qu'elle nous dépasse d'une manière qui, je pense, est nuisible aux grandes préoccupations que nous avons à l'esprit.

Taki Sarantakis : Oui, et c'est intéressant parce que si vous achetez la technologie d'aujourd'hui, mais que vous ne la déployez que dans trois ans, elle est déjà obsolète. Et je ne parle pas seulement de Cohere ou d'un acteur en particulier. Ce domaine évolue tellement vite, tellement rapidement, qu'à un certain point, ce qu'on dit, c'est que dans le secteur public — et pas seulement au gouvernement du Canada, mais dans l'ensemble du secteur public — on risque d'être structurellement laissé derrière, si cela a du sens.

Bailey Kacsmar : Eh bien, je veux dire, si on parle de ça — je me retrouve toujours un peu bloquée dans ces conversations où; l'on dit que notre technologie évolue si vite, et que tout le reste est en retard. Mais ça crée en quelque sorte une fausse course. Les technologies, comme l'avez dit plus tôt, ce n'est pas une unité centrale. Ce genre de système peut être mis à jour. Ce n'est un problème que si vous considérez que la version 1.2 est radicalement différente de la version 1.3.

Mais si vous le concevez plutôt comme un logiciel destiné à fournir certaines fonctionnalités, avec des capacités additionnelles, et si vous définissez des limites claires sur ce qui est acceptable ou non comme comportement pour ce logiciel, alors vous n'avez pas besoin d'entrer dans cette logique de course.

Le fonctionnement interne d'un LLM particulier, par exemple, n'est pas ce qui a un impact pour les utilisateurs du secteur public. Ce qui compte, c'est ce qui entre dans le système et ce qui en sort, ainsi que les règles qui encadrent cela. Est-ce que c'est quelque chose à qui l'on peut fournir des informations internes? Oui ou non? Est-ce que c'est quelque chose dont les sorties sont fiables, ou bien, parce que c'est une technologie probabiliste, est-ce que ce n'est pas quelque chose qu'on devrait utiliser dans des contextes qui exigent de la vérification?

Toutes ces questions peuvent être formulées de manière claire, au lieu de rester bloqués dans cette boucle qui consiste à dire : « ça évolue tellement vite ». En réalité, ce n'est pas ce qui importe directement. Nous, ça nous importe parce que nous devons la construire et la déployer, mais cela n'a pas besoin d'influencer la manière dont elle est utilisée ou déployée. Vous recevez des mises à jour sur votre téléphone tout le temps. Et la plupart du temps, vous avez probablement réglé ça en automatique. C'est une bonne chose. Vous ne voulez pas manquer une mise à jour de sécurité. Mais vous ne le remarquez pas. Votre téléphone se met à jour, et vous continuez votre journée. Le logiciel, tant qu'il ne change pas complètement de fonctionnalité, devrait fonctionner de la même manière.

Taki Sarantakis : Oh, vous ne travaillez clairement pas dans le gouvernement.

Bailey Kacsmar : Oh, ce n'est pas mon cas, mais ça ne veut pas dire que la manière dont les choses fonctionnent doit rester la même. On n'est pas obligé de se mettre dans cette situation où; l'on est toujours dans une course. On peut définir les exigences d'un logiciel sans dire qu'il doit absolument correspondre à la version 1.2.

Taki Sarantakis : On achète de l'IA et c'est bon pour 10 ans. Mais bon, c'est encore un autre sujet —

Abdi Aidid : Il faut penser les marchés publics de manière plus flexible, en évitant de sur-spécifier le processus d'achat, et en anticipant la possibilité de mises à jour. Le grand défi actuellement, c'est que les cycles ont été si longs que, entre-temps, de toutes nouvelles capacités ont été ajoutées, comme les capacités agentiques. Et donc, on continue encore à parler du modèle de langage, alors qu'il existe maintenant une couche agentique. C'est énorme.

Mais la plupart des choses ne vont pas évoluer de manière aussi radicale. Ainsi, si vous concevez vos marchés publics de manière à anticiper certains changements, je pense que le point de Bailey est tout à fait pertinent.

Taki Sarantakis : Oui. Nous arrivons maintenant à nos dernières minutes, et je veux donc conclure en… je veux vous donner à chacun et à chacune l'occasion de donner aux personnes présentes dans la salle et à celles en ligne — je veux que vous leur donniez un peu de sagesse. Ce sont des fonctionnaires qui travaillent sur ces sujets. Le fait qu'ils vous écoutent aujourd'hui, qu'ils prennent une heure et demie sur leur temps de travail, signifie probablement qu'ils sont plus intéressés que le fonctionnaire moyen par ces questions.

Donc je pense que vous n'avez pas besoin de leur expliquer l'importance de tout cela, mais dites-leur quelque chose que, selon vous, en tant que fonctionnaires du gouvernement du Canada, ils doivent savoir dans ce domaine, ou qu'ils doivent mieux comprendre. Qui veut commencer? Bailey, voulez-vous commencer?

Bailey Kacsmar : Oui. Normalement, le milieu est plus sûr que ça. Bien. Donc, si je devais retenir quelque chose dans ce domaine — quand on parle de données et d'IA — on a beaucoup discuté aujourd'hui de l'utilisation de ces outils et du fait de suivre le rythme.

Mais si je peux ajouter un point que nous n'avons pas encore abordé explicitement, c'est que cela doit toujours être fait de manière intentionnelle. On ne devrait pas dire : adoptez-le de façon aveugle et globale. On ne devrait pas non plus dire : trouvez un moyen d'utiliser l'IA dans votre domaine, peu importe lequel, parce que ce n'est pas forcément un bon déploiement.

Il existe énormément de façons utiles d'utiliser l'IA — qu'il s'agisse d'un LLM ou d'une approche plus ancienne ou plus conventionnelle — qui peuvent réellement améliorer un système, mais uniquement si l'on comprend le domaine dans lequel on travaille. Et en tant que personne qui travaille dans ce domaine, on devrait le comprendre suffisamment pour se demander ce qui serait utile ici, quel type d'automatisation ferait réellement sens. Parce qu'au fond, quand on parle de n'importe quelle forme d'IA, c'est essentiellement une forme d'automatisation. La tâche qu'elle accomplit et la manière dont elle le fait peuvent varier, mais c'est finalement ça.

Donc, quelle utilisation intentionnelle peut-on en faire, plutôt que d'essayer de disperser les efforts et de simplement lancer de l'IA partout en espérant que quelque chose fonctionne? Parce que c'est là qu'on tombe dans des situations compliquées, ou qu'on finit par créer des problèmes de confiance où; les gens disent : « vous nous avez dit de l'utiliser, on l'a utilisée ici et il s'est passé quelque chose de problématique ». Et ensuite, il faut reconstruire.

Dès qu'on perd la confiance — que ce soit envers une technologie ou une politique — il est beaucoup plus difficile de la rétablir et de revenir à une utilisation efficace. Et compte tenu du potentiel de ces outils, on ne veut pas se retrouver dans une situation où; il faut tout reconstruire depuis la base.

Taki Sarantakis : J'adore ça, Bailey. Abdi?

Abdi Aidid : C'est brillant. Vous devriez écouter Bailey, c'est mon conseil. Mais j'aime vraiment cette idée de réfléchir à des usages de l'IA qui soient efficaces, sûrs et utiles. Et d'ailleurs, cela vaut aussi pour les usages plus frivoles de l'IA. Parfois, j'utilise GPT pour écrire de petites comptines amusantes pour ma fille, et une fois elle m'a demandé si je pouvais lui montrer un animal qui jongle, alors j'ai fait générer un éléphant jongleur. C'est un usage un peu frivole de l'IA, et il y a aussi des conséquences environnementales dont nous n'avons pas parlé, et que les gens devraient garder à l'esprit. Donc, peut-être qu'il faut limiter ses usages frivoles.

Investir dans sa propre crédibilité est un conseil important que je vous donnerais, ce qui signifie aussi être capable de formuler des objections crédibles. Je l'ai dit de nombreuses fois. Demandez-vous quelles sont les choses dans votre vie que vous êtes absolument déterminés à continuer de faire de manière analogique, et vous verrez probablement que cette liste est plus courte que vous ne le pensez. Je pense à cela dans le contexte de ma frustration face aux critiques de l'IA qui sont fondées sur ce que la technologie peut ou ne peut pas faire aujourd'hui. Il faut laisser ouverte la possibilité qu'elle puisse le faire demain, et la question est alors : est-ce que vous vous y opposez toujours?

J'ai donc ma propre liste. Par exemple — et certaines personnes d'entre vous m'ont déjà entendu le dire — je suis contre l'utilisation de l'IA dans les décisions de condamnation pénale, sans exception, jamais. On pourrait concevoir un algorithme optimal en matière de dissuasion, parfaitement dénué de biais et qui ne prolonge pas des historiques racistes dans le futur, et je m'y opposerais quand même. Pourquoi? Je ne pense pas que nous devrions optimiser les peines de condamnation. Je pense que cela doit rester difficile. Je pense que quelqu'un devrait s'endormir le soir en réfléchissant à ce qu'il s'apprête à faire le lendemain s'il doit prononcer une sentence. Je pense que cela doit peser sur sa conscience de savoir s'il est approprié ou non de priver quelqu'un de sa liberté. Je pense que c'est une démarche communautaire que nous devrions tous traverser collectivement, avec difficulté.

Donc la question est : combien de situations comme celle-là avons-nous? Il n'y a rien que l'on puisse me dire sur l'amélioration de la technologie qui me ferait vouloir l'utiliser dans ce contexte. Mais je ne peux pas utiliser cet exemple-là pour dire qu'il y aurait un déploiement trop chargé socialement pour que je refuse, par exemple, d'utiliser un outil de résumé au bureau. On perds en crédibilité quand on fait ça.

Donc la question pour vous, c'est : quelles sont vos zones interdites? Protégez-les jalousement et envisagez la possibilité d'une intégration plus modérée de l'IA dans votre vie. Je dirais que c'est comme ça qu'on évite de s'exclure du débat, parce qu'en ce moment, il y a une discussion importante à avoir sur l'avenir du travail et sur ce à quoi il va ressembler. Nous participons tous à une occasion de redéfinir ce que sont les professions. Et beaucoup de gens s'excluent de cette conversation parce qu'ils sont contre l'ensemble du projet. Ils ne font pas la distinction entre les usages appropriés et inappropriés.

Donc je vous encouragerais à réfléchir à vos zones interdites, et à vous concentrer sur celles-ci.

Taki Sarantakis : Nick, concluons

Nick Frosst : J'ai adoré ces deux interventions. C'était excellent. Oui. On a commencé en parlant du fait qu'il y a un taux d'adoption de 12 % et qu'on est maintenant les derniers du G7, ou quelque chose comme ça. Donc même si vous êtes ici, même si vous écoutez ça, et que vous avez choisi de prendre du temps dans votre journée pour participer à cette discussion, j'imagine que vous faites partie d'un groupe de personnes plus intéressées que la moyenne par l'utilisation de ces technologies.

Et je pense que, en plus de ce que vous avez tous les deux dit, il est important de dire : oui, vous devez réfléchir à ce sur quoi vous ne voulez pas utiliser ces outils, mais vous devez aussi réfléchir à ce sur quoi vous voulez les utiliser. Et statistiquement, pas beaucoup d'entre nous au Canada le font, et davantage de gens le font ailleurs. Je pense que c'est assez générique, ça va presque sans dire. Ce que j'aimerais ajouter à cela, c'est que récemment j'essaie d'encourager les gens à voir cette technologie comme quelque chose qui n'est pas hors de leur portée. Ce n'est pas si compliqué.

Et je sais que ça peut sembler fou, beaucoup de gens réagissent vivement à cette idée. Mais apprendre à programmer un peu n'a jamais été aussi simple. C'est probablement le moment le plus facile de votre vie pour apprendre un peu de Python. Et j'entends les gens parler de l'apprentissage de la programmation, ou d'un langage de programmation, d'une manière complètement différente de celle dont ils parlent de l'apprentissage de l'espagnol.

Je n'ai jamais entendu quelqu'un dire : « Espagnol? Je ne pourrais jamais, oh mon Dieu, je ne pourrais jamais apprendre ça », ou toute autre langue. C'est difficile, c'est vraiment difficile d'apprendre une autre langue, mais vous savez tous ce qu'il faut faire pour y arriver. Et si vous vouliez en apprendre un peu, vous pourriez le faire. Et ça vous aiderait. Ça vous serait très utile. Même apprendre un tout petit peu d'une nouvelle langue pour un pays dans lequel vous allez, ou même au Canada dans notre cas, avec un pays aussi multiculturel, apprendre n'importe quelle langue peut être utile ici. Et donc, les gens le font.

Je pense qu'on devrait envisager la programmation de la même manière. Je ne pense pas que vous devriez considérer que la programmation est hors de votre portée ou que vous ne pourriez pas l'apprendre. Il n'a vraiment jamais été aussi facile d'apprendre un peu de programmation, et les LLM sont un excellent outil pour apprendre à programmer.

Ensuite, comprendre comment fonctionne un grand modèle de langage, ou comment fonctionne l'IA d'aujourd'hui, n'est pas non plus si compliqué. Créer ces systèmes, c'est extrêmement complexe, je ne vous encourage pas à vous lancer là-dedans. Mais comprendre les mécanismes de base, ce n'est absolument pas hors de votre portée. Vous pouvez tout à fait le faire, et cela vous aidera à déterminer ce que vous voulez en faire, ce que vous ne voulez pas en faire, et où; vous souhaitez l'intégrer dans votre vie.

Donc je vous encourage à faire ces deux choses.

Taki Sarantakis : Je vous invite donc à vous joindre à moi pour remercier Abdi, Bailey et Nick d'avoir passé une excellente heure et demie avec nous. Et je sais que nous repartons tous et toutes avec un peu plus de renseignements et peut-être même un peu plus optimistes à l'égard de ce domaine qu'au début de la séance. Merci.

[01:29:04 Le logo de l'EFPC apparaît. Texte à l'écran : canada.ca/school-ecole.]

[01:29:10 Le mot-symbole du gouvernement du Canada s'affiche à l'écran.]