Transcription
Transcription : Tendances du changement provoqué par la technologie : Demandez-moi ce que vous voulez, partie 2
[00:00:00 Le texte suivant apparaît à l'écran : « Tendances du changement provoqué par la technologie ».]
[00:00:06 Chris Howard apparaît en fondu.]
Chris Howard : Bonjour, je suis Chris Howard. Je suis le responsable de la recherche chez Gartner. Merci de prendre le temps d'écouter les conseils que nous donnons sur l'IA et les sujets connexes. J'espère que vous trouverez le tout intéressant.
[00:00:17 Le texte suivant apparaît à l'écran : « Questions et réponses avec Chris Howard, partie 2 ».]
[00:00:22 Le texte suivant apparaît à l'écran : « Comment exploiter l'IA pour le bien public plutôt que pour le profit? ».]
Le problème est que cela concentre le pouvoir entre les mains d'un très petit nombre, car très peu d'organisations sont en mesure de dépenser l'argent nécessaire pour effectuer les calculs fondamentaux. Ainsi, le budget informatique de J.P. Morgan s'élève à 18 milliards de dollars par an. Le budget de l'IA s'élève à un milliard et demi de dollars par an. Qu'est-ce que cela va concentrer pour eux? Lorsque je travaille avec eux, je leur pose donc la question suivante : que pouvons-nous apprendre de votre infrastructure de paiement que vous devriez partager avec le secteur public? Parce que vous pourriez… Je veux dire, fondamentalement, la structure de paiement de J.P. Morgan est un jumeau numérique des transactions mondiales, et vous pouvez y voir des choses qui n'ont rien à voir avec les paiements, comme les modèles de migration humaine ou d'autres choses qui pourraient être exceptionnellement utiles si l'aperçu était conçu d'une manière différente, mais je ne sais pas si vous leur demandez ou si le gouvernement américain leur demande, mais il faut… nous devons forger ces différents types de relations parce qu'il est économiquement prohibitif pour vous d'avoir un rôle de leader dans la technologie telle qu'elle est aujourd'hui.
Ce qui se passe, c'est que cette économie va se démocratiser au cours des prochaines années, avec l'utilisation de modèles code source ouvert, par exemple, la réduction… aujourd'hui, il faut payer des sommes exorbitantes à NVIDIA pour calculer ce genre de choses dans les GPU. Lorsque je travaille avec Intel, nous nous demandons comment faire… on peut le faire sur toutes les puces jusqu'à quelque chose d'implanté dans le corps, ce qui le rend plus démocratique. Ainsi, je pense que la première étape, parce que l'obstacle à l'investissement est si important, consiste à proposer des cas d'utilisation convaincants, croisant les secteurs public et privé, où; les deux parties en tirent un bénéfice évident. C'est le premier endroit, et c'est une conversation sur les données. Il s'agit fondamentalement d'une conversation sur les données.
Intervieweur : Et une conversation sur les principes.
Chris Howard : Exactement, et l'autre chose est que les entreprises du secteur privé ont, dans leurs chartes et dans les chartes de leurs conseils d'administration, une responsabilité fiduciaire en matière d'ESG, que le… et la partie « S » de cela, en particulier lorsqu'il s'agit de ces modèles. C'est probablement plus facile en Europe qu'ici. C'est beaucoup plus difficile aux États-Unis, beaucoup plus difficile. Dans l'enquête auprès des PDG que je ne vous ai pas montrée, nous avons posé des questions sur l'ESG, et 86 % des entreprises européennes en font une priorité absolue, contre moins de 50 % des entreprises américaines. Je trouve cela étrange.
Intervieweur : Merci. Il y avait donc une question que je voulais aborder parce que vous avez mentionné les dommages environnementaux causés par tous les calculs que cela nécessite. Comment pouvons-nous donc atténuer ce phénomène? Quelle est l'évolution de cette situation?
Chris Howard : Oui, il s'agit d'accélérer les sources d'énergie alternatives, en particulier pour les méga-fournisseurs qui effectuent le calcul dans leurs entreprises de serveurs, mais l'autre chose que je vois, ce sont des entreprises privées qui ont les moyens de le faire, comme BASF, un bon exemple, qui va construire un parc éolien dans la mer du Nord qui alimentera toutes ses usines avec l'excédent qu'il restituera ensuite au réseau. C'est ainsi que l'on retrouve certaines de ces initiatives du secteur privé en matière d'énergies alternatives, comme c'est le cas ici. L'autre chose dont je ne suis pas totalement convaincu, c'est qu'il y a d'autres compensations. Lorsque j'ai interrogé Microsoft à ce sujet, ils sont un acteur majeur, bien sûr, dans le domaine de l'informatique, je leur ai parlé et ils m'ont répondu que oui, nous compensons en faisant d'autres choses à l'échelle comme le béton vert et les véhicules électriques sur le campus et notre gestion des tiers, etc., mais cela va prendre 20, 30 ou 40 ans. Il est donc difficile de savoir ce qu'il en est à l'heure actuelle, mais cela accélère le mouvement autour de la périphérie, et encore une fois, simplement dans l'industrie des semi-conducteurs, qui exige moins d'énergie pour plus de perspicacité.
[00:03:56 Le texte suivant apparaît à l'écran : « Sur quoi les régulateurs doivent-ils mettre l'accent face aux perturbations de l'IA et aux menaces qui pèsent sur la démocratie? ».]
C'est une question très complexe, mais tellement importante. Il y a donc… ce qui rend la chose difficile, parce qu'il est souvent question de « vidéos hypertruquées » pour perturber la démocratie, de « fausses nouvelles », ce genre de choses, il est très difficile de dire ce qui est faux et ce qui ne l'est pas aujourd'hui. Avec les images, c'est un peu plus facile. Pour les textes, c'est très difficile. Il y a une série d'innovations autour de la détection des modèles qui produisent le résultat généré parce qu'il y a des modèles que ces systèmes peuvent détecter qui montreraient qu'il y a un filigrane, mais je pense que c'est vraiment autour de… la réglementation devrait mettre l'accent sur l'intégrité de l'environnement d'information, point, qui est consommé pour produire ces choses, et la réglementation devrait avoir une combinaison d'innovation et d'humains dans cette boucle générative pour garantir l'intégrité du résultat où; vous avez moins de contrôle, et la chose qui rend les choses vraiment difficiles est que ces contrôles mécaniques sont extrêmement immatures à l'heure actuelle.
Mais l'un des objectifs de la réglementation est de sensibiliser les gens à quelque chose de très précis, et je pense que l'exposition continue aux risques réels et à la manière dont ils sont atténués pour que la réglementation reste en phase avec ces risques est vraiment la clé, mais une grande partie de cela est que les gens n'ont pas de mauvaises intentions lorsqu'ils font de mauvaises choses en interne, en général, n'est-ce pas? C'est juste qu'ils ne savaient pas. Il s'agit donc en partie de leur exposer les risques pour qu'ils sachent où; se situent les limites, ce qu'Ada fait dans certains cas, n'est-ce pas? Il s'agit en quelque sorte de dire : voici les choses qui peuvent mal tourner, nous avons besoin que vous en informiez le gouvernement, voici un endroit sûr pour jouer, nous n'allons pas punir l'innovation, donc tous ces types de choses, et donc juste cette clarté, mais je garde un œil sur les technologies d'atténuation qui l'entourent parce qu'il y a d'autres choses dans la couche de sécurité elle-même, des techniques d'IA pour protéger l'environnement, qui entrent en jeu ici aussi, mais plus à venir sur ce sujet.
Oui, je crois qu'il y a des décisions qui ne peuvent jamais être automatisées et cela se résume à…
Intervieweur : Elles peuvent l'être, mais peut-être ne devraient-ils pas l'être.
Chris Howard : Oui, exactement. En fin de compte, tout peut être automatisé. Ce qui m'inquiète, c'est que l'être humain devienne le problème que le système tente de résoudre, n'est-ce pas? Si nous nous opposons à la solution recherchée par le système… Cela relève de la science-fiction, mais c'est tout à fait possible, n'est-ce pas? Il ne s'agit pas seulement des humains, de la guerre et d'autres choses de ce genre, mais aussi d'autres types de choses qui pourraient être nuisibles à l'environnement, et il faut… il faut certainement des garde-fous autour de cela, mais ce qui me préoccupe avec ces outils, c'est le risque d'abdication de la pensée critique de la part des humains. Si nous faisons confiance à ces machines qui nous donnent en quelque sorte ces réponses et qui nous semblent justes la plupart du temps, nous devenons paresseux. C'est ce qui me préoccupe. Je me demande alors si nous n'avons pas laissé ce champ de décision s'étendre trop loin avant d'y avoir vraiment réfléchi et d'y avoir mis un terme.
Cela me rappelle un épisode de Star Trek où; il y avait une guerre entre deux planètes et où; tout se passait sur ordinateur. Les chiffres ont en quelque sorte été générés, d'accord, cela nécessite 46 000 décès, et ils sont simplement entrés dans les chiffres, n'est-ce pas? Nous n'en sommes plus très loin. Mais oui, c'est le genre de conversations qu'il faut encourager au niveau gouvernemental. Cela nous ramène à la question. Il s'agit autant d'une conversation philosophique que mécanique. Ce n'est pas une bonne réponse à cette question, mais c'est une question difficile. Je veux dire que j'y pense beaucoup. J'y pense souvent. Cela signifie que nous devons impliquer toutes sortes de personnes dans la prise de ces décisions. La diversité est la clé du succès, n'est-ce pas?
C'est la diversité des opinions, des pensées, des antécédents, des expériences qui permet de déterminer où; les décisions peuvent être prises et où; elles ne peuvent pas l'être, contrairement à ce qui me préoccupe aujourd'hui et qui est un peu le propre de la Silicon Valley, c'est-à-dire le solutionnisme. Les personnes qui n'ont pas vécu les problèmes du monde réel et qui créent des solutions pour les résoudre m'inquiètent quelque peu, car je pense que ce sont les personnes qui vivent les problèmes qui sont les plus susceptibles d'apporter des solutions. Nous devons donc les impliquer davantage. Pour l'instant, il s'agit d'une expérience très cartésienne où; nous prenons les choses et les réduisons, mais nous devons parfois prendre du recul et regarder l'ensemble, et cela demande un autre type de réflexion, je pense.
[00:08:29 Le texte suivant apparaît à l'écran : « Quel est l'impact de l'IA développée en Amérique du Nord sur le reste du monde? ».]
Je veux dire que je m'inquiète vraiment à ce sujet. Il y a environ quatre ans, j'ai eu une conversation avec Sir Tim Berners-Lee, l'inventeur du Web, alors que la moitié de la population mondiale n'était pas encore connectée à l'Internet. Ils ne sont donc pas représentés de manière optimale dans les données qui forment ces outils, n'est-ce pas? C'est peut-être le point de vue d'un tiers qui fait partie de ces outils, mais le fait qu'ils n'y contribuent pas directement de manière régulière comme le font les pays développés crée un énorme biais rien que dans les modèles de base eux-mêmes, n'est-ce pas? Il s'agit donc d'un problème difficile à surmonter, ne serait-ce qu'en raison de la disponibilité des données elles-mêmes.
Mais une fois que ces données sont utilisées, on fait appel à plusieurs parties pour les former, à plusieurs personnes pour les former, et c'est là qu'intervient l'opportunité pour diverses populations d'avoir un droit de regard différent, mais ce n'est pas au même niveau, ce n'est tout simplement pas à la même échelle. Je pense donc que la concentration du pouvoir se fait au profit d'une poignée de grands fournisseurs, de trois ou quatre grands fournisseurs. Ce problème est donc atténué dans le monde du code source ouvert, où; des modèles non commerciaux sont développés à partir de cohortes de personnes, ce qui peut permettre de résoudre une partie du problème, mais il y a toujours un problème d'échelle et d'argent. Ce n'est pas un problème facile à résoudre.
Question : (inaudible)
Chris Howard : Oui, allez-y.
Question : C'est donc là que se trouve la valeur ajoutée du secteur public?
Chris Howard : Oui.
Question : En effet, nos données sont diverses.
Chris Howard : Oui.
Question : Nos données témoignent de ce type de perspectives multimodales.
Chris Howard : Oui.
Question : Est-ce là la valeur que nous apportons à la table?
Chris Howard : En effet. Alors, l'IE, c'est ça? Vous êtes donc dans l'emploi… dans le monde des services. On peut donc se demander qui a besoin de cette assurance et qui est sous-représenté, par exemple les sans-abri. Ils ont droit à l'assurance que vous leur fournissez. Sont-ils dans le modèle? Comment sont-ils représentés? Pour vous, il s'agit donc de créer un ensemble de données spécifiques à un domaine qui représente les personnes que vous devez servir. Et puis, ce que vous faites, c'est que vous utilisez toujours ces données pour apporter des réponses, n'est-ce pas? Ces données uniques deviennent donc le cœur du service que vous fournissez. Maintenant, si votre agence fait cela et que les autres font de même, vous vous retrouvez avec un modèle plus large qui représente potentiellement une vision plus juste des citoyens, oui. C'est donc un peu un point de fuite en termes de design, mais je pense que vous êtes sur la bonne voie. C'est donc la valeur qu'apporte le secteur public, car il s'agit d'une vision non commerciale des personnes. Tout le reste est une vision commerciale. Ainsi, même les brevets déposés par Meta et Facebook sont tous des brevets commerciaux portant sur la manière de vendre des produits ou de faire de la publicité, etc. Ce n'est pas la façon dont vous les servez qui compte.
[00:11:23 Le texte suivant apparaît à l'écran : « Compte tenu de la forte consommation d'énergie des calculs de l'IA, les régulateurs ont-ils un nouveau rôle à jouer en matière de défense des intérêts? ».]
Il devrait y en avoir, oui. Je veux dire qu'il devrait vraiment y en avoir. Je ne suis pas... le travail que je fais avec l'OCDE n'est pas à ce niveau. Cela pourrait être le cas, car je pense qu'à un moment donné, ces éléments doivent converger. Nous ne pouvons pas consommer aveuglément de l'énergie à cette fin sans penser à la valeur produite en retour, n'est-ce pas? En effet, si ce que vous suggérez se produisait, cela donnerait une meilleure forme à l'innovation dans le domaine de l'énergie, par exemple, et donnerait un peu plus de mordant à cette innovation. Je pense que cela forcerait les changements à se produire plus rapidement là où; ils sont vraiment nécessaires, parce que je suis frustré par cette situation. Je pense au Canada. Je veux dire que ma famille est à Halifax. Mon frère vit à Hammonds Plains où; les incendies ont eu lieu l'été dernier. Cela ne s'est jamais produit lorsque j'étais enfant dans cette région. Je veux dire que les choses dont nous pensions qu'elles ne se produiraient pas avant 20 ou 30 ans se produisent aujourd'hui. Il est donc temps de faire quelque chose à ce sujet, et ce qui me rend fou, c'est que nous avons l'intelligence nécessaire pour le faire. Nous l'appliquons simplement au mauvais endroit, n'est-ce pas? Et nous avons besoin d'une sorte de fonction de forçage pour mieux faire les choses.
J'ai eu un appel avec David Suzuki il n'y a pas longtemps, et si vous avez déjà eu un appel avec lui, vous savez qu'il n'est pas l'homme doux que vous aviez l'habitude de voir dans l'émission The Nature of Things, n'est-ce pas? Il est, selon ses propres termes, en colère. Cela fait des dizaines d'années que l'on fait ça et rien ne se passe, n'est-ce pas? Aujourd'hui, je pense que nous disposons d'outils qui nous permettent de voir les choses différemment, de les analyser différemment, de les prévoir différemment, de prendre des mesures à l'avance grâce à l'existence de ces outils, n'est-ce pas ? Mais je pense que ce que vous dites est une bonne idée, et il se peut que cela existe et je ne le sais pas, mais je pense que c'est vers cela que nous devons nous diriger. Il ne peut s'agir uniquement de l'utilisation de ces technologies pour notre propre bénéfice. Ce n'est pas possible. Si c'est ce à quoi cela nous a amenés, alors nous avons en quelque sorte échoué en tant qu'espèce.
Merci de votre attention. Encore une fois, j'espère que vous avez trouvé cela utile et intéressant pour le travail que vous faites au Canada.
[00:13:34 Le logo de l'EFPC apparaît à l'écran.]
[00:13:40 Le logo du gouvernement du Canada apparaît à l'écran.]
