Éthique des données 101 (DDN3-A10)
De nos jours, chaque organisation est constituée de données. On estime que 402 millions de téraoctets de données sont créés chaque jour, et que 90 % des données dans le monde, en 2024, auraient été produites entre 2022 et 2024. En plus d'entraîner des contraintes techniques, cette production massive de données suscite des questionnements éthiques. Dans ce monde gouverné par les données, l'éthique prend toute son importance, car elle peut nous aider à traiter l'information de façon juste et responsable.
Qu'est-ce que l'éthique des données?
Définissons d'abord séparément les notions de « données » et d'« éthique ». Les données renvoient aux faits, aux illustrations, aux observations ou aux enregistrements qui se présentent sous forme d'image, de son, de texte ou de mesures physiques. L'éthique, quant à elle, réfère à notre jugement moral et à nos comportements.
L'éthique des données désigne donc les responsabilités éthiques et morales associées à la collecte, au partage et à l'utilisation des données. Elle garantit que les données sont collectées et utilisées de façon appropriée, avec justice et pour le bien commun, à tous les stades de leur cycle de vie.
L'éthique des données incite les utilisateurs et utilisatrices à penser aux implications éthiques de la collecte de données avant de procéder à celle-ci, de sorte que l'initiative réponde à un besoin précis et soit réellement utile à la société et à ses membres. En évaluant les implications morales liées aux données, on formule des propositions qui privilégient la conduite et les valeurs appropriées. Ce principe s'applique aussi aux algorithmes, comme ceux qu'utilisent l'intelligence artificielle et l'apprentissage automatique, ainsi qu'aux pratiques comme l'innovation et la programmation responsables.
Quels sont les grands principes de l'éthique des données?
Les principes encadrant1 l'éthique des données ne sont pas fixés de façon immuable. En éthique des données, plutôt que des généralisations, on pose des préceptes qui englobent le plus de situations possible. Les grands thèmes sont généralement les mêmes, mais les organisations les adaptent selon le milieu et leur emploi. Voici une liste non exhaustive des grands principes et des questionnements courants applicables aux situations où l'éthique est en jeu :
Sécurité et protection des renseignements personnels
Les renseignements personnels sont-ils protégés et bien gardés, de manière à ce que les données qui permettraient d'identifier une personne et les renseignements qui pourraient porter préjudice à une personne ou à une organisation demeurent à l'abri des utilisations non autorisées? Ont-ils été anonymisés pour garantir la protection de la vie privée?
Comment garantir la sécurité et la protection des renseignements personnels
- Principes de protection en amont : Avant de collecter les données, demandez-vous si vous en avez réellement besoin et si les avantages que vous pensez en tirer justifient une éventuelle atteinte à la vie privée.
- Intrusion minimale : Justifiez chaque intrusion, et expliquez en quoi elle est nécessaire et adaptée à vos objectifs.
- Consentement éclairé : Respectez la vie privée en obtenant le consentement de chaque personne concernée avant de collecter, d'utiliser ou de divulguer ses renseignements personnels.
- Évaluation de sécurité : Menez une évaluation de sécurité rigoureuse et protégez les données et l'information selon le niveau de sécurité fixé (non classifié, classifié, protégé).
- Anonymisation des données : Appliquez des méthodes comme l'anonymisation et la pseudonymisation pour protéger les renseignements personnels.
Transparence et responsabilité
Précise-t-on les raisons motivant l'utilisation, ainsi que le lieu et la méthode d'entreposage des données? Supervise-t-on et gère-t-on les données avec la rigueur nécessaire pour garantir qu'elles sont utilisées de façon éthique?
Comment garantir la transparence et la responsabilité
- Communication claire et ouverte : Ouvrez des canaux de communication fluides et expliquez en langage simple à toutes les parties prenantes le but de la collecte et les utilisations prévues des données.
- Réponse rapide : Répondez rapidement et franchement aux demandes de renseignements internes sur la transparence des données.
- Faire preuve de transparence au sujet des renseignements personnels : Les organisations doivent expliquer les systèmes et les processus employés pour protéger la vie privée des personnes lorsqu'elles manipulent des données de nature délicate. Surveillez la conformité aux lois et règlements pertinents (législation sur la protection des données, notamment).
- Stratégies en place : Étudiez et appliquez les stratégies et les priorités de votre ministère concernant le traitement des données, les missions découlant de la Stratégie relative aux données pour la fonction publique fédérale et les dispositions relatives à la souveraineté des données autochtones du Plan d'action de la Loi sur la Déclaration des Nations Unies sur les droits des peuples autochtones.
Justice et inclusion
Avez-vous évalué les risques que votre utilisation de certaines données ait des incidences négatives, dommageables ou discriminatoires? Votre utilisation des données aura-t-elle des conséquences discriminatoires, même involontaires, sur des groupes particuliers?
Comment garantir la justice et l'inclusivité
- Sensibilisation aux biais et atténuation de ceux-ci : Cernez et comprenez les différents types de biais qui peuvent affecter votre travail et appliquez des mesures préventives qui les atténueront dans la collecte, l'analyse et l'interprétation des données.
- Représentation et diversité : Confirmez que les données collectées reflètent la diversité de la population qu'elles décrivent; évitez la surreprésentation ou la sous-représentation d'un groupe.
- Approche participative : Consultez les communautés, les groupes de promotion et les spécialistes en éthique pour recueillir leur avis, garantir la justice et l'équité dans les données, et confirmer que votre démarche correspond aux besoins et valeurs des communautés concernées.
- Inclusion et non-discrimination : Intégrez diverses parties prenantes et perspectives dans la conception, la mise en œuvre et l'évaluation des initiatives sur les données.
- Surveillance et évaluation continue : Suivez de près la collecte de données et évaluez régulièrement ses effets pour mesurer comment l'utilisation des résultats touche différents groupes, ainsi que pour détecter les disparités et les iniquités et y remédier quand elles surviennent.
Les principes qui précèdent constituent l'ossature des valeurs communes des fonctionnaires et de l'ensemble de la population canadienne : respect de la démocratie, respect envers les personnes, intégrité, intendance, et excellence. Ils nous aident à reconnaître les difficultés éthiques dans notre travail et à nous y attaquer; nous pouvons ainsi gagner la confiance du public.
À quel point est-il important pour les fonctionnaires de comprendre l'éthique des données?
L'éthique des données a toujours joué un rôle essentiel dans les processus gouvernementaux, de la collecte de l'information à la prise de décision, mais deux facteurs ont rendu la démarche plus importante que jamais : la maturité des données2 et la hausse des attentes du public par rapport aux services numériques.
La quantité de données auxquelles ont accès les organisations a explosé. Ces données proviennent souvent de sources variées, parfois floues, et il n'est pas toujours clair si les autorisations pertinentes ont été accordées, en particulier pour l'utilisation des renseignements personnels. Dans cette navigation complexe, manipuler les données de façon responsable exige de s'appuyer sur de solides principes éthiques. Qui plus est, l'émergence de l'apprentissage automatique et des algorithmes de l'intelligence artificielle (IA) ont transformé la façon dont les organisations traitent et interprètent les données. Bien que ces technologies offrent de remarquables avantages, elles engendrent aussi des risques d'atteintes à la justice et de discrimination. Les décisions automatiques générées par l'IA, sans supervision humaine, peuvent involontairement perpétuer des biais et des inégalités.
Si nous ne comprenons pas l'éthique des données, nous risquons de créer ou de perpétuer involontairement des biais ou des injustices dommageables dans nos procédures. Voici plusieurs raisons pour lesquelles les fonctionnaires doivent assimiler l'éthique des données :
- Maintenir la confiance du public : Lorsqu'on connaît l'éthique des données, on garantit que la collecte et l'utilisation des données sont orientées de manière à servir l'intérêt du public et à prévenir les torts. La transparence et l'éthique sont de mise pour gagner la confiance de la population.
- Promouvoir la justice et l'équité : Les données peuvent refléter et amplifier les biais sociaux. Les fonctionnaires qui comprennent l'éthique des données peuvent assurer qu'on évite la discrimination dans la collecte et l'analyse de l'information; ils et elles promeuvent ainsi la justice et l'équité dans les services publics. Sinon, des données biaisées ou des analyses inadéquates pourraient donner lieu à des politiques moins appropriées pour certains groupes, par exemple, dans la manière dont le gouvernement établit l'admissibilité à des avantages ou investit dans des activités économiques dans certaines régions.
- Encourager la transparence et la responsabilité : Les décisions fondées sur les données doivent être transparentes et les décisionnaires doivent rendre des comptes pour que la population maintienne sa confiance à l'égard du gouvernement. Le partage ouvert des sources de données ainsi que des méthodes et critères de traitement concernés permet à la population de garder un œil sur ce qui est fait et garantit que les fonctionnaires sont redevables à l'égard des décisions prises et des résultats obtenus.
- Favoriser l'innovation et le progrès : Le traitement éthique des données pave la voie à l'innovation responsable. Il permet aux fonctionnaires d'orienter le progrès et d'améliorer les services publics tout en maintenant la confiance du public et en promouvant les intérêts de la population.
- Éviter les risques juridiques et les atteintes à la réputation : Le traitement non éthique des données peut entraîner des risques juridiques et des atteintes à la réputation pour le gouvernement du Canada. La compréhension profonde de l'éthique des données aide les fonctionnaires à contourner ces écueils potentiels; l'utilisation de l'information concernée est alors rendue conforme aux normes légales, et l'intégrité du gouvernement est préservée.
- Veiller à la sécurité : Les cyberattaques visant des organismes gouvernementaux sont de plus en plus communes, alors que des personnes mal intentionnées tentent d'exploiter des renseignements de nature délicate. Une solide compréhension de l'éthique des données favorise le respect des mesures de sécurité, la prévention des atteintes à la sécurité des données et la protection des données importantes.
Conclusion
En résumé, l'éthique des données consiste à collecter, à partager et à utiliser les données de façon responsable. Elle s'applique à tout le monde, des fonctionnaires qui donnent des services aux personnes qui établissent les politiques, et elle est essentielle pour améliorer les programmes, les politiques et les services et mieux répondre aux divers besoins de la population canadienne. En songeant aux principes directeurs et en vous renseignant sur la manière d'approfondir votre apprentissage en vue de les intégrer dans votre travail, vous pourrez appliquer concrètement l'éthique des données. Ainsi, non seulement votre traitement des données sera-t-il efficace, mais il sera aussi juste, transparent, et bénéfique pour toute la société.
Définitions
Principes encadrant Croyances ou valeurs fondamentales qui structurent la prise de décisions éthiques et le comportement.
-
Maturité des données La maturité des données fait référence au degré de capacité d'une organisation à manipuler et utiliser les données de manière efficace et éthique.
Ressources
