Les droits de l’homme à l’ère du numérique

Les droits de l'homme à l'ère du numérique : peuvent-ils changer les choses ?

Discours liminaire de Michelle Bachelet, Haute-Commissaire des Nations Unies aux droits de l'homme

Japan Society, New York, 17 octobre 2019

Chers intervenants,
Chers collègues et amis,

Je souhaite remercier le Center for Human Rights and Global Justice de l'Université de New York, Amnesty International et le journal The Guardian de m'avoir invitée à cet événement, qui s'annonce dynamique et d'une extrême importance.

Il est crucial de se concentrer sur les droits de l'homme à l'ère du numérique. Nous assistons déjà à une collecte des données à l'échelle industrielle. Les États, les partis politiques, les organisations et surtout les entreprises détiennent des informations remarquablement détaillées et puissantes à notre sujet. De plus en plus d'aspects de nos vies sont surveillés, stockés et utilisés en ligne – parfois à mauvais escient. Si on y réfléchit bien, nous tous qui sommes venus ici aujourd'hui avec un smartphone avons laissé des empreintes numériques menant tout droit à cette salle.

La technologie numérique offre déjà de nombreux avantages. Sa valeur du point de vue des droits de l'homme et du développement est énorme. Nous pouvons nous connecter et communiquer dans le monde entier comme jamais auparavant. Nous pouvons favoriser l'autonomisation, la diffusion d'informations et l'établissement de procédures d'enquête. Nous pouvons utiliser des communications cryptées, des images satellites et des flux de données pour défendre et promouvoir directement les droits de l'homme. Nous pouvons même utiliser l'intelligence artificielle pour prédire les violations des droits de l'homme et y mettre un terme.

Toutefois, nous ne pouvons ignorer son côté obscur. Je ne peux pas être plus claire : la révolution numérique est un problème majeur à l'échelle mondiale en ce qui concerne les droits de l'homme. Ses avantages incontestables ne font pas oublier ses risques sans équivoque.

Nous ne pouvons pas non plus nous permettre de considérer le cyberespace et l'intelligence artificielle comme des domaines non gouvernés ou ingouvernables – un « trou noir » pour les droits de l'homme. Les mêmes droits existent, que ce soit en ligne ou hors ligne. L'Assemblée générale des Nations Unies et le Conseil des droits de l'homme l'ont affirmé.

Chers collègues et amis,

Nous ne devrions pas nous sentir dépassés par l'ampleur ou la rapidité du développement numérique, mais nous devons comprendre les risques spécifiques qui y sont associés.

Une grande partie de notre attention se focalise, à juste titre, sur les obstacles à la liberté d'expression en ligne et l'incitation à la haine et à la violence. Le harcèlement en ligne, les campagnes de trolling et l'intimidation polluent en partie Internet et représentent de réelles menaces hors ligne, surtout pour les femmes. Les messages sur les médias sociaux ciblant la communauté rohingya au Myanmar au cours de la période précédant les massacres et les viols collectifs de 2017 constituent le cas le plus meurtrier à ce jour. Les enquêteurs spécialisés dans les droits de l'homme ont constaté que Facebook – et ses fils d'actualité reposant sur des algorithmes – avait contribué à la propagation de discours de haine et d'incitation à la violence.

Ces graves violations des droits de l'homme ne laissent place à aucun doute. Les menaces, les intimidations et le cyberharcèlement sur Internet aboutissent à de réels cas de ciblage, de harcèlement, de violence et de meurtre, et même à des allégations de génocide et de nettoyage ethnique. Toute inaction entraînera une réduction supplémentaire de l'espace civique, une diminution de la participation, une plus grande discrimination, et un risque permanent de conséquences mortelles – en particulier pour les femmes, les minorités et les migrants, pour tous ceux étant considérés comme faisant partie des « autres ».

Par ailleurs, la réaction exagérée des autorités chargées de la réglementation consistant à maîtriser les discours et l'utilisation de l'espace en ligne constitue également un problème majeur en matière de droits de l'homme. Des dizaines de pays limitent ce à quoi les gens peuvent accéder, freinent la liberté d'expression et les activités politiques, souvent sous prétexte de lutter contre la haine ou l'extrémisme. Les coupures Internet semblent être devenues un outil commun pour étouffer les débats légitimes, l'opposition et les protestations. L'ONG Access Now a relevé 196 coupures dans 25 États en 2018, soit presque trois fois le nombre (75) enregistré en 2016.

Certains États ternissent délibérément la réputation de certains défenseurs des droits de l'homme et groupes de la société civile en diffusant de fausses informations à leur sujet ou en orchestrant des campagnes de harcèlement. D'autres utilisent des outils de surveillance numérique pour traquer et cibler des défenseurs des droits de l'homme et d'autres personnes perçues comme des détracteurs.

Chers collègues et amis,

Outre ces dangers très réels (la sous-réglementation, la surréglementation et les abus délibérés), nous constatons des risques sans précédent pour le droit à la vie privée. Les garanties en matière de vie privée sont défaillantes dans de trop nombreux cas. Nombreux sont ceux qui ignorent complètement qui détient leurs données et la manière dont ces dernières sont utilisées.

Et puisque ces données sont conservées sur une grande échelle, les risques et les effets liés à leur utilisation abusive sont aussi vastes. La partie sombre du spectre numérique ne menace pas seulement la vie privée et la sécurité, mais compromet également la tenue d'élections libres et équitables, met en péril la liberté d'expression, d'information, de pensée et de croyance, et cache la vérité sous de fausses informations. Les enjeux ne pourraient être plus élevés – la direction de pays et de continents entiers.

Cela est important non seulement du point de vue de la confidentialité, mais aussi en ce qui concerne la collecte de données à grande échelle et leur utilisation abusive, et la manipulation des électeurs. Nous l'avons vu récemment avec les cas signalés concernant l'élection présidentielle américaine, le référendum sur le Brexit au Royaume-Uni et les sondages au Brésil et au Kenya. Plusieurs journaux, dont The Guardian, ainsi que des fonctionnaires dévoués ont joué un rôle prépondérant afin de révéler ces abus au grand public.

À mesure que la révolution numérique se poursuivra, l'utilisation de la technologie à des fins légitimes et illégitimes augmentera. Les États et les entreprises utilisent déjà des outils reposant sur des données capables d'identifier des personnes comme des menaces pour la sécurité, y compris aux frontières et dans les systèmes de justice pénale. Les systèmes d'intelligence artificielle évaluent et classent les individus ; tirent des conclusions à partir de leurs caractéristiques physiques et mentales ; et prédisent leur futur état de santé, leur aptitude à l'emploi, voire leur probabilité de commettre une effraction. Le profil, la « notation » et le « classement » des individus peuvent être utilisés pour évaluer l'admissibilité à une assurance médicale, à d'autres types d'assurance et à des services financiers.

Outre les violations des droits de l'homme que j'ai décrites, nous faisons face à une toute nouvelle catégorie – qui cette fois-ci n'est pas nécessairement intentionnelle , n'est pas le résultat d'un désir de contrôler ou de manipuler, mais est la conséquence d'une volonté légitime d'accroître l'efficacité et de réaliser des progrès.

Les inégalités du monde réel sont reproduites dans les algorithmes et imprègnent à nouveau le monde réel. Les systèmes d'intelligence artificielle ne peuvent pas saisir la complexité de l'expérience des besoins humains. Les systèmes numériques et l'intelligence artificielle créent des noyaux de pouvoir et les noyaux de pouvoir non réglementés comportent toujours des risques – y compris pour les droits de l'homme.

Nous savons déjà à quoi ressemblent certains de ces risques dans la pratique. Des programmes de recrutement qui dénigrent systématiquement les femmes. Des systèmes qui classent les suspects noirs comme risquant davantage de récidiver. Des programmes de police prédictive qui conduisent à une présence policière excessive dans des zones pauvres ou peuplées par des minorités. Les personnes les plus touchées sont souvent en marge de la société. Seule une approche fondée sur les droits de l'homme qui considère les individus comme les titulaires de droits, leur donne les moyens d'agir et crée un environnement juridique et institutionnel pour faire respecter leurs droits et pour demander réparation pour toute violation et tout abus des droits de l'homme peut faire face à ces problèmes.

Chers collègues et amis,

La technologie numérique est utilisée non seulement pour surveiller et classer, mais aussi pour influencer. Nos données ne sont pas seulement numérisées, mais aussi monétisées et politisées. Les processus numériques, en plus de nous servir, nous façonnent. Nous avons raison de nous inquiéter profondément de la manière dont les mégadonnées, l'intelligence artificielle et d'autres technologies numériques influent sur nos vies et la société.

Nous avons également raison de signaler la situation des personnes qui travaillent dans l'industrie numérique, souvent dans des emplois précaires ou dans l'économie « à la tâche » et qui n'ont accès à aucun des avantages liés à un emploi sûr. Il est essentiel qu'ils puissent jouir pleinement de leurs droits de l'homme, notamment le droit d'adhérer à des syndicats et de faire grève. Dans certains cas, cela peut aider à diminuer les excès économiques.

Ces obstacles nous ramènent aux principes intemporels de la Déclaration universelle des droits de l'homme. Nous sommes tous égaux, nous possédons des droits inaliénables et devons être traités avec la dignité inhérente à l'être humain. Chaque personne a le droit de vivre sa vie sans discrimination et d'exercer son droit à la participation politique, à la protection de la vie privée, à la santé, à la liberté et à un procès équitable. Chaque personne a le droit à la vie.

Pour respecter ces droits dans notre monde en rapide évolution, nous devons veiller à ce que la révolution numérique serve le peuple, et non l'inverse. Nous devons nous assurer que chaque processus automatisé ou système d'intelligence artificielle est conforme à plusieurs principes fondamentaux comme la transparence, l'équité, la responsabilisation, la surveillance et les recours.

Mais à qui revient la responsabilité de s'attaquer à ces risques multiples et complexes qui transcendent les cultures, les frontières nationales et les juridictions ? Les États qui détiennent la responsabilité première de protéger les droits de l'homme et de garantir les recours ? Les entreprises qui peuvent changer leur façon de travailler ? Les organisations internationales qui peuvent rechercher des solutions transfrontalières ? Les universitaires ? Les journalistes ? Les parlementaires ? Les défenseurs des droits de l'homme ? Les ONG et les groupes de la société civile ?

Je pense que c'est l'affaire de toutes ces entités, en partenariat, et qu'elles doivent partager un sentiment de responsabilité et d'appropriation. Nous avons besoin d'une intervention humaine universelle pour défendre des droits de l'homme universels.

En outre, devons-nous relever ces défis de manière éthique ou conformément aux droits de l'homme ? Il est très encourageant de voir que certains États, blocs régionaux, entreprises, universitaires et autres personnes passionnées et clairvoyantes ont montré la voie en élaborant des directives éthiques pour mettre fin à l'injustice et à la discrimination. Toutefois, je crois également que les directives, les codes de conduite et leur respect volontaire ne sont pas à eux seuls assez robustes face à l'ampleur des défis auxquels nous faisons face.

Les données sont synonymes de puissance, les mégadonnées sont donc très puissantes – et toute cette puissance peut être détournée. Cela est vrai dans n'importe quel contexte, et le monde numérique n'y échappe pas. Le cadre international des droits de l'homme va plus loin que l'éthique elle-même en plaçant les freins et contrepoids nécessaires sur ce pouvoir. Il fournit une base juridique solide sur laquelle les États et les entreprises peuvent s'appuyer pour agir à l'ère du numérique. Il fournit des indications très claires sur ce que constitue un comportement acceptable – et, ce qui est tout aussi important, il a déjà été établi et accepté par les États. En parallèle à la Déclaration universelle, nous disposons de nombreux traités, conventions, tribunaux, commissions et autres institutions qui peuvent pousser les États et les sociétés à répondre de leurs actes.

Les droits de l'homme et l'éthique ne sont pas deux concepts opposés. Comme l'indique clairement une récente publication du Forum économique mondial sur l'utilisation responsable de la technologie, ces deux aspects peuvent fonctionner en parallèle, donnant ainsi naissance à une combinaison puissante où les droits de l'homme renforcent l'éthique, et où l'éthique renforce les droits de l'homme.

Si nous voulons tirer le meilleur parti de la révolution numérique, nous devons adopter ce genre d'approche non binaire dans toutes nos démarches, en nous servant du cadre des droits de l'homme pour nous guider. Un cadre des droits de l'homme et des normes éthiques. Des obligations et des responsabilités. Les États et les entreprises. L'intelligence artificielle et la dignité humaine. Des garanties liées à la liberté d'expression et des dispositions de protection claires face aux discours haineux.

Cela implique des positions solides de la part des gouvernements, avec des politiques qui comprennent le devoir de protéger l'ensemble des droits – en tenant dûment compte des droits sociaux, culturels et économiques – lors de l'élaboration des lois, des directives et des règlements. Cela implique que les géants de la technologie montrent la voie à travers leurs pratiques commerciales. Cela implique de donner aux gens les moyens de contrôler les décisions prises concernant l'utilisation de leurs données personnelles. Cela implique de veiller à ce que les couches les plus pauvres et marginalisées de nos sociétés aient accès à des voies de recours lorsque leurs données sont mal utilisées, ou lorsqu'elles font l'objet de décisions discriminatoires issues de processus de décision automatisés. Cela implique de mener des évaluations de l'impact sur les droits de l'homme à tous les stades de l'élaboration et de la mise en œuvre des systèmes d'intelligence artificielle – il s'agit d'un domaine très important où les entreprises et les chercheurs peuvent faire preuve de responsabilité et de capacités de direction.

Les gouvernements et les entreprises n'ont pas besoin de partir de zéro. Outre les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme, nous disposons d'excellentes directives dans plusieurs secteurs spécifiques, telles que les directives de l'Union européenne sur la mise en œuvre des Principes directeurs dans le secteur informatique, les directives du groupe Telecommunications Industry Dialogue et les Principes et directives GNI.

Chers collègues et amis,

Aucun aspect de la révolution numérique ne peut ni ne doit être considéré sans prendre en compte les droits de l'homme. Nous devons constamment chercher et évaluer les lacunes en matière de protection. Cela signifie seulement d'adopter de nouvelles lois pour suivre le rythme de l'évolution numérique, mais aussi d'adapter la manière dont nous utilisons les institutions et les processus. Nous avons besoin d'institutions qui puissent contrôler l'influence qu'ont les entreprises axées sur les données et les États qui les utilisent. Nous ne pouvons protéger efficacement les droits de l'homme que si nous adaptons sans cesse nos processus afin de trouver le bon équilibre en matière d'intervention.

La réglementation de l'espace numérique par un gouvernement suscite bien entendu ses propres enjeux, en particulier si les garanties fondamentales de l'état de droit ne sont pas respectées : notamment l'égalité devant la loi, l'équité et le principe de responsabilité.

N'oublions pas qu'à chaque fois que nous réglementons les médias sociaux, nous décidons de ce que les gens peuvent dire, voir et entendre dans un monde devenu un espace prédominant de débat public et de vie publique. Nos interventions doivent donc être bien pensées et éviter à tout prix les excès. Si une réglementation est nécessaire, nous devrions porter notre attention sur la manière dont sont dirigées les plateformes plutôt que sur les points de vue exprimés. Nous pourrons identifier les meilleures solutions en travaillant en partenariat, en partageant les meilleures pratiques et en étudiant les résultats détaillés des systèmes nationaux de réglementation, y compris les conséquences involontaires.

Chers collègues et amis,

Il est dès à présent crucial que les gouvernements, les plateformes de médias sociaux et les entreprises protègent de toute urgence les éléments fondamentaux de la société démocratique, l'état de droit et tous nos droits de l'homme lorsque nous sommes en ligne : le suivi, l'intégrité et la responsabilité sont nécessaires. Face à l'avancée du numérique, l'un de nos plus grands défis en tant que communauté des droits de l'homme sera d'aider les entreprises et les sociétés à mettre en œuvre le cadre international des droits de l'homme dans des espaces encore inconnus. Cela consiste notamment à établir des orientations claires sur les responsabilités des entreprises ainsi que sur les obligations des États.

Au mieux, la révolution numérique permettra de favoriser l'autonomisation, de se connecter, de s'informer et de sauver des vies. Au pire, elle nous affaiblira, nous éloignera les uns des autres, nous induira en erreur et coûtera des vies.

Les droits de l'homme feront toute la différence dans cette équation.

Merci.