Derechos humanos en la era digital

Derechos humanos en la era digital. ¿Pueden marcar la diferencia?
Discurso programático de Michelle Bachelet, Alta Comisionada de las Naciones Unidas para los Derechos Humanos
Japan Society, Nueva York, 17 de octubre de 2019

Distinguidos ponentes,
Colegas y amigos:

Agradezco cordialmente la invitación que me extendieron el Centro de Derechos Humanos y Justicia Mundial de la Universidad de Nueva York, la organización Amnistía Internacional y el diario The Guardian, para participar en este evento, que promete ser dinámico y de suma importancia.

Es esencial que en esta era digital prestemos especial atención a los derechos humanos. El acopio de datos ya se realiza a escala industrial. Los Estados, los partidos políticos, diversas organizaciones y, en particular, las empresas disponen de informaciones detalladas y poderosas sobre nosotros. Cada vez son más numerosos los aspectos de nuestra vida que son rastreados, archivados y utilizados –a veces, mal utilizados- por conducto de sistemas informáticos. Basta pensar en que todos los que aquí nos congregamos, al tener un teléfono móvil, hemos generado un sendero digital que conduce a esta sala.

La tecnología digital ya nos proporciona múltiples beneficios. Su valor para el desarrollo y los derechos humanos es enorme. Podemos conectarnos y comunicarnos en el mundo entero como nunca antes. Podemos empoderar, informar e investigar. Podemos usar comunicaciones codificadas, imágenes transmitidas por satélite y flujos de datos para defender y promover directamente los derechos humanos. Hasta podemos emplear la inteligencia artificial para predecir y prevenir vulneraciones de derechos humanos.

Pero no podemos hacer caso omiso de su lado oscuro. Y no podría expresarlo de manera más enérgica que con esta fórmula: La revolución digital plantea un considerable problema de derechos humanos a escala mundial. Sus beneficios indudables no anulan sus riesgos evidentes.

Tampoco podemos permitirnos que el ciberespacio y la inteligencia artificial conformen un espacio sin ley o ingobernable, un agujero negro en materia de derechos humanos. Los mismos derechos existen en Internet que fuera de ella. Ese es un axioma proclamado por la Asamblea General de las Naciones Unidas y el Consejo de Derechos Humanos.

Colegas y amigos:

No tenemos que sentirnos abrumados por la escala o el ritmo del desarrollo digital, pero debemos comprender sus riesgos específicos.

Gran parte de nuestra atención se centra hoy en los problemas relativos a la libertad de expresión en Internet y en la incitación al odio y la violencia. El acoso en línea y las campañas de troleo e intimidación han contaminado algunas secciones de Internet y plantean amenazas muy reales fuera del mundo virtual, con efectos desproporcionados sobre las mujeres. En el caso más trágico, los mensajes contra la comunidad rohingya de Myanmar precedieron a las violaciones y masacres de 2017. Los investigadores en materia de derechos humanos llegaron a la conclusión de que Facebook, con su caudal de noticias alimentado por algoritmos, contribuyó a difundir el discurso del odio y la incitación a la violencia.

Estas graves violaciones de derechos humanos no dejan lugar a duda. Las amenazas, la intimidación y el ciberacoso en Internet se traducen en acoso, violencia y asesinato en el mundo real, e incluso pueden derivar en presuntos genocidios y limpieza étnica. La ausencia de acción en este sentido generará una reducción ulterior del espacio cívico, una merma de la participación, un aumento de la discriminación y un riesgo continuo de consecuencias letales, en particular para las mujeres, las minorías, los migrantes y cualquier otro grupo al que se considere “diferente”.

Pero la reacción excesiva de los controladores que tratan de limitar el uso y el discurso en Internet también plantea un problema esencial de derechos humanos. Decenas de países limitan actualmente el acceso al ciberespacio, reprimen la libertad de expresión y la actividad política, a veces con la excusa de combatir el odio o el extremismo. Al parecer, los bloqueos de Internet se han convertido en un instrumento habitual para sofocar el debate legítimo, la disidencia y la protesta. La ONG Access Now registró 196 cierres en 25 Estados ocurridos en 2018, lo que casi triplica la cifra de 75 registrada en 2016.

Algunos Estados manchan deliberadamente la reputación de defensores de derechos humanos y agrupaciones de la sociedad civil mediante la publicación de informaciones falsas sobre ellos en Internet o realizan campañas de acoso en su contra. En otros países se emplean dispositivos de vigilancia digital para localizar y estigmatizar a defensores de derechos humanos y otras personas consideradas como elementos críticos.

Colegas y amigos:

A la par de estos peligros muy reales, --regulación insuficiente, sobrerregulación y uso deliberadamente indebido--  presenciamos amenazas sin precedentes al derecho a la intimidad. Las salvaguardas que protegen la privacidad están fracasando en demasiadas ocasiones. Ahora muchas personas podrían ignorar totalmente quiénes poseen sus datos o cómo los están usando.

Y como los datos se conservan en una escala muy vasta, los riesgos y las repercusiones de su uso indebido son igualmente amplios. El extremo oscuro del espectro digital amenaza no solo la intimidad y la seguridad personal, sino que además socava las elecciones libres y equitativas, hace peligrar la libertad de expresión, información, pensamiento y creencia, y sepulta la verdad bajo un alud de noticias falsas o fake news. Lo que está en riesgo no podría ser más importante: la dirección de países e incluso de continentes enteros.

Este aspecto es significativo, no solo como una cuestión de privacidad, sino también en relación con la recopilación y el uso indebido de datos en gran escala, y la manipulación de los votantes. Hemos visto noticias al respecto en las elecciones presidenciales de Estados Unidos, el referéndum del Brexit en el Reino Unido, y en encuestas realizadas en Brasil y Kenya. Algunos periódicos, entre ellos The Guardian, junto con funcionarios públicos concienzudos, han logrado poner estos abusos en conocimiento de la opinión pública.

A medida que la revolución digital siga desarrollándose, aumentará el empleo de la tecnología tanto para usos legítimos como ilegítimos. Los Estados y las empresas utilizan ya herramientas que mediante el aprovechamiento de datos pueden identificar a personas como amenazas potenciales a la seguridad, incluso en las fronteras y en los sistemas de justicia penal. Los sistemas de inteligencia artificial evalúan y clasifican a las personas,  extraen conclusiones sobre sus características físicas y mentales, y predicen su estado de salud futuro, su idoneidad para desempeñar determinados puestos, e incluso la probabilidad de que puedan delinquir. Los perfiles, la “puntuación” y la clasificación de la gente pueden usarse con el fin de evaluar su elegibilidad para la asistencia sanitaria, los seguros y los servicios financieros. 

De modo que, junto a las vulneraciones de derechos humanos que acabo de describir, vemos una categoría completamente nueva de fenómenos, que esta vez no son necesariamente deliberados, no provienen de un afán de control o manipulación, sino que son subproductos de un legítimo impulso en pos de la eficacia y el progreso. 

Las desigualdades del mundo real se reproducen en los algoritmos y a través de estos vuelven al mundo real. Los sistemas de inteligencia artificial no pueden capturar la complejidad de la experiencia y las necesidades humanas. Los sistemas digitales y la inteligencia artificial crean centros de poder y los centros de poder carentes de regulación siempre plantean riesgos, incluso a los derechos humanos. 

Ya sabemos cómo algunos de estos peligros se traducen en la práctica. Programas de contratación que minusvaloran sistemáticamente a las mujeres. Sistemas que clasifican a los sospechosos negros como personas con más probabilidades de reincidencia delictiva. Programas policíacos de anticipación que generan un exceso de presencia policial en los barrios más pobres o con más representación de grupos minoritarios. Lo más probable es que quienes más sufran las repercusiones de estos sistemas sean las personas que estén en los márgenes de la sociedad. Únicamente una estrategia de derechos humanos que considere a las personas como titulares individuales de derechos, los empodere y cree un contexto jurídico e institucional para reforzar esos derechos y obtener reparación por cualquier violación o abuso de derechos, puede abordar adecuadamente estos problemas.  

Colegas y amigos:

La tecnología digital se usa actualmente no solo para monitorear y clasificar, sino también para influir. Nuestros datos no solo se digitalizan, sino además se usan con fines mercantiles y políticos. Los procesos digitales nos modifican al mismo tiempo que nos sirven. Tenemos razón de sentirnos sumamente preocupados por la forma en que los macrodatos, la inteligencia artificial y otras tecnologías digitales repercuten hoy sobre nuestra vida y nuestra sociedad. 

También tenemos razón al poner de relieve la situación de las personas empleadas en la industria informática, a menudo en condiciones precarias o en la economía sumergida, que pierden todos los beneficios inherentes al empleo fijo. Es fundamental que estas personas puedan disfrutar de todos sus derechos humanos, entre otros el derecho a la afiliación sindical y a la huelga. En determinados casos, el ejercicio de esos derechos puede poner coto a los excesos de las empresas.

Estos retos nos hacen volver a los principios intemporales de la Declaración Universal de Derechos Humanos. Todas las personas son iguales: individuos con derechos inalienables y una dignidad inherente. Cada persona tiene derecho a vivir su vida libre de discriminación, a participar en la actividad política, a la intimidad, la salud, la libertad y a recibir un juicio justo. Cada persona tiene derecho a vivir.

Para que estos derechos sean respetados en nuestro mundo que tan rápido evoluciona, debemos asegurarnos de que la revolución digital está al servicio de las personas y que no ocurre al revés. Debemos garantizar que cada proceso mecánico y cada sistema de inteligencia artificial cumplen con los principios fundamentales de transparencia, justicia, responsabilidad, supervisión y reparación. 

¿Pero a quién compete la responsabilidad de abordar estos desafíos múltiples y complejos, que trascienden culturas, fronteras nacionales y jurisdicciones legales? ¿A los Estados, que tienen la responsabilidad primordial de proteger los derechos humanos y garantizar la reparación judicial? ¿A las empresas que pueden cambiar nuestro modo de trabajar? ¿A las organizaciones internacionales que pueden buscar soluciones transfronterizas? ¿A los universitarios? ¿A los periodistas? ¿A los parlamentarios? ¿A los defensores de derechos humanos? ¿A las ONG y las agrupaciones de la sociedad civil?
Creo que la respuesta radica en una combinación de todo lo anterior, mancomunadamente, con un sentido común de la responsabilidad y la titularidad. Necesitamos una respuesta humana universal en defensa de derechos humanos universales.

¿Y abordamos estos desafíos mediante la ética o mediante los derechos humanos? Resulta muy alentador que algunos Estados, bloques regionales y empresas, algunos profesores y otras personas apasionadas y visionarias hayan demostrado grandes dotes de liderazgo en la elaboración de directrices éticas para vencer la injusticia y la discriminación. Pero también creo que las directrices, los códigos éticos y el cumplimiento voluntario no constituyen, por sí mismos, una respuesta suficientemente enérgica para la escala del problema que afrontamos.

Los datos son poder. Los megadatos son un superpoder. Y todo poder es susceptible de un uso indebido. Esto es cierto en cualquier contexto y el mundo digital no es la excepción. El marco internacional de derechos humanos nos permite avanzar más que la ética en la implantación de los controles y equilibrios necesarios para limitar ese poder. Este marco internacional proporciona las bases concretas y jurídicas sobre las cuales los Estados y las empresas pueden configurar sus respuestas en la era digital. Ese marco ofrece orientación nítida sobre qué conductas son aceptables y, lo que es igualmente importante, ya ha sido acordado y establecido por los Estados. Junto a la Declaración Universal, tenemos numerosos convenios, tratados, tribunales, comisiones y otras instituciones que pueden exigir responsabilidades a Estados y empresas. 

Las estrategias basadas en la ética y las que se sustentan en los derechos humanos no se contradicen. Tal como quedó claramente expuesto en una publicación reciente del Foro Económico Mundial sobre el uso responsable de la tecnología, los dos enfoques puede operar simultáneamente, lo que da origen a una poderosa combinación en la que ambos se refuerzan mutuamente.

De hecho, si queremos sacar el mejor partido posible a la revolución digital, necesitamos aplicar este tipo de pensamiento no binario a todas las respuestas, con el marco de derechos humanos como brújula. Un marco de derechos humanos y una normativa ética. Obligaciones y responsabilidades. Estados y empresas. Inteligencia artificial y dignidad humana. Garantías para la libre expresión y protección inequívoca contra el discurso del odio. 

Esto quiere decir que necesitamos respuestas enérgicas de los gobiernos, con medidas políticas que incorporen el deber de proteger una amplia gama de derechos, --con la debida consideración a los derechos sociales, culturales y económicos—cuando se elaboren las leyes, directrices y normativas. Significa que los gigantes tecnológicos deben demostrar liderazgo en sus prácticas comerciales. Significa empoderar a las personas para que puedan controlar sus decisiones sobre el uso de sus datos personales. Significa que hay que velar por que los sectores marginados y empobrecidos de nuestras sociedades tengan acceso a reparación jurídica cuando sus datos son objeto de uso indebido o cuando sus titulares son víctimas de decisiones discriminatorias por parte procesos automáticos de adopción de decisiones. Significa realizar evaluaciones sobre las repercusiones de derechos humanos en cada etapa de la elaboración e instalación de sistemas de inteligencia artificial –y este es un ámbito muy importante, en el que las empresas y los investigadores pueden demostrar responsabilidad y capacidad de liderazgo--.  

Pero los gobiernos y las empresas no tienen por qué empezar esta tarea a partir de cero. Además de los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos, disponemos de excelentes ejemplos de orientación en sectores específicos, tales como la Guía de la Unión Europea para el Sector de las TIC sobre la aplicación de los Principios Rectores, el Diálogo de la Industria de las Telecomunicaciones y los Principios y Directrices de la Global Network Initiative (GNI).

Colegas y amigos:

No hay ningún segmento de la revolución digital que no pueda y no deba examinarse desde una perspectiva de derechos humanos. Es preciso que busquemos y evaluemos constantemente las brechas en materia de protección.  Esto no solo quiere decir que debemos aprobar nuevas leyes que evolucionen a la par de las novedades digitales, sino también que debemos adaptar la forma en que usamos las instituciones y los procesos. Necesitamos instituciones que controlen el poder de las empresas informáticas y los Estados. Solo podremos proteger eficazmente los derechos si ajustamos permanentemente nuestros procedimientos a fin de hallar la combinación adecuada de intervenciones.

Por supuesto, las regulaciones gubernamentales sobre el ciberespacio pueden generar sus propios problemas, sobre todo si no se respetan las garantías fundamentales del Estado de derecho, especialmente la igualdad ante la ley, la equidad y la responsabilidad.

No olvidemos que siempre que regulamos los medios de comunicación social, estamos decidiendo sobre lo que las personas pueden decir y lo que pueden ver y oír, en un mundo que se ha convertido en una plataforma privilegiada para el debate abierto y la vida pública.  Por consiguiente nuestras intervenciones deben estar bien concebidas para evitar los excesos a cualquier costo. Si la regulación es necesaria, debemos examinar la posibilidad de centrarnos en el funcionamiento de las plataformas, más que en reglamentos basados en los puntos de vista. Las mejores soluciones siempre se hallarán en el trabajo colectivo, el intercambio de prácticas idóneas y el estudio pormenorizado de los resultados que han generado los sistemas nacionales de regulación, sin excluir cualesquiera consecuencias inesperadas.

Colegas y amigos:,

Existe ya la necesidad urgente de gobiernos, redes sociales y otras empresas que protejan los pilares fundamentales de la sociedad democrática, el Estado de derecho y toda la gama de derechos en línea: una necesidad de supervisión, transparencia y responsabilidad. A medida que las fronteras digitales se amplían, uno de los mayores retos de la comunidad de derechos humanos será el de ayudar a las empresas y sociedades a implantar un marco internacional de derechos humanos en los ámbitos que todavía no hemos alcanzado. Esta labor comprende la necesidad de orientar claramente sobre las responsabilidades de las empresas y las obligaciones de los Estados.

Por su lado mejor, la revolución digital nos empoderará, conectará, informará y salvará nuestras vidas. Por su peor faceta, nos hará perder autonomía, nos desconectará, nos desinformará y nos costará vidas.

Los derechos humanos marcarán toda la diferencia en esa ecuación.

Gracias.