Las tecnologías de IA generativa deberían prestar atención preferente a los derechos humanos, afirma Türk

Buenas tardes:

Me complace poder dirigirme a ustedes esta tarde. Agradezco cordialmente la invitación del Centro de Derechos Humanos y Justicia Internacional y de los demás copatrocinadores de la Universidad de Stanford, que auspician este evento.

Es lógico que estemos reunidos aquí: esta universidad ha estado durante mucho tiempo a la vanguardia de la Inteligencia Artificial (IA). Por solo citar un ejemplo, el laboratorio de IA de Stanford ha liderado las investigaciones en la materia desde 1963.

Es obvio que la IA no es un fenómeno nuevo. Pero todos sabemos también que las rápidas y profundas transformaciones que tienen lugar hoy en día plantean desafíos que nunca antes habíamos afrontado.

Todos conocemos la hipótesis de la utopía negativa: un mundo que se precipita, casi como un sonámbulo, hacia el dominio autoinfligido de las máquinas, una vorágine de fenómenos incontrolables y la posible extinción de la humanidad.

La hipótesis alternativa es que la IA podría proporcionarnos la clave para curar el cáncer, poner fin al calentamiento del planeta y dar de comer a los hambrientos –un final feliz. Entre estos dos extremos, el de la IA que aniquila y la IA que salva, está el mundo actual, en el que ya se cumplen muchas de las promesas de esta tecnología, al tiempo que se dejan sentir sus efectos negativos en materia de derechos humanos –incluso en la repercusión de la IA generativa--, que inciden hoy sobre un gran número de personas.   

Esta situación me trae a la mente dos ideas inspiradas por relatos de Goethe. En la primera, Fausto nos cuenta la fascinante historia de Homunculus, un ser humano artificial que representa lo mejor de la ciencia y la Ilustración, y es, al mismo tiempo, más “humano” que su creador en lo que a deseos respecta. Y en el poema “El aprendiz de brujo”, Goethe describe vívidamente lo que sucede cuando el genio escapa de la botella. Al final del relato, el viejo mago regresa, cuando todo parece perdido, quiebra el hechizo y nos deja la moraleja de que solo debemos invocar la magia cuando estamos en condiciones de controlarla. De modo que cabe preguntarse: ¿Qué nos permite hoy dominar la IA? Como no podría ser de otro modo, mi convicción más profunda es que los derechos humanos constituyen una parte esencial de ese dominio y, por ende, de la solución.   

Los derechos humanos resumen una sabiduría antigua, capaz de orientarnos ante los retos del presente; nos proporcionan las antenas que facilitan la navegación en medio de la niebla de lo nuevo, de lo desconocido. Contribuyen a domeñar la barbarie y a evitar el caos. Además, los derechos humanos representan un conjunto de normas, un marco jurídico vinculante que no solo fomenta todas las libertades de todos, sino que además las orienta, al plantear un sistema de mecanismos que equilibran los poderes y ejercen de contrapesos. En última instancia, se refieren a la acción humana, a la dignidad de cada persona y a nuestro lugar en el ecosistema de la Tierra. En resumen, nos proporcionan un modelo de gobernanza a largo plazo, intergeneracional, que garantiza nuestro porvenir.

Por consiguiente, el hecho de colocar de nuevo la acción humana y la dignidad de cada persona en el centro del debate resulta más urgente que nunca.

Porque, en la actualidad, la IA generativa sigue desarrollándose y aplicándose sin que tengamos una idea clara de cómo garantizar la seguridad. Y yo iría aún más lejos y diría que lo hacemos sin una idea clara de los objetivos que queremos alcanzar. Una transparencia limitada, unas responsabilidades difusas y un exceso de confianza en que las empresas privadas “harán lo correcto”, no son elementos suficientes cuando debemos tratar con esta tecnología tan poderosa. Aunque los reguladores se afanan en poner puertas al campo, en general los países y las empresas no han logrado aplicar el conjunto de normativas que nos permitirían abordar estos desafíos colosales: el marco internacional de derechos humanos.

La normativa internacional de los derechos humanos proporciona la base que necesitamos con urgencia para innovar y dominar las capacidades potenciales de la IA.

Al mismo tiempo, esas regulaciones pueden prevenir y atenuar los múltiples riesgos que la IA plantea y evitar que esta tecnología se transforme en un conducto que facilite el abuso y las violaciones generalizadas de derechos humanos, la discriminación y la marginación.

Los derechos humanos abarcan la idea de que es preciso proteger a las personas de determinados abusos que pueden ser obra tanto de los gobiernos como de otras personas, entidades privadas o empresas.

Para ilustrar este concepto, permítanme explicar cómo operan algunos de estos derechos de especial importancia para el tema.

El derecho al trabajo.

La IA generativa encierra la capacidad potencial de alterar los mercados tradicionales de la economía y el empleo. En varios ámbitos hemos visto ya cómo los contenidos creados mediante la IA desplazaban a las creaciones humanas. Esto preludia un mundo nuevo en materia de trabajo, ocio y empleo del tiempo. ¿Y qué sentido tendría la vida para quienes se vuelvan redundantes, marginados y maltratados por esa evolución? ¿Cómo nos preparamos para este fenómeno? ¿Qué pasará si no disponemos de una protección social universal, si, como resultado de esta carencia, se produce un aumento de la desigualdad o si esto amenazara con desintegrar nuestras sociedades?   

El derecho a la no discriminación.

Muchos modelos de IA generativa han sido elaborados con elementos que inevitablemente se han contaminado con ideas de odio y discriminación que infectan a nuestras sociedades, contenidos racistas y misóginos que reflejan numerosas percepciones erróneas, inexactitudes o simples mentiras que circulan en todas las sociedades y que fomentan el odio. ¿Cómo vamos a proteger a quienes exigen públicamente que se propicien los debates más importantes, a quienes representan a las minorías, los colectivos LGBTIQ+, las mujeres y los niños? Si estos grupos amenazados no reciben la atención suficiente, podrían agravarse algunas de las dolencias fundamentales que aquejan a nuestras sociedades.

Considérese también el derecho a la información.

En este año cargado de procesos electorales, con unos 70 comicios en el mundo entero, corremos el riesgo de que se produzcan poderosas campañas de propaganda barata y desinformación en gran escala. Y las consecuencias de estos fenómenos, comprendida la difusión del odio, la discriminación o la deslegitimación de agentes políticos e instituciones del Estado pueden socavar los principios que permiten el funcionamiento de los sistemas democráticos. ¿Cómo podríamos garantizar que los autócratas, los populistas y los extremistas -los enemigos de la “sociedad abierta” y del orden basado en los derechos humanos- no prevalecerán y dominarán las mentes y los sentimientos de la población, y transformarán la sociedad en una maquinaria de propaganda perpetua, al servicio de los intereses de unos pocos?

Piénsese también en el derecho a la privacidad

La capacidad de elaborar y difundir en gran escala imágenes falsas de buena calidad (deepfakes) mediante la inversión de pocos recursos es solo el principio, y aun así, ya hemos visto que este fenómeno puede perturbar las elecciones, engañar a los votantes y propalar el odio y la misoginia. ¿Cómo podríamos prevenir situaciones como la que la novelista canadiense Naomi Klein describe en su libro Doppelgänger? ¿Cómo escaparemos de un futuro orwelliano de control del pensamiento y vigilancia omnipresente? ¿Y cómo podríamos asegurar que la humanidad no se desintegra aún más al agrandarse la distancia entre los opulentos y los desposeídos, especialmente en vista de la magnitud de la brecha digital?

Otros derechos me vienen a la mente, como el derecho a vivir sin hambre, a disponer de un nivel de vida adecuado, a la seguridad social y a la vivienda digna. Es importante que lleguemos a entender de qué modo la IA puede contribuir a hacer realidad estos derechos o, por el contrario, a ponerlos en peligro.

Estimados colegas y amigos:

En este contexto, ¿qué significa todo esto, en concreto, para la IA generativa?

En primer lugar, que los Estados y las empresas deben utilizar el marco general de derechos humanos como primer punto de referencia en la regulación y la dirección de la IA generativa.

Luego, que este marco ha de orientar la concepción y el desarrollo de las tecnologías basadas en la IA generativa e infundir en ellas los principios de derechos humanos a lo largo de todo su ciclo vital.

La complejidad de la IA exige una estrategia ponderada y cuidadosa. Hay que preguntarse de qué manera afecta a los derechos de las diversas personas y comunidades, no solo aquí en California, sino en el mundo entero.

¿Qué significado tienen las innovaciones en materia de IA y sus repercusiones sobre los derechos humanos para un adolescente de Lagos, un maestro de Buenos Aires o una niña de Bangkok? ¿O para quienes están terriblemente atrapados en los más de 55 conflictos que se desarrollan en el mundo entero?

Una IA generativa que respete los derechos humanos debería prestar atención a las opiniones de quienes, para bien o para mal, podrían verse confrontados a sus efectos. Esto podría afinar nuestra estrategia en materia de IA para asegurarnos de que esta tecnología trabaja en beneficio de todos, sin discriminación. Porque, de la misma manera que las personas están en el centro de los derechos humanos, han de estar en el centro de la tecnología.

Asimismo, debemos seguir planteando las preguntas más arduas. ¿Cómo preservar la libertad de expresión y, al mismo tiempo, prevenir el discurso de odio y la desinformación? ¿Cómo proteger los derechos y la propiedad intelectual de artistas, músicos y escritores sin vulnerar nuestro derecho de acceder a la información?

Y, a la vez que las consideraciones éticas son importantes en este debate, necesitamos los derechos humanos y su marco universal vinculante, para que nos impulsen aún más en la búsqueda de soluciones concretas y nos eviten, en el peor de los casos, tener que exigir responsabilidades penales por la vulneración de esos mismos derechos.

Mi Oficina colabora directamente con algunas de las empresas punteras en la producción de IA generativa. Nuestro propósito es brindarles apoyo para que puedan traducir los derechos humanos en realidades específicas, a medida que elaboran sus instrumentos.

Al mismo tiempo, hemos pedido que se haga una pausa en el uso de la IA en los ámbitos en que los derechos humanos corren mayores riesgos, tales como la aplicación de la ley y la justicia, hasta que se hayan aplicado las cautelas suficientes.

Y hemos instado a alcanzar una mayor integración de los derechos humanos en los procesos de creación de normativas técnicas, que servirán para adoptar las decisiones fundamentales en lo tocante a las aplicaciones y los usos de la IA.

Lo que sí sabemos es que para abrirnos paso en la incertidumbre que rodea a la IA generativa es preciso tomar, de manera urgente, las siguientes medidas:

Necesitamos una conducta empresarial responsable.

Necesitamos la rendición de cuentas por los perjuicios causados.

Necesitamos que las víctimas de esos perjuicios dispongan de acceso a los remedios pertinentes.

Pero, por encima de todo, necesitamos evitar en primera instancia que esos daños ocurran, para lo cual es preciso disponer de una dirección sólida de la IA, firmemente anclada en los derechos humanos.

Las empresas son responsables de los productos que, en ardua rivalidad, se precipitan a sacar al mercado. Esas mismas firmas deberían realizar un esfuerzo mucho mayor para identificar y abordar los obvios peligros inmediatos y para fomentar la transparencia, tanto en lo relativo a las estrategias de seguridad como en las fuentes de los datos de adiestramiento.

Las empresas, pero también los Estados, deben realizar exámenes periódicos sobre la diligencia debida en materia de derechos humanos, para los sistemas de IA que conciben, fabrican, instalan, venden, adquieren o manejan. Un elemento esencial de estas pruebas han de ser evaluaciones periódicas y exahustivas de la repercusión de estas tecnologías sobre los derechos humanos.

De hecho, ya disponemos de las herramientas para orientar a los gobiernos y al sector privado en el desarrollo de la IA basada en los derechos humanos.

Desde 2011, los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos han proporcionado tanto a los Estados como a las corporaciones un conjunto de normas sólidas, sobre las que hoy pueden asentar el desarrollo responsable de la IA. El Proyecto B-Tech, auspiciado por mi Oficina, también ha elaborado un conjunto de recomendaciones, instrumentos y orientaciones, preparado con la participación activa de empresas y otras entidades asociadas, sobre cómo poner en práctica los Principios Rectores para prevenir y abordar los riesgos relativos a las tecnologías digitales. Y el Consejo Consultivo de Alto Nivel sobre la Inteligencia Artificial, creado recientemente por las Naciones Unidas, ha formulado ya recomendaciones preliminares sobre la regulación de la IA. A medida que nos aproximamos a la Cumbre del Futuro que tendrá lugar en Nueva York en septiembre de este año, el Pacto Digital Mundial será otra de las vías esenciales para avanzar en la materia.

Estimados colegas y amigos:

En los últimos decenios, la Universidad de Stanford ha realizado importantes avances en el aprovechamiento de la capacidad potencial de la IA. La iniciativa AI4ALL [IA para todos] y los programas de IA para el Bienestar Común se esfuerzan en fomentar la diversidad y capacitar a ingenieros especializados en IA para que incorporen objetivos de justicia social en la concepción de la tecnología. El Centro para el uso de la IA en Medicina e Imagen ha beneficiado a gran número de pacientes mediante su labor en cuestiones de salud e innovación.

Mediante los estudios que ustedes llevan a cabo, están construyento un futuro personal. Y mediante la participación en la IA, participan en la construcción del futuro de la humanidad.

Para que la tecnología opere en beneficio de la humanidad, necesitamos hacer gala de una conciencia lúcida, prestar atención a la voz de la razón y desarrollar un profundo sentido de responsabilidad intergeneracional.

Eso, precisamente, son los derechos humanos.

Sus opiniones, aquí en Silicon Valley -el polo de la innovación en materia de tecnología digital- son más influyentes de lo que creen para ahorrarnos los riesgos sobre los que hoy estamos debatiendo. Porque al orientar al sector hacia una conducta empresarial responsable, basada en nuestros derechos y libertades, ustedes van a generar importantes dividendos de largo alcance para personas del mundo entero. 

Si preservamos con firmeza los derechos humanos, creo que seremos capaces de dominar las increíbles oportunidades que ofrece la IA y seguir fomentando la creatividad, la innovación y los mejores aportes que los seres humanos pueden realizar.

Espero que todos nos comprometamos a hacer realidad esta aspiración.

Muchas gracias.