Fondo

Si bien las formas existentes y emergentes de las tecnologías digitales, incluida la Inteligencia Artificial (también conocida como IA), pueden ofrecer cada vez más oportunidades para mejorar el aprendizaje, el desarrollo, la comunicación y la socialización de los niños, también pueden tener un doble filo.^[1] La Relatora Especial sobre la venta, la explotación sexual y el abuso sexual de niños desea dedicar su próximo informe temático a la Asamblea General a las amenazas existentes y emergentes que las tecnologías digitales plantean a los niños y el papel que la tecnología digital puede desempeñar para responder a las diversas manifestaciones de la explotación sexual y el abuso sexual de los niños en línea.

Esto se basa en el trabajo de sus predecesores, incluido el último informe temático sobre la cuestión de las tecnologías de la información y la comunicación y la venta y explotación sexual de los niños (A/HRC/28/56), que subrayaba los comportamientos delictivos existentes facilitados por las nuevas tecnologías, así como las estrategias globales para combatir tales riesgos.^[2] Sin embargo, la revisión de numerosos estudios, publicaciones e informes ha revelado un reciente auge e intensificación de las manifestaciones de daño y exposición del abuso y la explotación sexual infantil en línea, tanto en términos de escala como de método. El potencial tecnológico y la aplicación actual de la "Inteligencia Artificial generativa" para cometer actos de abuso y explotación contribuyen a esta evolución.

En este contexto, la Asamblea General de las Naciones Unidas (AGNU) adoptó recientemente por consenso la Resolución sobre los Derechos del Niño en el entorno digitalen noviembre de 2023, que en esencia reconoce que el aumento del uso no supervisado de las tecnologías digitales ha exacerbado la exposición de los niños, incluidos los adolescentes, a riesgos, daños y todas las formas de violencia en línea.

Todo esto se produce en un momento en el que aumentan los llamamientos en favor de una gobernanza y una coordinación más seguras de la inteligencia artificial.^[3] Sin una acción y regulación inmediatas, tecnologías digitales nuevas y emergentes exacerbará aún más las desigualdades preexistentes y causará nuevas violaciones de los derechos de los niños, afectando desproporcionadamente a aquellos que se encuentran en situaciones vulnerables y marginadas.

Tipos de aportaciones/comentarios solicitados

La Relatora Especial invita a todas las partes interesadas, incluidos los Estados, las organizaciones internacionales y regionales, los organismos de las Naciones Unidas, las instituciones nacionales de derechos humanos, las fuerzas del orden, la sociedad civil y las organizaciones de líneas directas, los académicos, los abogados, los expertos en políticas, los funcionarios encargados de la protección de la infancia, los educadores, las comunidades y los niños y otras partes interesadas pertinentes a que compartan información, documentos, declaraciones, análisis y aportaciones para este informe temático.

Para el propósito del informe, pretende explorar las prácticas de explotación sexual y abuso contra menores existentes y emergentes en el entorno digital, así como el papel que desempeña la Inteligencia Artificial para facilitar la explotación sexual y el abuso sexual de menores y cómo los Estados y otras partes interesadas en la protección de la infancia pueden responder a este problema.

Es urgente que los Estados y todas las partes interesadas intensifiquen los esfuerzos y refuercen la colaboración a través de una alianza mundial básica y un instrumento multilateral dedicados exclusivamente a erradicar el abuso y la explotación sexual infantil en línea, abordando la complejidad de estos fenómenos y dando un paso adelante para proteger a los niños en el espacio digital y en el ámbito de la Inteligencia Artificial.

La Relatora Especial también invita a formular observaciones y opiniones sobre cómo movilizar a todas las partes interesadas, incluida la industria tecnológica, para que tengan en cuenta el interés superior del niño en el diseño de las tecnologías.

Se recomienda encarecidamente la presentación temprana de candidaturas. Pueden adjuntarse a la propuesta otros materiales de apoyo, como informes, estudios académicos y otros materiales de referencia.

Aunque todas las contribuciones son bienvenidas, y las preguntas que figuran a continuación no son en absoluto exhaustivas, la Relatora Especial agradecería recibir aportaciones sobre las siguientes cuestiones:

1. Proporcione información sobre cómo se utilizan las tecnologías para facilitar la explotación y el abuso sexual de menores.
2. ¿Qué recomendaciones prácticas propondría a los Estados, la industria tecnológica y los proveedores de servicios en línea para prevenir la explotación y el abuso sexual de menores en el entorno digital?
3. ¿Cuáles son las lagunas que siguen limitando la aplicación efectiva de las leyes, políticas y directrices existentes para prevenir, detectar, denunciar y proteger a los niños de la explotación y los abusos sexuales en línea?
4. ¿Cuáles son los retos que existen en el uso de estas tecnologías, productos o servicios digitales, que inhiben la labor de las fuerzas del orden de todas las jurisdicciones en su trabajo de investigación, detección, retirada de material de abuso sexual infantil en línea y persecución de estos delitos?
5. ¿Qué medidas técnicas y reglamentarias pueden adoptar los Estados, la industria tecnológica y los proveedores de servicios en línea (legislativas, reglamentarias, administrativas, institucionales y de otro tipo) para mitigar los riesgos para los derechos humanos asociados a la explotación y el abuso sexuales de los niños en línea, y garantizar una armonización mínima en todas las jurisdicciones jurídicas?
6. ¿Existen otros ejemplos prácticos de procesos internos de supervisión, denuncia y notificación; establecimiento de organismos reguladores e intervenciones; vías de reparación; procedimientos sólidos de salvaguardia; diligencia debida y evaluación de riesgos en materia de derechos del niño; y procesos de establecimiento de normas técnicas para garantizar la seguridad y la inclusión desde el diseño?
7. En el caso de la Inteligencia Artificial generativa y el cifrado de extremo a extremo, ¿cuáles son los retos y las medidas de mitigación recomendadas, incluida la aplicación de la tecnología avanzada que necesitan las empresas tecnológicas, los proveedores de servicios en línea y las fuerzas y cuerpos de seguridad para prevenir mediante el bloqueo el intercambio y la eliminación de CSAM?
8. ¿Existen ejemplos de medidas proactivas adoptadas para facilitar la consulta y la participación de un amplio abanico de partes interesadas, incluidos los niños y las organizaciones de defensa de los derechos del niño, con el fin de informar la política y la legislación, establecer normas técnicas y aplicar procesos para erradicar el abuso y la explotación sexual infantil en el entorno digital?
9. ¿Qué tipo de mecanismo podría establecerse para apoyar y coordinar mejor la participación conjunta de la industria pública y privada a nivel internacional sobre las amenazas existentes y emergentes que las tecnologías digitales suponen para los niños, con el fin de garantizar la armonización y la integración de los esfuerzos nacionales y regionales en la lucha contra este fenómeno?

Cómo se utilizarán las aportaciones

Todas las propuestas se publicarán en el sitio web del mandato. Si desea mantener la confidencialidad de su presentación, indíquelo claramente en el momento de enviarla.