Nicolás Silva y Daniela Pulido (*)
En un esfuerzo por promover el uso de la inteligencia artificial (en adelante IA) bajo condiciones que garanticen el respeto de los derechos humanos, el Instituto de Democracia y Derechos Humanos de la Pontificia Universidad Católica del Perú (IDEHPUCP) ha respondido al llamado de la PCM para presentar comentarios al Proyecto de Reglamento de la Ley N° 31814 (Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país).
El desarrollo de la IA en los ámbitos público y privado ha suscitado diversos cambios en la relación entre tecnología y sociedad. Al incrementar notoriamente la capacidad de procesar y analizar grandes volúmenes de información, la IA promete mejorar la vida cotidiana en términos de eficiencia y precisión[1]. Sin embargo, también plantea desafíos significativos para la protección de los derechos humanos. Los sesgos algorítmicos, el tratamiento de datos personales y la intromisión en la privacidad del usuario son solo algunas de las preocupaciones que despierta esta innovación tecnológica.
Frente a estos riesgos, se hace cada vez más evidente la necesidad de establecer regulaciones que guíen el desarrollo y el uso responsable de la IA. La Oficina del Alto Comisionado para los Derechos Humanos de las Naciones Unidas (OACNUDH) ha señalado que los Estados deben velar por que el desarrollo y despliegue de las tecnologías basadas en datos estén guiados y regulados por el derecho internacional de los derechos humanos[2]. Es responsabilidad de los Estados desarrollar regulaciones sobre las tecnologías inteligentes que salvaguarden los derechos de la población.
Precisamente, la Ley N.° 31814, promulgada el 5 de julio de 2023, responde a la necesidad de regular el uso de la IA en el Perú al tiempo que se promueve su aplicación para impulsar el desarrollo económico y social del país en el marco de su transformación digital. Esta ley privilegia a la persona y el respeto de los derechos humanos y, con ese propósito, prescribe que se establezca un entorno seguro que garantice un uso ético, sostenible, transparente, replicable y responsable de la IA (artículo 1). La ley encarga al Poder Ejecutivo la aprobación de un reglamento que fomente el desarrollo de la IA bajo los principios establecidos (Disposición Complementaria Final de la Ley N° 31814); en respuesta a ello, el 2 de mayo de 2024 el Poder Ejecutivo dispuso, mediante la Resolución Ministerial N° 132-2024-PCM, la publicación de un Proyecto de Reglamento que fue abierto a consulta pública. De este modo, la PCM invitó a todas las instituciones públicas y privadas, organizaciones de la sociedad civil y a la población en general a enviar sus comentarios y sugerencias acerca del Proyecto de Reglamento a la Secretaría de Gobierno y Transformación Digital[3].
El IDEHPUCP puso a disposición de la PCM un documento de comentarios generales, proporcionando elementos técnicos de análisis jurídico para fortalecer la versión preliminar del Proyecto de Reglamento desde un enfoque transversal de derechos humanos. El informe abordó cuatro tópicos medulares: la necesidad de adoptar una definición descriptiva de la IA que refleje sus posibles impactos negativos en los derechos humanos; el establecimiento de mecanismos claros para la participación activa de la sociedad civil y la cooperación entre los sectores público y privado en la gestión de la IA; la relevancia de abordar los riesgos de la IA incorporando los derechos humanos en todas las etapas del ciclo de vida de sus sistemas, fortaleciendo la protección de derechos civiles y políticos; y la regulación detallada del rol de las empresas en el desarrollo de estas tecnologías.
A fin de conocer en detalle las propuestas y observaciones formuladas, invitamos a revisar el informe completo del IDEHPUCP sobre el Proyecto del Reglamento de la Ley que promueve el uso de la IA en favor del desarrollo económico y social.
Puede revisar el informe completo aquí.
[1] The Economist Group (2022). Seizing the opportunity: the future of AI in Latin America. https://impact.economist.com/perspectives/sites/default/files/seizing-the-opportunity-the-future-of-ai-in-latin-america.pdf
[2] ACNUDH (2017). Promoción, protección y disfrute de los derechos humanos en Internet: medios de cerrar la brecha digital entre los géneros desde una perspectiva de derechos humanos. A/HRC/35/9.
[3] De acuerdo al artículo 4 de la Ley No. 31814, “la Presidencia del Consejo de Ministros, a través de la Secretaría de Gobierno y Transformación Digital, en su calidad de ente rector del Sistema Nacional de Transformación Digital, es la autoridad técnico-normativa a nivel nacional responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes, a fin de alcanzar los objetivos del país en materia de transformación digital y los objetivos de desarrollo sostenible conforme a la normativa vigente […]”.
(*) Miembros del área Académica del IDEHPUCP
