NORMA LEGAL OFICIAL DEL DÍA 09 DE SEPTIEMBRE DEL AÑO 2025 (09/09/2025)

6 NORMAS LEGALES Martes 9 de setiembre de 2025 El Peruano / implementador, e interactúa de forma activa o pasiva con el sistema para obtener un resultado, bene fi ciarse de sus funcionalidades o resolver problemas especí fi cos. Asimismo, respecto a las siguientes de fi niciones establecidas en la Ley, se debe tener cuenta lo siguiente: h. Algoritmo: Al aplicarse a una representación de datos o información, permite su transformación sistemática para resolver un problema o tomar una decisión. i. IA: Disciplina cientí fi ca orientada a la investigación y desarrollo de sistemas basados en IA. j. Sistema basado en IA: Sistema basado en máquina que, para objetivos de forma explícita o implícita, in fi ere, a partir de la entrada que recibe, cómo generar salidas tales como predicciones, contenido, recomendaciones o toma de decisiones que puedan in fl uir en la o los entornos físicos o digitales. Los diferentes sistemas basados en IA varían en sus niveles de autonomía y la capacidad de entendimiento y adaptación después del despliegue. Artículo 7. Principios Rectores Son principios que rigen el desarrollo, implementación y uso de sistemas basados en IA, complementariamente a los establecidos en el artículo Único del Título Preliminar de la Ley, los siguientes: a) No discriminación: En las fases del desarrollo, implementación y uso de un sistema basado en IA, se implementan medidas para prevenir, mitigar y corregir la generación, el reforzamiento o la perpetuación de resultados discriminatorios o sesgados. En consecuencia, se busca evitar cualquier forma de discriminación conforme lo establece la Constitución Política del Perú, en las normas y tratados o acuerdos nacionales e internacionales, asegurando que los sistemas basados en IA se usen de manera segura, responsable, ética, justa, transparente, equitativa y respetuosa de los derechos humanos. b) Privacidad de los datos personales: Es el respeto de manera irrestricta a la privacidad y la protección de datos personales en el desarrollo, implementación y uso de la IA, estableciendo medidas técnicas, organizativas y legales para preservar la seguridad de los datos personales, promover la transparencia de las condiciones del tratamiento de los datos personales y fortalecer la confi anza digital, con el objetivo de generar un impacto positivo en la sociedad, promoviendo el bienestar, la equidad y el desarrollo integral de los ciudadanos, sin comprometer su dignidad ni sus libertades individuales. c) Protección de derechos fundamentales: Se garantiza el respeto y protección de los derechos fundamentales en el desarrollo, implementación y uso de sistemas basados en IA, priorizando el bienestar humano conforme a la Constitución Política del Perú, las normas y tratados o acuerdos nacionales e internacionales. d) Respeto del derecho de autor y derechos conexos : En las fases del desarrollo, implementación y uso de un sistema basado en IA, se deben respetar los derechos de autor, tanto morales como patrimoniales, y de los creadores respecto de sus obras originales de acuerdo con la normativa nacional y los tratados internacionales en la materia. e) Seguridad, proporcionalidad y fi abilidad: Los sistemas basados en IA deben ser fi ables y seguros durante todo su desarrollo implementación y uso para que, en condiciones de uso, según su fi nalidad prevista, funcionen adecuadamente y minimicen los riesgos del uso indebido u otras condiciones adversas vinculados a dichos sistemas. La aplicación de las salvaguardias y medidas de fi abilidad y seguridad debe ser proporcional al nivel de riesgo que el sistema basado en IA pueda generar. f) Sensibilización y educación en IA : Se promueve la alfabetización digital y el desarrollo de habilidades relacionadas con el diseño, desarrollo, implementación y uso de sistemas basado en IA, en todas las etapas del desarrollo de una persona, con énfasis en ciencia, tecnología, ingeniería, matemáticas, estadística, programación, ciencia de datos, ética, derechos humanos, entre otros; así como la concienciación, comprensión y sensibilización sobre el uso y el impacto de los sistemas basados en IA, para que las personas puedan tomar decisiones informadas sobre su uso. g) Sostenibilidad: En las fases del desarrollo, implementación y uso de un sistema basado en IA, se analizan y evalúan de manera integral sus repercusiones humanas, sociales, económicas, culturales y ambientales, asegurando que estén alineadas con los objetivos de las Políticas Nacionales y los Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas. Asimismo, se promueve la adopción de prácticas sostenibles que minimicen el consumo de energía y recursos, fomentando soluciones tecnológicas responsables con el ambiente, así como sus componentes, y comprometidas con el desarrollo sostenible. h) Supervisión Humana: Los sistemas basados en IA, deben estar sujetos a una supervisión humana, asegurando que sus decisiones sean éticas, justas y respetuosas de los derechos fundamentales, así como, garantizando la validación de la calidad de los datos utilizados para asegurar su precisión, integridad y representatividad. La intervención humana es necesaria para corregir, modi fi car o detener el funcionamiento de estos sistemas, con el fi n de prevenir abusos, fortalecer la transparencia y rendición de cuentas y salvaguardar el bienestar colectivo, en cumplimiento de los principios jurídicos, éticos y morales vigentes. i) Transparencia: Los sistemas basados en IA, deben ser claros, explicables y accesibles, garantizando que los procesos, algoritmos y decisiones sean comprensibles para usuarios, implementadores, y autoridades. Esto incluye facilitar información sobre su funcionamiento, los datos utilizados, los criterios de decisión y los posibles sesgos, promoviendo la rendición de cuentas y la confi anza pública. La transparencia fortalece la equidad, la justicia y el respeto a los derechos humanos, alineando el uso de la IA con el interés colectivo y los valores democráticos. j) Rendición de Cuentas: Los actores involucrados en el desarrollo, implementación y uso de sistemas basados en IA, asumen responsabilidad por sus acciones y decisiones, debiendo garantizar mediante mecanismos que permitan identi fi car, evaluar y responder por los impactos generados por la IA, ya sean positivos o negativos, en ámbitos como los derechos humanos, la equidad, con fi anza, la seguridad y el medio ambiente. Asimismo, respecto a los siguientes principios establecidos en la Ley, se debe tener cuenta lo siguiente: k) Desarrollo ético para una IA responsable: Se promueve un enfoque ético para de fi nir que en el desarrollo, implementación y uso de los sistemas basado en IA se garantice el respeto de los derechos humanos, la dignidad y el bienestar colectivo, conforme a los principios jurídicos, éticos y morales. l) Estándares de seguridad basados en riesgos: Busca una comprensión profunda de los riesgos especí fi cos y sus implicancias en el desarrollo, implementación y uso de los sistemas basados en IA. Se identi fi can amenazas, vulnerabilidades y posibles consecuencias negativas, así como, la evaluación de la probabilidad de ocurrencia y el impacto asociado a cada riesgo. TÍTULO II GOBERNANZA PARA EL DESARROLLO Y USO DE IA Artículo 8. Autoridad Nacional Además de las acciones previstas en la Ley, son acciones de la PCM, a través de la SGTD, en su rol de Autoridad técnico-normativa a nivel nacional, responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la IA, y las tecnologías emergentes, que incluye infraestructura basada en software, las siguientes: a) Fomentar la generación de espacios de intercambio técnico, legal y acciones para el desarrollo y uso seguro, responsable y ético de sistemas basados en IA, que impulsen el desarrollo y bienestar del país.