El Reglamento de Inteligencia Artificial de la Unión Europea: regulación de riesgos y sistemas de estandarización
DOI:
https://doi.org/10.21056/aec.v24i96.1932Palabras clave:
Inteligencia Artificial; Derecho Administrativo; Derecho de la Unión Europea; regulación de riesgos; normas técnicas.Resumen
La IA se ha consolidado en los últimos años como una herramienta central en la estrategia de actuación de las Administraciones públicas, y el Reglamento de IA aprobado por la UE pretende constituirse como una norma pionera a nivel mundial para la regulación de esta tecnología. En el presente artículo se analiza la naturaleza y principales características de esta normativa aprobada el 13 de marzo de 2024 por el Parlamento Europeo. El estudio parte de su conceptualización como parte de una tendencia normativa, existente tanto a nivel europeo como internacional, consistente en la regulación del riesgo y de situaciones de incerteza. Sobre esta premisa, se analiza la arquitectura que plantea la norma, y que gira en torno a un sistema de evaluación de conformidad que depende, a su vez, de tres elementos: (1) instrumentos de gestión de riesgo aplicables a los desarrolladores e implementadores de IA, (2) un procedimiento de elaboración de normas técnicas que determinarán el contenido específico de las obligaciones del reglamento, y (3) la creación de un sistema de gobernanza para la aplicación y verificación de dichas obligaciones.Referencias
ÁLVAREZ GARCÍA, V. La problemática de la publicidad oficial de las normas técnicas de origen privado que despliegan efectos jurídico-públicos. Revista de Derecho Comunitario Europeo, n. 72, p. 449-482, 2022.
ÁLVAREZ GARCÍA, V. Las normas técnicas armonizadas (Una peculiar fuente del Derecho europeo). Madrid, España: Iustel, 2020.
BARNÉS, J. La tranparencia: cuando los sujetos privados desarrollan actividades regulatorias. In: GARCÍA MACHO, R. J. (Ed.). Ordenación y transparencia económica en el Derecho público y privado: Madrid: Marcial Pons, 2014, 2014. p. 77-124.
CANALS AMETLLER, D. “El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos)”, Revista General de Derecho Administrativo, n 51, 2019.
CANALS I AMETLLER, D. La jurisprudencia ante el ejercicio privado de la función pública de control técnico por razones de seguridad. Revista del poder judicial, n. 56, p. 459-482, 1999.
CHAMBERLAIN, J. The Risk-Based Approach of the European Union’s Proposed Artificial Intelligence Regulation: Some Comments from a Tort Law Perspective. European Journal of Risk Regulation, 14 (1), p. 1-13.
COMISIÓN EUROPEA. Libro Blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza. COM(2020)
CORBETT-DAVIES, S.; PIERSON, E.; FELLER, A.; GOEL, S. et al. Algorithmic Decision Making and the Cost of Fairness. In: Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 2017, Halifax, NS, Canada. Association for Computing Machinery, p. 797–806. DOI: 10.1145/3097983.3098095. Disponível em: https://doi.org/10.1145/3097983.3098095.
COTINO HUESO, L. Ética en el diseño para el desarrollo de una inteligencia artificial, robótica. Revista catalana de dret públic, n. 58, p. 29-48, 2019a.
COTINO HUESO, L. Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. enfoques, modelos y principios de la respuesta del derecho. Revista General de Derecho Administrativo, n. 50, 2019b.
COTINO HUESO, L. Nuevo paradigma en las garantías de los derechos fundamentales y una nueva protección de datos frente al impacto social y colectivo de la inteligencia artificial. In: BAUZÁ REILLY, M. e COTINO HUESO, L. (Ed.). Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas: Cizur Menor (Navarra) : Aranzadi, 2022, 2022. p. 69-105.
DARNACULLETA I GARDELLA, M. M. La producción de normas en un mundo global. In: ARROYO JIMÉNEZ, L.;MARTÍN DELGADO, I., et al (Ed.). Derecho público global: fundamentos, actores y procesos. Madrid: Iustel, 2020. p. 245-273.
DARNACULLETA I GARDELLA, M. M. Los instrumentos normativos de regulación bancaria en el sistema de fuentes del derecho. In: Regulación bancaria: transformaciones y estado de derecho: Cizur Menor (Navarra) : Aranzadi, 2014, 2014. p. 131-183.
DE GREGORIO, G.; DUNN, P. The European risk-based approaches: Connecting constitutional dots in the digital age. Common Market Law Review, p. 473-500, 2022.; BUITEN, M. C. Towards Intelligent Regulation of Artificial Intelligence. European Journal of Risk Regulation, v. 10, n. 1, p. 41-59, 2019.
ELIANTONIO, M.; CAUFFMAN, C. The legitimacy of standardisation as a regulatory technique in the EU–A cross-disciplinary and multi-level analysis: An introduction. In: The Legitimacy of Standardisation as a Regulatory Technique: Edward Elgar Publishing, 2020. p. 1-18.
ESTEVE PARDO, J. Ciencia y Derecho ante los riesgos para la salud: evaluación, decisión y gestión. Documentación administrativa, n. 265, p. 137-150, 2003b.
ESTEVE PARDO, J. Convivir con el riesgo. La determinación del riesgo permitido. In: Derecho, globalización, riesgo y medio ambiente: Valencia : Tirant lo blanch, 2012, p. 273-302.
ESTEVE PARDO, J. De la policía administrativa a la gestión de riesgos. Revista española de derecho administrativo, n. 119, p. 323-346, 2003a.
ESTEVE PARDO, J. Derecho y medio ambiente: problemas generales. El Derecho del medio ambiente como Derecho de decisión y gestión de riesgos. Revista electrónica de Derecho de la Universidad de La Rioja, REDUR, n. 4, 2006.
ESTEVE PARDO, J. El Derecho del medio ambiente como Derecho de regulación y gestión de riesgos. In: Estudios de derecho ambiental europeo, 2005. p. 45-61.
ESTEVE PARDO, J. El desconcierto del Leviatán: política y derecho ante las incertidumbres de la ciencia. Madrid, Barcelona, Buenos Aires: Marcial Pons, 2009.
ESTEVE PARDO, J. La administración garante. Una aproximación. Revista de administración pública, n. 197, p. 11-39, 2015.
ESTEVE PARDO, J. La regulación de riesgos: gestionar la incertidumbre. El Cronista del Estado Social y Democrático de Derecho, n. 96, p. 32-45, 2021.
ESTEVE PARDO, J. Las decisiones normativas sobre riesgos nucleares. Marco constitucional. In: El futuro de la energía nuclear en España: perspectivas (no sólo) jurídicas: Valencia : Tirant lo Blanch, 2013, 2013. p. 69-84.
ESTEVE PARDO, J. Técnica, riesgo y derecho: tratamiento del riesgo tecnológico en el derecho ambiental. Ariel, 1999. 84-344-1625-5.
FORTES, P. R. B.; BAQUERO, P. M.; AMARILES, D. R. Artificial Intelligence Risks and Algorithmic Regulation. European Journal of Risk Regulation, vol. 13, n. 3, p. 1-16, 2022.
FRASER, H.; BELLO Y VILLARINO, J.-M. Acceptable Risks in Europe’s Proposed AI Act: Reasonableness and Other Principles for Deciding How Much Risk Management Is Enough. European Journal of Risk Regulation, 14 (1), p. 1-16, 2023.
GALLEGO CÓRCOLES, I. La contratación de soluciones de inteligencia artificial. In: Inteligencia artificial y sector público: retos, límites y medios. Valencia: Tirant lo Blanch, 2023. p. 503-567.
GAMERO CASADO, E. Compliance (o Cumplimiento Normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas. Diario LaLey, n. 50, 2021.
GIMENO FELIÚ, J. M.; GARCÍA ÁLVAREZ, G.; TEJEDOR BIELSA, J. La compra pública de tecnología en España: deficiencias y sugerencias de mejora. Madrid: Thomson Reuters Aranzadi, 2022.
GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL. Policy and investment recommendations for trustworthy AI, 2019.
HUERGO LORA, A. El proyecto de Reglamento sobre la Inteligencia Artificial, Almacén de Derecho, Abril 2021: Disponible en: https://almacendederecho.org/el-proyecto-de-reglamento-sobre-la-inteligencia-artificial
HUERGO LORA, A. J. Hacia la regulación europea de la inteligencia artificial. In: Inteligencia artificial y sector público: retos, límites y medios. Valencia: Tirant lo Blanch, 2023. p. 743-761.
HUPONT, I.; MICHELI, M.; DELIPETREV, B.; GÓMEZ, E. et al. Documenting High-Risk AI: A European Regulatory Perspective. Computer, 56, n. 5, p. 18-27, 2023.
ISO/IEC AWI TR 24368 INFORMATION TECHNOLOGY — ARTIFICIAL INTELLIGENCE — OVERVIEW OF ETHICAL AND SOCIETAL CONCERNS. Disponible en: https://www.iso.org/search.html?q=artificial%20intelligence
ISO/IEC JTC 1/SC 42 Artificial intelligence. Disponible en: https://www.iso.org/committee/6794475.html
ISO/IEC PDTR 24028 INFORMATION TECHNOLOGY — ARTIFICIAL INTELLIGENCE (AI — OVERVIEW OF TRUSTWORTHINESS IN ARTIFICIAL INTELLIGENCE. Disponible en: https://www.iso.org/search.html?q=artificial%20intelligence
KAMINSKI, M. E. Regulating the Risks of AI. Forthcoming, Boston University Law Review, 103, 2023.
KOVAC, M. Autonomous Artificial Intelligence and Uncontemplated Hazards: Towards the Optimal Regulatory Framework. European Journal of Risk Regulation, 13 (1), p. 94-113, 2022.
LESLIE, D.; BURR, C.; AITKEN, M.; COWLS, J. et al. Artificial intelligence, human rights, democracy, and the rule of law: a primer. Available at SSRN 3817999, 2021.
MALARET GARCÍA, E. Una aproximacion juridica al sistema espanol de normalizacion de productos industriales Revista de administración pública, n. 116, p. 287-339, 1988.
MANTELERO, A. Analysis of international legally binding instruments, en BEN-ISRAEL, I. (et al.) Towards Regulation of AI Systems: Global perspectives on the development of a legal framework on Artificial Intelligence (AI) systems based on the Council of Europe’s standards on human rights, democracy and the rule of law. Conucil of Europe, 2020, pp. 61-97.
MARTÍN DELGADO, I. Automazione, intelligenza artificiale e pubblica amministrazione: vecchie categorie concettuali per nuovi problemi. Istituzioni del federalismo, v. 3, p. 643, 2019.
MARTÍN DELGADO, I. La aplicación del principio de transparencia a la actividad administrativa algorítmica. In: Inteligencia artificial y sector público :: retos, límites y medios. Valencia : Tirant lo Blanch, 2023. p. 131-194.
MARTÍN DELGADO, I. Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada. Revista de administración pública, n. 180, p. 353-386, 2009.
MARTÍNEZ GUTIÉRREZ, R. Responsabilidad administrativa por el uso de la Inteligencia Artificial. In: Inteligencia artificial y sector público: retos, límites y medios. Valencia: Tirant lo Blanch, 2023. p. 227-253.
MIRANZO DÍAZ, J. Inteligencia artificial y Derecho administrativo. Madrid: Tecnos, 2023.
MISURACA, G., AND VAN NOORDT, C.., Overview of the use and impact of AI in public services in the EU, Luxemburgo: Publications Office of the European Union, 2020.
MULLER, C., TALVITIE, C.; SCHÖPPL, N. “Our Minds, Monitored and Manipulated: How AI Impacts Public Discourse and Democracy”, VerfBlog,2022/3/28, https://verfassungsblog.de/roa-our-minds/, DOI: 10.17176/20220329-011119-0.
MÜLLER, M.; JOOSTEN, J. J. Model-checking in the Foundations of Algorithmic Law and the Case of Regulation 561. arXiv preprint arXiv:2307.05658, 2023.
NEMITZ, PAUL; GRÄF, EIKE: Artificial Intelligence Must Be Used According to the Law, or Not at All, VerfBlog, 2022/3/28, https://verfassungsblog.de/roa-artificial-intelligence-must-be-used-according-to-the-law/, DOI: 10.17176/20220328-131134-0.
PONCE SOLÉ, J. Acicates (nudges), buen gobierno y buena administración: Aportaciones de las ciencias conductuales, nudging y sector público y privado. Madrid: Marcial Pons, 2022b.
PONCE SOLÉ, J. Capítulo V. Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana. In: Inteligencia artificial y sector público: retos, límites y medios. Valencia: Tirant lo Blanch, 2023. p. 195-225.
PONCE SOLÉ, J. Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo, n. 50, 2019.
PUERTA SEGUIDO, F. E.; ORTEGA ÁLVAREZ, L. I.; ALONSO GARCÍA, M. C. Las entidades colaboradoras en materia de protección ambiental. In: Tratado de derecho ambiental: Valencia : Tirant lo Blanch, 2013, p. 401-441.
SAINZ MORENO, F. Ejercicio privado de funciones públicas. Revista de Administración pública, n. 100-102, 1983.
SCHEPEL, H. The constitution of private governance: Product standards in the regulation of integrating markets. Hart Publishing, 2005.
SCHUETT, J. Risk Management in the Artificial Intelligence Act. European Journal of Risk Regulation, p. 1-19, 2023.
SENDEN, L. The Constitutional Fit of European Standardization Put to the Test. Legal Issues of Economic Integration, 44, n. 4, 2017.
TAEIHAGH, A.; RAMESH, M.; HOWLETT, M. Assessing the regulatory challenges of emerging disruptive technologies. Regulation & Governance, 15, n. 4, p. 1009-1019, 2021.
VALERO TORRIJOS, J. Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración. Revista catalana de dret públic, n. 58, p. 82-96, 2019.
VIDA FERNÁNDEZ, J. Los retos de la regulación de la inteligencia artificial: algunas aportaciones desde la perspectiva europea. In: DE LA QUADRA SALCEDO, T. e PIÑAR MAÑAS, J. L. (Ed.). Sociedad digital y Derecho: Ministerio de Industria, Comercio y Turismo, 2018. p. 203-224.
VIDA FERNÁNDEZ, J.; QUADRA-SALCEDO Y FERNÁNDEZ DEL CASTILLO, T. D. L.; PIÑAR MAÑAS, J. L. Los retos de la regulación de la inteligencia artificial: algunas aportaciones desde la perspectiva europea. In: Sociedad Digital y Derecho: Madrid: Ministerio de Industria, Comercio y Turismo, 2018. p. 203-224.
VIGURI CORDERO, J. A. Les normes ISO/IEC com a mecanismes de responsabilitat proactiva en el Reglament General de Protecció de Dades. IDP: revista de Internet, derecho y política = revista d'Internet, dret i política, n. 33, 2021.
VOLPATO, A. Controlling the Invisible: Accountability Issues in the Exercise of Implementing Powers by EU Agencies and in Harmonised Standardisation. Review of European Administrative Law, 12, n. 1, p. 75-96, 2019.
WAGNER, W. E. Science Charade in Toxic Risk Regulation, The. Colum. L. Rev., v. 95, p. 1613, 1995.
WEN, L.; CAO, Y. A hybrid intelligent predicting model for exploring household CO2 emissions mitigation strategies derived from butterfly optimization algorithm. Science of The Total Environment, 727, p. 138572, 2020.
XUNTA DE GALICIA. Estratexia Galega de Intelixencia Artificial 2030: Cara a unha Galicia Intelixente, 2021.
ZHANG, D.; MISHRA, S.; BRYNJOLFSSON, E.; ETCHEMENDY, J. et al. The ai index 2021 annual report. arXiv preprint arXiv:2103.06312, 2021.
WEN, L.; CAO, Y. A hybrid intelligent predicting model for exploring household CO2 emissions mitigation strategies derived from butterfly optimization algorithm. Science of The Total Environment, 727, p. 138572, 2020.
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2024 Javier Miranzo-Díaz
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.
Autores que publican en esta revista están de acuerdo con los siguientes términos:
- Autores mantienen los derechos autorales y conceden a la revista el derecho de primera publicación, con el trabajo simultáneamente licenciado bajo la Creative Commons - Atribución-NoComercial-SinDerivar 4.0 Internacional que permite compartir el trabajo con reconocimiento de la autoría y publicación inicial en esta revista.
- Autores tienen autorización para asumir contratos adicionales separadamente, para la distribución no exclusiva de la versión del trabajo publicada en esta revista (ej.: publicar en repositorio institucional o como capítulo de libro), con reconocimiento de autoría y publicación inicial en esta revista.
- Autores tienen permiso y son estimulados a publicar y difundir su trabajo online (ej.: en repositorios institucionales o en su página personal) a cualquier punto antes o durante el proceso editorial, ya que esto puede generar alteraciones productivas, así como aumentar el impacto y la citación del trabajo publicado (Véase El Efecto del Acceso Libre).
