The EU Artificial Intelligence Act: risk regulation and standardization systems
DOI:
https://doi.org/10.21056/aec.v24i96.1932Keywords:
Artificial Intelligence; Administrative law; European Union law; risk regulation; Technical Standards.Abstract
AI has been consolidated in recent years as a central line of action in the strategy of public administrations, and the AI Regulation approved by the EU intends to become a pioneering global standard for the regulation of this technology. This article analyses the nature and main characteristics of this regulation approved on 13 March 2024 by the European Parliament. The study conceptualises the EU Regulation as part of a normative trend, existing both at European and international level, consisting of the regulation of risks and situations of uncertainty. On this premise, the paper analyses the legal architecture of the norm, which revolves around a conformity assessment system that relies, in its turn, on three elements: (1) risk management instruments applicable to AI developers and implementers, (2) a procedure for the development of technical standards that will determine the specific content of the obligations of the regulation, and (3) the creation of a governance system for the implementation and verification of such obligations.
References
ÁLVAREZ GARCÍA, V. La problemática de la publicidad oficial de las normas técnicas de origen privado que despliegan efectos jurídico-públicos. Revista de Derecho Comunitario Europeo, n. 72, p. 449-482, 2022.
ÁLVAREZ GARCÍA, V. Las normas técnicas armonizadas (Una peculiar fuente del Derecho europeo). Madrid, España: Iustel, 2020.
BARNÉS, J. La tranparencia: cuando los sujetos privados desarrollan actividades regulatorias. In: GARCÍA MACHO, R. J. (Ed.). Ordenación y transparencia económica en el Derecho público y privado: Madrid: Marcial Pons, 2014, 2014. p. 77-124.
CANALS AMETLLER, D. “El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos)”, Revista General de Derecho Administrativo, n 51, 2019.
CANALS I AMETLLER, D. La jurisprudencia ante el ejercicio privado de la función pública de control técnico por razones de seguridad. Revista del poder judicial, n. 56, p. 459-482, 1999.
CHAMBERLAIN, J. The Risk-Based Approach of the European Union’s Proposed Artificial Intelligence Regulation: Some Comments from a Tort Law Perspective. European Journal of Risk Regulation, 14 (1), p. 1-13.
COMISIÓN EUROPEA. Libro Blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza. COM(2020)
CORBETT-DAVIES, S.; PIERSON, E.; FELLER, A.; GOEL, S. et al. Algorithmic Decision Making and the Cost of Fairness. In: Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 2017, Halifax, NS, Canada. Association for Computing Machinery, p. 797–806. DOI: 10.1145/3097983.3098095. Disponível em: https://doi.org/10.1145/3097983.3098095.
COTINO HUESO, L. Ética en el diseño para el desarrollo de una inteligencia artificial, robótica. Revista catalana de dret públic, n. 58, p. 29-48, 2019a.
COTINO HUESO, L. Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. enfoques, modelos y principios de la respuesta del derecho. Revista General de Derecho Administrativo, n. 50, 2019b.
COTINO HUESO, L. Nuevo paradigma en las garantías de los derechos fundamentales y una nueva protección de datos frente al impacto social y colectivo de la inteligencia artificial. In: BAUZÁ REILLY, M. e COTINO HUESO, L. (Ed.). Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas: Cizur Menor (Navarra) : Aranzadi, 2022, 2022. p. 69-105.
DARNACULLETA I GARDELLA, M. M. La producción de normas en un mundo global. In: ARROYO JIMÉNEZ, L.;MARTÍN DELGADO, I., et al (Ed.). Derecho público global: fundamentos, actores y procesos. Madrid: Iustel, 2020. p. 245-273.
DARNACULLETA I GARDELLA, M. M. Los instrumentos normativos de regulación bancaria en el sistema de fuentes del derecho. In: Regulación bancaria: transformaciones y estado de derecho: Cizur Menor (Navarra) : Aranzadi, 2014, 2014. p. 131-183.
DE GREGORIO, G.; DUNN, P. The European risk-based approaches: Connecting constitutional dots in the digital age. Common Market Law Review, p. 473-500, 2022.; BUITEN, M. C. Towards Intelligent Regulation of Artificial Intelligence. European Journal of Risk Regulation, v. 10, n. 1, p. 41-59, 2019.
ELIANTONIO, M.; CAUFFMAN, C. The legitimacy of standardisation as a regulatory technique in the EU–A cross-disciplinary and multi-level analysis: An introduction. In: The Legitimacy of Standardisation as a Regulatory Technique: Edward Elgar Publishing, 2020. p. 1-18.
ESTEVE PARDO, J. Ciencia y Derecho ante los riesgos para la salud: evaluación, decisión y gestión. Documentación administrativa, n. 265, p. 137-150, 2003b.
ESTEVE PARDO, J. Convivir con el riesgo. La determinación del riesgo permitido. In: Derecho, globalización, riesgo y medio ambiente: Valencia : Tirant lo blanch, 2012, p. 273-302.
ESTEVE PARDO, J. De la policía administrativa a la gestión de riesgos. Revista española de derecho administrativo, n. 119, p. 323-346, 2003a.
ESTEVE PARDO, J. Derecho y medio ambiente: problemas generales. El Derecho del medio ambiente como Derecho de decisión y gestión de riesgos. Revista electrónica de Derecho de la Universidad de La Rioja, REDUR, n. 4, 2006.
ESTEVE PARDO, J. El Derecho del medio ambiente como Derecho de regulación y gestión de riesgos. In: Estudios de derecho ambiental europeo, 2005. p. 45-61.
ESTEVE PARDO, J. El desconcierto del Leviatán: política y derecho ante las incertidumbres de la ciencia. Madrid, Barcelona, Buenos Aires: Marcial Pons, 2009.
ESTEVE PARDO, J. La administración garante. Una aproximación. Revista de administración pública, n. 197, p. 11-39, 2015.
ESTEVE PARDO, J. La regulación de riesgos: gestionar la incertidumbre. El Cronista del Estado Social y Democrático de Derecho, n. 96, p. 32-45, 2021.
ESTEVE PARDO, J. Las decisiones normativas sobre riesgos nucleares. Marco constitucional. In: El futuro de la energía nuclear en España: perspectivas (no sólo) jurídicas: Valencia : Tirant lo Blanch, 2013, 2013. p. 69-84.
ESTEVE PARDO, J. Técnica, riesgo y derecho: tratamiento del riesgo tecnológico en el derecho ambiental. Ariel, 1999. 84-344-1625-5.
FORTES, P. R. B.; BAQUERO, P. M.; AMARILES, D. R. Artificial Intelligence Risks and Algorithmic Regulation. European Journal of Risk Regulation, vol. 13, n. 3, p. 1-16, 2022.
FRASER, H.; BELLO Y VILLARINO, J.-M. Acceptable Risks in Europe’s Proposed AI Act: Reasonableness and Other Principles for Deciding How Much Risk Management Is Enough. European Journal of Risk Regulation, 14 (1), p. 1-16, 2023.
GALLEGO CÓRCOLES, I. La contratación de soluciones de inteligencia artificial. In: Inteligencia artificial y sector público: retos, límites y medios. Valencia: Tirant lo Blanch, 2023. p. 503-567.
GAMERO CASADO, E. Compliance (o Cumplimiento Normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas. Diario LaLey, n. 50, 2021.
GIMENO FELIÚ, J. M.; GARCÍA ÁLVAREZ, G.; TEJEDOR BIELSA, J. La compra pública de tecnología en España: deficiencias y sugerencias de mejora. Madrid: Thomson Reuters Aranzadi, 2022.
GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL. Policy and investment recommendations for trustworthy AI, 2019.
HUERGO LORA, A. El proyecto de Reglamento sobre la Inteligencia Artificial, Almacén de Derecho, Abril 2021: Disponible en: https://almacendederecho.org/el-proyecto-de-reglamento-sobre-la-inteligencia-artificial
HUERGO LORA, A. J. Hacia la regulación europea de la inteligencia artificial. In: Inteligencia artificial y sector público: retos, límites y medios. Valencia: Tirant lo Blanch, 2023. p. 743-761.
HUPONT, I.; MICHELI, M.; DELIPETREV, B.; GÓMEZ, E. et al. Documenting High-Risk AI: A European Regulatory Perspective. Computer, 56, n. 5, p. 18-27, 2023.
ISO/IEC AWI TR 24368 INFORMATION TECHNOLOGY — ARTIFICIAL INTELLIGENCE — OVERVIEW OF ETHICAL AND SOCIETAL CONCERNS. Disponible en: https://www.iso.org/search.html?q=artificial%20intelligence
ISO/IEC JTC 1/SC 42 Artificial intelligence. Disponible en: https://www.iso.org/committee/6794475.html
ISO/IEC PDTR 24028 INFORMATION TECHNOLOGY — ARTIFICIAL INTELLIGENCE (AI — OVERVIEW OF TRUSTWORTHINESS IN ARTIFICIAL INTELLIGENCE. Disponible en: https://www.iso.org/search.html?q=artificial%20intelligence
KAMINSKI, M. E. Regulating the Risks of AI. Forthcoming, Boston University Law Review, 103, 2023.
KOVAC, M. Autonomous Artificial Intelligence and Uncontemplated Hazards: Towards the Optimal Regulatory Framework. European Journal of Risk Regulation, 13 (1), p. 94-113, 2022.
LESLIE, D.; BURR, C.; AITKEN, M.; COWLS, J. et al. Artificial intelligence, human rights, democracy, and the rule of law: a primer. Available at SSRN 3817999, 2021.
MALARET GARCÍA, E. Una aproximacion juridica al sistema espanol de normalizacion de productos industriales Revista de administración pública, n. 116, p. 287-339, 1988.
MANTELERO, A. Analysis of international legally binding instruments, en BEN-ISRAEL, I. (et al.) Towards Regulation of AI Systems: Global perspectives on the development of a legal framework on Artificial Intelligence (AI) systems based on the Council of Europe’s standards on human rights, democracy and the rule of law. Conucil of Europe, 2020, pp. 61-97.
MARTÍN DELGADO, I. Automazione, intelligenza artificiale e pubblica amministrazione: vecchie categorie concettuali per nuovi problemi. Istituzioni del federalismo, v. 3, p. 643, 2019.
MARTÍN DELGADO, I. La aplicación del principio de transparencia a la actividad administrativa algorítmica. In: Inteligencia artificial y sector público :: retos, límites y medios. Valencia : Tirant lo Blanch, 2023. p. 131-194.
MARTÍN DELGADO, I. Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada. Revista de administración pública, n. 180, p. 353-386, 2009.
MARTÍNEZ GUTIÉRREZ, R. Responsabilidad administrativa por el uso de la Inteligencia Artificial. In: Inteligencia artificial y sector público: retos, límites y medios. Valencia: Tirant lo Blanch, 2023. p. 227-253.
MIRANZO DÍAZ, J. Inteligencia artificial y Derecho administrativo. Madrid: Tecnos, 2023.
MISURACA, G., AND VAN NOORDT, C.., Overview of the use and impact of AI in public services in the EU, Luxemburgo: Publications Office of the European Union, 2020.
MULLER, C., TALVITIE, C.; SCHÖPPL, N. “Our Minds, Monitored and Manipulated: How AI Impacts Public Discourse and Democracy”, VerfBlog,2022/3/28, https://verfassungsblog.de/roa-our-minds/, DOI: 10.17176/20220329-011119-0.
MÜLLER, M.; JOOSTEN, J. J. Model-checking in the Foundations of Algorithmic Law and the Case of Regulation 561. arXiv preprint arXiv:2307.05658, 2023.
NEMITZ, PAUL; GRÄF, EIKE: Artificial Intelligence Must Be Used According to the Law, or Not at All, VerfBlog, 2022/3/28, https://verfassungsblog.de/roa-artificial-intelligence-must-be-used-according-to-the-law/, DOI: 10.17176/20220328-131134-0.
PONCE SOLÉ, J. Acicates (nudges), buen gobierno y buena administración: Aportaciones de las ciencias conductuales, nudging y sector público y privado. Madrid: Marcial Pons, 2022b.
PONCE SOLÉ, J. Capítulo V. Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana. In: Inteligencia artificial y sector público: retos, límites y medios. Valencia: Tirant lo Blanch, 2023. p. 195-225.
PONCE SOLÉ, J. Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo, n. 50, 2019.
PUERTA SEGUIDO, F. E.; ORTEGA ÁLVAREZ, L. I.; ALONSO GARCÍA, M. C. Las entidades colaboradoras en materia de protección ambiental. In: Tratado de derecho ambiental: Valencia : Tirant lo Blanch, 2013, p. 401-441.
SAINZ MORENO, F. Ejercicio privado de funciones públicas. Revista de Administración pública, n. 100-102, 1983.
SCHEPEL, H. The constitution of private governance: Product standards in the regulation of integrating markets. Hart Publishing, 2005.
SCHUETT, J. Risk Management in the Artificial Intelligence Act. European Journal of Risk Regulation, p. 1-19, 2023.
SENDEN, L. The Constitutional Fit of European Standardization Put to the Test. Legal Issues of Economic Integration, 44, n. 4, 2017.
TAEIHAGH, A.; RAMESH, M.; HOWLETT, M. Assessing the regulatory challenges of emerging disruptive technologies. Regulation & Governance, 15, n. 4, p. 1009-1019, 2021.
VALERO TORRIJOS, J. Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración. Revista catalana de dret públic, n. 58, p. 82-96, 2019.
VIDA FERNÁNDEZ, J. Los retos de la regulación de la inteligencia artificial: algunas aportaciones desde la perspectiva europea. In: DE LA QUADRA SALCEDO, T. e PIÑAR MAÑAS, J. L. (Ed.). Sociedad digital y Derecho: Ministerio de Industria, Comercio y Turismo, 2018. p. 203-224.
VIDA FERNÁNDEZ, J.; QUADRA-SALCEDO Y FERNÁNDEZ DEL CASTILLO, T. D. L.; PIÑAR MAÑAS, J. L. Los retos de la regulación de la inteligencia artificial: algunas aportaciones desde la perspectiva europea. In: Sociedad Digital y Derecho: Madrid: Ministerio de Industria, Comercio y Turismo, 2018. p. 203-224.
VIGURI CORDERO, J. A. Les normes ISO/IEC com a mecanismes de responsabilitat proactiva en el Reglament General de Protecció de Dades. IDP: revista de Internet, derecho y política = revista d'Internet, dret i política, n. 33, 2021.
VOLPATO, A. Controlling the Invisible: Accountability Issues in the Exercise of Implementing Powers by EU Agencies and in Harmonised Standardisation. Review of European Administrative Law, 12, n. 1, p. 75-96, 2019.
WAGNER, W. E. Science Charade in Toxic Risk Regulation, The. Colum. L. Rev., v. 95, p. 1613, 1995.
WEN, L.; CAO, Y. A hybrid intelligent predicting model for exploring household CO2 emissions mitigation strategies derived from butterfly optimization algorithm. Science of The Total Environment, 727, p. 138572, 2020.
XUNTA DE GALICIA. Estratexia Galega de Intelixencia Artificial 2030: Cara a unha Galicia Intelixente, 2021.
ZHANG, D.; MISHRA, S.; BRYNJOLFSSON, E.; ETCHEMENDY, J. et al. The ai index 2021 annual report. arXiv preprint arXiv:2103.06312, 2021.
WEN, L.; CAO, Y. A hybrid intelligent predicting model for exploring household CO2 emissions mitigation strategies derived from butterfly optimization algorithm. Science of The Total Environment, 727, p. 138572, 2020.
Downloads
Published
Issue
Section
License
Copyright (c) 2024 Javier Miranzo-Díaz
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Authors who publish in this Journal agree to the following terms:
- Authors retain copyright and grant the A&C - Administrative & Constitutional Law Review the right of first publication with the article simultaneously licensed under the Creative Commons - Attribution-NonCommercial-NoDerivatives 4.0 International which allows sharing the work with recognition of the authors and its initial publication in this Journal.
- Authors are able to take on additional contracts separately, for non-exclusive distribution of the version of the paper published in this Journal (eg.: publishing in institutional repository or as a book), with a recognition of its initial publication in this Journal.
- Authors are allowed and encouraged to publish their work online (eg.: in institutional repositories or on their personal website) at any point before or during the submission process, as it can lead to productive exchanges, as well as increase the impact and the citation of the published work (see theEffect of Open Access).
