El uso de sistemas basados en inteligencia artificial por las Administraciones públicas: estado actual de la cuestión y algunas propuestas ad futurum para un uso responsable

Antonio David Berning Prieto

doi:10.24965/reala.11247

Authors

Antonio David Berning Prieto Universidad Pablo de Olavide de Sevilla. Departamento de Derecho Público (España – Spain) http://orcid.org/0000-0002-7644-8210

DOI:

https://doi.org/10.24965/reala.11247

Keywords:

artificial intelligence, administrative decisions, data, transparency, motivation, public procurement, innovation

Abstract

The use by the central, regional and local administration of systems based on artificial intelligence represents a clear advance and multiple benefits related to the effectiveness and efficiency in its operation, but it is accompanied by multiple risks that must be managed from the moment the decision is made. decision about its development or acquisition, until its commissioning and during its life cycle. Given that there is currently no adequate regulation that provides legal certainty and guarantees the rights of citizens when decisions that affect them are made, this paper aims to address certain issues that must be regulated in the future so that public administrations can use this type of system with the proper guarantees.

Downloads

Download data is not yet available.

Author Biography

Antonio David Berning Prieto, Universidad Pablo de Olavide de Sevilla. Departamento de Derecho Público (España – Spain)

El autor ha centrado su investigación en las vicisitudes de la administración electrónica en conexión con cuestiones capitales de la Parte General del Derecho Administrativo, con publicaciones en editoriales de prestigio. Ha sido beneficiario de varias becas formativas en régimen de concurrencia competitiva, de la que cabe destacar la FPU para la consecución de la tesis doctoral, cuyo resultado se publicó como monografía. Ha realizado estancias de investigación en Freiburg (Alemania) y Firenze (Italia). Profesor responsable de diversos contratos de investigación para la transferencia del conocimiento, imparte docencia con plena dedicación en la Universidad Pablo de Olavide como Profesor Ayudante Doctor de Derecho Administrativo, si bien también ha impartido docencia en diversos posgrados de instituciones privadas de prestigio, habiendo impartido también numerosas sesiones formativas para diversas administraciones públicas. Ha participado como miembro investigador en diversos Proyectos de Investigación centrados en cuestiones trascendentales del Derecho Administrativo.

References

Alamillo Domingo, I. y Urios Aparisi, X. (2007). Los límites a la utilización del sello de órgano por parte de las Administraciones Públicas en la Ley 11/2007 [comunicación presentada a las X Jornadas sobre Tecnologías de la Información para la Modernización de las Administraciones Públicas (TECNIMAP 2007) – Gijón]. Generalidad de Cataluña.

Barrio Andrés, M. (2020). Luces y sombras del Estado algorítmico de Derecho. Derecho Digital e Innovación, (5).

Barrio Andrés, M., Campos Acuña, C., Alamillo, N., Cuesta, P., Estrelles, A., Fontana, R., de Gaviria, N., Mad, S., Muñoz Lombardía, A., Nava, E., Perea, A., Pérez-Llorca, P., Prado Blanco, A., Remón, J. y Vives, F. (2023). La visión de los expertos. En Informe Break the limits 2023 (The Legal Innovation Report). Fundación Aranzadi La Ley.

Berning Prieto, A. D. (2019). Validez e invalidez de los actos administrativos en soporte electrónico. Thomson-Reuters Aranzadi.

Berning Prieto, A. D. (2021). La subsanación electrónica en el procedimiento administrativo: una cuestión pendiente de resolver en la jurisprudencia española. European Review of Digital Administration & Law. 2(1), 249-254. https://doi.org/10.53136/979125994243218

Berning Prieto, A. D. (2022). Implicaciones de la inteligencia artificial y los algoritmos en el sector público y sus particularidades en la Administración Tributaria. En B. D. Olivares Olivares (coord.), La inteligencia artificial en la relación entre los obligados y la Administración tributaria: retos ante la gestión tecnológica (pp. 23-45). La Ley.

Berning Prieto, A. D. (2023). La naturaleza jurídica de los algoritmos. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 95-130). Tirant Lo Blanch.

Boix Palop, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público: Teoría y Método, (1), 223-270. https://doi.org/10.37417/rpd/vol_1_2020_33

Bull, H. P. (2017). Der »vollständig automatisiert erlassene« Verwaltungsakt – Zur Begriffsbildung und rechtlichen Einhegung von »E-Government«. Deutsches Verwaltungsblatt, 132(7), 409-477. https://doi.org/10.1515/dvbl-2017-0705

Carloni, E. (2020). IA, algoritmos y Administración pública en Italia. Revista de Internet, Derecho y Política, (30). https://doi.org/10.7238/idp.v0i30.3228

Cerrillo Martínez, A. (2019a). El impacto de la inteligencia artificial en el Derecho Administrativo: ¿nuevos conceptos para nuevas realidades técnicas? Revista General de Derecho Administrativo, (50). https://www.iustel.com//v2/revistas/detalle_revista.asp?id_noticia=421172

Cerrillo Martínez, A. (2019b). How can we open the black box of public administration? Transparency and accountability in the use of algorithms. Revista Catalana de Dret Públic, (58), 13-28. https://doi.org/10.2436/rcdp.i58.2019.3277

Chiariello, A. M. (2022). AI and Public Services: a challenging relationship between benefits, risks and compliance with unavoidable principles. European Review of Digital Administration & Law, 2(2), 185-203. https://doi.org/10.53136/979125994752916

COMISIÓN EUROPEA (2021). Propuesta de reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión [COM/2021/206 final]. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex%3A52021PC0206

Cotino Hueso, L. (2020). «SyRI, ¿a quién sanciono?» Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020. La Ley Privacidad, (4).

Cotino Hueso, L. (2022). Transparencia y explicabilidad de la inteligencia artificial y «compañía» (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta. En L. Cotino Hueso y J. Castellanos Claramunt (eds.), Transparencia y explicabilidad de la inteligencia artificial, (pp. 29-70). Tirant Lo Blanch.

De la Cueva, J. (2018). Código fuente, algoritmos y fuentes del Derecho. El Notario del Siglo XXI: revista del Colegio Notarial de Madrid, (77), 24-27. https://www.elnotario.es/index.php/hemeroteca/revista-77/opinion/opinion/8382-codigo-fuente-algoritmos-y-fuentes-del-derecho

Delgado, A. M. y Oliver, R. (2007). La actuación administrativa automatizada. Algunas experiencias en el ámbito tributario. Revista Catalana de Dret Públic, (35). http://revistes.eapc.gencat.cat/index.php/rcdp/article/view/2533

Díaz Calvarro, J. M. (2020). Garantías de los derechos de los obligados tributarios. Los principios de seguridad y transparencia ante el uso de la informática decisional en la Administración tributaria. Anuario de la Facultad de Derecho. Universidad de Extremadura, (36), 219-248. https://doi.org/10.17398/2695-7728.36.219

Gallego Córcoles, I. (2023). La contratación de soluciones de inteligencia artificial. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios (pp. 503-567). Tirant Lo Blanch.

Gamero Casado, E. (2016). Panorámica de la administración electrónica en la nueva legislación administrativa básica. Revista Española de Derecho Administrativo, (175), 15-27.

Gamero Casado, E. (dir.) (2021). La potestad administrativa: concepto y alcance práctico de un criterio clave para la aplicación del Derecho administrativo. Tirant Lo Blanch.

Gamero Casado, E. (2022). La Administración facilitadora: el papel de la Administración pública en el nuevo orden socio económico. Revista Andaluza de Administración Pública, (113), 271-291. https://doi.org/10.46735/raap.n113.1355

Gamero Casado, E. (2023). Las garantías de régimen jurídico del sector público y del procedimiento administrativo común frente a la actividad automatizada y la inteligencia artificial. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 397-461). Tirant Lo Blanch.

González Cabanes, F. y Díaz Díaz, N. (2023). ¿Qué es la Inteligencia Artificial? En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 37-72). Tirant Lo Blanch.

Hawking, S. (2018). Breves respuestas a las grandes preguntas. Crítica.

Huergo Lora, A. (2020). Una aproximación a los algoritmos desde el Derecho Administrativo. En A. Huergo Lora (dir.) y G. M. Díaz González (coord.), La regulación de los algoritmos, (pp. 23-87). Thomson-Reuters Aranzadi.

Loi, M., Mätzener, A., Müller, A. y Spielkamp, M. (2021). Automated Decision-Making Systems in the Public Sector. An Impact Assessment Tool for Public Authorities. Algorithm Watch. https://algorithmwatch.ch/en/adms-impact-assessment-public-sector-algorithmwatch/

López Pulido, J. P. (2021). El derecho de acceso a los algoritmos y al código fuente, en la actuación administrativa automatizada y su afectación en las entidades locales. La Administración Práctica: enciclopedia de administración municipal, (11), 43-53.

Martín Delgado, I. (2009). Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada. Revista de Administración Pública, (180), 353-386. https://www.cepc.gob.es/publicaciones/revistas/revista-de-administracion-publica/numero-180-septiembrediciembre-2009/naturaleza-concepto-y-regimen-juridico-de-la-actuacion-administrativa-automatizada-2

Martín Delgado, I. (2023). La aplicación del principio de transparencia a la actividad administrativa algorítmica. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 131-194). Tirant Lo Blanch.

Muñoz Rodríguez, A. B. (2020). El impacto de la inteligencia artificial en el proceso penal. Anuario de la Facultad de Derecho. Universidad de Extremadura, (36), 695-728. https://doi.org/10.17398/2695-7728.36.695

Olivares Olivares, B. D. (2022). La teoría de las garantías adecuadas en materia de protección de datos y sus implicaciones respecto de la toma de decisiones automatizadas en la Administración tributaria. En B. D. Olivares Olivares (coord.), La inteligencia artificial en la relación entre los obligados y la Administración tributaria: retos ante la gestión tecnológica (pp. 240-263). La Ley.

Parada, R. (1999). Régimen jurídico de las Administraciones Públicas y Procedimiento Administrativo Común (estudio, comentarios y texto de la Ley 30/1992, de 26 de noviembre). Marcial Pons.

Ponce Solé, J. (2019). Inteligencia artificial, derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo, (50). https://www.iustel.com//v2/revistas/detalle_revista.asp?id_noticia=421176&popup=

Ponce Solé, J. (2023). Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios (pp. 195-225). Tirant Lo Blanch.

Santamaría Pastor, J. A. (1984). La teoría del órgano en el Derecho Administrativo. Revista Española de Derecho Administrativo (40-41), 43-86.

Valero Torrijos, J. (2007). El régimen jurídico de la e-Administración. El uso de medios informáticos y telemáticos en el procedimiento administrativo común (2.ª ed.). Comares.

Valero Torrijos, J. (2018). La necesaria reconfiguración de las garantías jurídicas en el contexto de la transformación digital del sector público. En T. de la Quadra-Salcedo y J. L. Piñar Mañas (dirs.), Sociedad Digital y Derecho (pp. 375-396). Ministerio de Industria, Comercio y Turismo.

Zlotnik, A. (2019). Inteligencia Artificial en las Administraciones Públicas: definiciones, evaluación de viabilidad de proyectos y áreas de aplicación. Revista de la Asociación Profesional de Cuerpos Superiores de Sistemas y Tecnologías de la Información de las Administraciones Públicas, (84), 24-32. Disponible en: https://www.ciegs.upv.es/wp-content/uploads/2023/06/Inteligencia-Artificial-en-las-Administraciones-definiciones-evaluacion-de-viabilidad-alexander_zlotnik-2019.pdf