The use of systems based on artificial intelligence by public administrations: current situation and some ad futurum proposals for responsible use
DOI:
https://doi.org/10.24965/reala.11247Keywords:
artificial intelligence, administrative decisions, data, transparency, motivation, public procurement, innovationAbstract
The use by the central, regional and local administration of systems based on artificial intelligence represents a clear advance and multiple benefits related to the effectiveness and efficiency in its operation, but it is accompanied by multiple risks that must be managed from the moment the decision is made. decision about its development or acquisition, until its commissioning and during its life cycle. Given that there is currently no adequate regulation that provides legal certainty and guarantees the rights of citizens when decisions that affect them are made, this paper aims to address certain issues that must be regulated in the future so that public administrations can use this type of system with the proper guarantees.
Downloads
References
Alamillo Domingo, I. y Urios Aparisi, X. (2007). Los límites a la utilización del sello de órgano por parte de las Administraciones Públicas en la Ley 11/2007 [comunicación presentada a las X Jornadas sobre Tecnologías de la Información para la Modernización de las Administraciones Públicas (TECNIMAP 2007) – Gijón]. Generalidad de Cataluña.
Barrio Andrés, M. (2020). Luces y sombras del Estado algorítmico de Derecho. Derecho Digital e Innovación, (5).
Barrio Andrés, M., Campos Acuña, C., Alamillo, N., Cuesta, P., Estrelles, A., Fontana, R., de Gaviria, N., Mad, S., Muñoz Lombardía, A., Nava, E., Perea, A., Pérez-Llorca, P., Prado Blanco, A., Remón, J. y Vives, F. (2023). La visión de los expertos. En Informe Break the limits 2023 (The Legal Innovation Report). Fundación Aranzadi La Ley.
Berning Prieto, A. D. (2019). Validez e invalidez de los actos administrativos en soporte electrónico. Thomson-Reuters Aranzadi.
Berning Prieto, A. D. (2021). La subsanación electrónica en el procedimiento administrativo: una cuestión pendiente de resolver en la jurisprudencia española. European Review of Digital Administration & Law. 2(1), 249-254. https://doi.org/10.53136/979125994243218
Berning Prieto, A. D. (2022). Implicaciones de la inteligencia artificial y los algoritmos en el sector público y sus particularidades en la Administración Tributaria. En B. D. Olivares Olivares (coord.), La inteligencia artificial en la relación entre los obligados y la Administración tributaria: retos ante la gestión tecnológica (pp. 23-45). La Ley.
Berning Prieto, A. D. (2023). La naturaleza jurídica de los algoritmos. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 95-130). Tirant Lo Blanch.
Boix Palop, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público: Teoría y Método, (1), 223-270. https://doi.org/10.37417/rpd/vol_1_2020_33
Bull, H. P. (2017). Der »vollständig automatisiert erlassene« Verwaltungsakt – Zur Begriffsbildung und rechtlichen Einhegung von »E-Government«. Deutsches Verwaltungsblatt, 132(7), 409-477. https://doi.org/10.1515/dvbl-2017-0705
Carloni, E. (2020). IA, algoritmos y Administración pública en Italia. Revista de Internet, Derecho y Política, (30). https://doi.org/10.7238/idp.v0i30.3228
Cerrillo Martínez, A. (2019a). El impacto de la inteligencia artificial en el Derecho Administrativo: ¿nuevos conceptos para nuevas realidades técnicas? Revista General de Derecho Administrativo, (50). https://www.iustel.com//v2/revistas/detalle_revista.asp?id_noticia=421172
Cerrillo Martínez, A. (2019b). How can we open the black box of public administration? Transparency and accountability in the use of algorithms. Revista Catalana de Dret Públic, (58), 13-28. https://doi.org/10.2436/rcdp.i58.2019.3277
Chiariello, A. M. (2022). AI and Public Services: a challenging relationship between benefits, risks and compliance with unavoidable principles. European Review of Digital Administration & Law, 2(2), 185-203. https://doi.org/10.53136/979125994752916
COMISIÓN EUROPEA (2021). Propuesta de reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión [COM/2021/206 final]. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex%3A52021PC0206
Cotino Hueso, L. (2020). «SyRI, ¿a quién sanciono?» Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020. La Ley Privacidad, (4).
Cotino Hueso, L. (2022). Transparencia y explicabilidad de la inteligencia artificial y «compañía» (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta. En L. Cotino Hueso y J. Castellanos Claramunt (eds.), Transparencia y explicabilidad de la inteligencia artificial, (pp. 29-70). Tirant Lo Blanch.
De la Cueva, J. (2018). Código fuente, algoritmos y fuentes del Derecho. El Notario del Siglo XXI: revista del Colegio Notarial de Madrid, (77), 24-27. https://www.elnotario.es/index.php/hemeroteca/revista-77/opinion/opinion/8382-codigo-fuente-algoritmos-y-fuentes-del-derecho
Delgado, A. M. y Oliver, R. (2007). La actuación administrativa automatizada. Algunas experiencias en el ámbito tributario. Revista Catalana de Dret Públic, (35). http://revistes.eapc.gencat.cat/index.php/rcdp/article/view/2533
Díaz Calvarro, J. M. (2020). Garantías de los derechos de los obligados tributarios. Los principios de seguridad y transparencia ante el uso de la informática decisional en la Administración tributaria. Anuario de la Facultad de Derecho. Universidad de Extremadura, (36), 219-248. https://doi.org/10.17398/2695-7728.36.219
Gallego Córcoles, I. (2023). La contratación de soluciones de inteligencia artificial. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios (pp. 503-567). Tirant Lo Blanch.
Gamero Casado, E. (2016). Panorámica de la administración electrónica en la nueva legislación administrativa básica. Revista Española de Derecho Administrativo, (175), 15-27.
Gamero Casado, E. (dir.) (2021). La potestad administrativa: concepto y alcance práctico de un criterio clave para la aplicación del Derecho administrativo. Tirant Lo Blanch.
Gamero Casado, E. (2022). La Administración facilitadora: el papel de la Administración pública en el nuevo orden socio económico. Revista Andaluza de Administración Pública, (113), 271-291. https://doi.org/10.46735/raap.n113.1355
Gamero Casado, E. (2023). Las garantías de régimen jurídico del sector público y del procedimiento administrativo común frente a la actividad automatizada y la inteligencia artificial. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 397-461). Tirant Lo Blanch.
González Cabanes, F. y Díaz Díaz, N. (2023). ¿Qué es la Inteligencia Artificial? En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 37-72). Tirant Lo Blanch.
Hawking, S. (2018). Breves respuestas a las grandes preguntas. Crítica.
Huergo Lora, A. (2020). Una aproximación a los algoritmos desde el Derecho Administrativo. En A. Huergo Lora (dir.) y G. M. Díaz González (coord.), La regulación de los algoritmos, (pp. 23-87). Thomson-Reuters Aranzadi.
Loi, M., Mätzener, A., Müller, A. y Spielkamp, M. (2021). Automated Decision-Making Systems in the Public Sector. An Impact Assessment Tool for Public Authorities. Algorithm Watch. https://algorithmwatch.ch/en/adms-impact-assessment-public-sector-algorithmwatch/
López Pulido, J. P. (2021). El derecho de acceso a los algoritmos y al código fuente, en la actuación administrativa automatizada y su afectación en las entidades locales. La Administración Práctica: enciclopedia de administración municipal, (11), 43-53.
Martín Delgado, I. (2009). Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada. Revista de Administración Pública, (180), 353-386. https://www.cepc.gob.es/publicaciones/revistas/revista-de-administracion-publica/numero-180-septiembrediciembre-2009/naturaleza-concepto-y-regimen-juridico-de-la-actuacion-administrativa-automatizada-2
Martín Delgado, I. (2023). La aplicación del principio de transparencia a la actividad administrativa algorítmica. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 131-194). Tirant Lo Blanch.
Muñoz Rodríguez, A. B. (2020). El impacto de la inteligencia artificial en el proceso penal. Anuario de la Facultad de Derecho. Universidad de Extremadura, (36), 695-728. https://doi.org/10.17398/2695-7728.36.695
Olivares Olivares, B. D. (2022). La teoría de las garantías adecuadas en materia de protección de datos y sus implicaciones respecto de la toma de decisiones automatizadas en la Administración tributaria. En B. D. Olivares Olivares (coord.), La inteligencia artificial en la relación entre los obligados y la Administración tributaria: retos ante la gestión tecnológica (pp. 240-263). La Ley.
Parada, R. (1999). Régimen jurídico de las Administraciones Públicas y Procedimiento Administrativo Común (estudio, comentarios y texto de la Ley 30/1992, de 26 de noviembre). Marcial Pons.
Ponce Solé, J. (2019). Inteligencia artificial, derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo, (50). https://www.iustel.com//v2/revistas/detalle_revista.asp?id_noticia=421176&popup=
Ponce Solé, J. (2023). Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios (pp. 195-225). Tirant Lo Blanch.
Santamaría Pastor, J. A. (1984). La teoría del órgano en el Derecho Administrativo. Revista Española de Derecho Administrativo (40-41), 43-86.
Valero Torrijos, J. (2007). El régimen jurídico de la e-Administración. El uso de medios informáticos y telemáticos en el procedimiento administrativo común (2.ª ed.). Comares.
Valero Torrijos, J. (2018). La necesaria reconfiguración de las garantías jurídicas en el contexto de la transformación digital del sector público. En T. de la Quadra-Salcedo y J. L. Piñar Mañas (dirs.), Sociedad Digital y Derecho (pp. 375-396). Ministerio de Industria, Comercio y Turismo.
Zlotnik, A. (2019). Inteligencia Artificial en las Administraciones Públicas: definiciones, evaluación de viabilidad de proyectos y áreas de aplicación. Revista de la Asociación Profesional de Cuerpos Superiores de Sistemas y Tecnologías de la Información de las Administraciones Públicas, (84), 24-32. Disponible en: https://www.ciegs.upv.es/wp-content/uploads/2023/06/Inteligencia-Artificial-en-las-Administraciones-definiciones-evaluacion-de-viabilidad-alexander_zlotnik-2019.pdf
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2023 Revista de Estudios de la Administración Local y Autonómica
![Creative Commons License](http://i.creativecommons.org/l/by-nc/4.0/88x31.png)
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.