Introducción

Contexto y relevancia

La paulatina incorporación de la comúnmente llamada Inteligencia Artificial (en adelante, IA) en la Administración Pública es realmente uno de los hitos en la actual era digital, ya plenamente entrados en el S.XXI, si a ello le sumamos la transformación de la Administración Pública en Administración Electrónica actualmente en pleno auge, es en ese marco donde la aplicación de sistemas automatizados de decisión, aprendizaje automático y análisis predictivo están transformando de manera irreversible la relación entre los ciudadanos y los poderes públicos.

El uso de la IA en la gestión pública plantea un novedoso contexto en el que la eficacia y la celeridad administrativa, principios tradicionales de la Administración Pública, ya están coexistiendo con desafíos inéditos hasta hace poco, tales como transparencia, control, responsabilidad y protección de derechos fundamentales.

Existe además un marco más amplio en la Estrategia Digital Europea y los planes nacionales de digitalización de las Administraciones, uno de cuyos principales objetivos es crear un entorno normativo que garantice el equilibrio entre innovación y garantías jurídicas. La IA, aparte de optimizar la gestión de los recursos, va a incidir directamente en la función administrativa, encabezando un proceso de redefinición de los conceptos de discrecionalidad, legalidad y control judicial.

Justificación y delimitación del objeto de estudio

La Administración Pública, con especial hincapié en su modalidad electrónica ha sido objeto de un intenso desarrollo legislativo en España desde la aprobación de las Leyes 39/2015 (en adelante LPACAP) y 40/2015 (en adelante LRJSP), que instauraron el marco jurídico principal de la actuación administrativa electrónica. La irrupción posterior de la IA ha cambiado totalmente la situación, introduciendo un elemento disruptivo que cuestiona la suficiencia de ese marco.

Los sistemas algorítmicos empleados en la gestión pública -como los que asignan recursos, priorizan expedientes o valoran riesgos- plantean problemas, que más adelante se analizarán con detalle, de opacidad, sesgo y rendición de cuentas. La ausencia, por ahora, de una regulación española de la IA en el sector público tiene como consecuencia generar incertidumbre jurídica, tanto para el personal operador en la Administración como para los administrados.

En este libro se plantea la necesidad de analizar la adecuación del marco jurídico actual a las cuestiones que plantea la aplicación de la IA en la Administración, así como formular propuestas normativas que aseguren el respeto a los principios constitucionales y al Derecho de la Unión Europea (en adelante, UE).

Asimismo, el estudio toma como marco la realidad jurídica española y europea, que pivota en las citadas Leyes LPACAP y LRJSP y el fundamental Reglamento (UE) 2024/1869, de Inteligencia Artificial (en adelante, AI Act).

Objetivos y preguntas de investigación

El propósito general es examinar el marco normativo que regula la utilización de la IA en la Administración, cada vez menos analógica y más electrónica, evaluando su nivel de congruencia con los principios del Derecho Administrativo y los estándares europeos de protección de derechos.

Índice

1. INTRODUCCIÓN

1.1. Contexto y relevancia
1.2. Justificación y delimitación del objeto de estudio
1.3. Objetivos y preguntas de investigación
1.4. Hipótesis inicial
1.5. Estructura y desarrollo del libro

2. METODOLOGÍA

2.1. Enfoque general de la investigación
2.2. Método de análisis normativo
2.3. Revisión doctrinal y jurisprudencial
2.4. Método comparado
2.5. Análisis crítico y prospectivo
2.6. Fuentes, límites y exclusiones

3. LA ADMINISTRACIÓN ELECTRÓNICA Y LA INCORPORACIÓN DE LA IA EN EL SECTOR PÚBLICO

3.1. Evolución de la Administración Electrónica en España
3.2. Principios de la actuación administrativa digital
3.3. La llegada de la IA a la Administración: una transición casi inevitable
3.4. Aplicaciones actuales: de la gestión documental a los sistemas predictivos
3.5. Luces y sombras de esta transformación

4. MARCO JURÍDICO APLICABLE AL USO DE LA IA EN LA ADMINISTRACIÓN PÚBLICA

4.1. Un marco normativo todavía en construcción
4.2. El AI Act: el nuevo marco europeo sobre Inteligencia Artificial
- 4.2.1. La clasificación por niveles de riesgo
- 4.2.2. Requisitos reforzados para los niveles de alto riesgo
- 4.2.3. Obligaciones específicas para Administraciones Públicas
- 4.2.4. La IA y los derechos fundamentales
4.3. El RGPD y las decisiones automatizadas: límites, garantías y zonas grises
- 4.3.1. La necesidad de intervención humana real
- 4.3.2. El “derecho a la explicación”
- 4.3.3. Elaboración de perfiles (profiling)
- 4.3.4. Zonas grises en el sector público
4.4. Legislación española: derechos y obligaciones de la IA
- 4.4.1. El deber motivacional: justificar la decisión, no el algoritmo
- 4.4.2. Transparencia y acceso a la información
- 4.4.3. Principio de buena administración
- 4.4.4. Responsabilidad patrimonial por algoritmos
- 4.4.5. La Carta de Derechos Digitales (2021)
4.5. Jurisprudencia relevante: los primeros pasos hacia un “Derecho administrativo algorítmico”
- 4.5.1. El caso BOSCO: primera delimitación judicial del uso de algoritmos, hito de la transparencia algorítmica
- 4.5.2. El Tribunal Europeo de Derechos Humanos y la proporcionalidad en tecnologías intrusivas
- 4.5.3. Transparencia algorítmica: resoluciones destacadas del Consejo de Transparencia
- 4.5.4. Jurisprudencia europea sobre decisiones automatizadas: el caso SCHUFA
- 4.5.5. Hacia un nuevo “Derecho administrativo algorítmico”

5. APLICACIONES DE LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA: ÁMBITOS, DESAFÍOS Y GARANTÍAS

5.1. La creciente incorporación de la IA en la Administración
5.2. Automatización de procedimientos y apoyo a la toma de decisiones
5.3. IA y servicios sociales: eficiencia frente a justicia material
5.4. Gestión tributaria y sistemas de detección de riesgos
5.5. Educación, empleo y procesos selectivos
5.6. Una constante transversal: la opacidad funcional
5.7. Un escenario que exige cautela
5.8. La opacidad algorítmica (blackbox) como problema estructural
5.9. Sesgos, discriminación y reproducción silenciosa de desigualdades
5.10. Supervisión humana: control meramente formal vs. control efectivo
5.11. El impacto real sobre los derechos fundamentales
5.12. Obstáculos para el control administrativo y judicial
5.13. Un equilibrio todavía frágil
5.14. La necesidad de garantías específicas vs. la automatización administrativa
5.15. Transparencia y explicabilidad como presupuesto de legalidad
5.16. Supervisión humana efectiva y responsabilidad administrativa
5.17. Evaluaciones de impacto y auditorías algorítmicas
5.18. Garantías procedimentales y derecho a la impugnación
5.19. Buenas prácticas para una integración responsable de la IA
5.20. Conclusión del capítulo: equilibrio entre innovación y garantía

6. PROPUESTAS DE DESARROLLO NORMATIVO Y GOBERNANZA DE LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN PÚBLICA

6.1. De la diagnosis a la propuesta: cuando el análisis ya no basta
6.2. Hacia una regulación específica del uso de la IA en la Administración
6.3. Gobernanza algorítmica: asumir que la IA también se gobierna
6.4. Evaluaciones de impacto y auditorías: prevenir antes que corregir
6.5. Formación de los empleados públicos y trabajo multidisciplinar
6.6. Coordinación interadministrativa: evitar una IA a distintas velocidades
6.7. Mirando al futuro inmediato: una propuesta abierta

7. CONCLUSIONES

7.1. Una mirada de conjunto: lo que nos deja el análisis
7.2. Sobre la hipótesis de partida: una confirmación matizada
7.3. Aportaciones principales
7.4. Límites del estudio y caminos abiertos
7.5. Reflexión final: tecnología con límites, Derecho con sentido

BIBLIOGRAFÍA

Libros y revistas científicas
Legislación
Jurisprudencia
Fuentes Institucionales

ABREVIATURAS Y SIGLAS