Abriendo la caja negra de la gobernanza pública mediada por algoritmos. Implicaciones de la Inteligencia Artificial en gobiernos, servicios públicos y personas (AI_PUBLICGOV)
Entidad financiadora: Ministerio de Ciencia e Innovación.
Referencia: PID2022-136283OB-I00.
Entidades participantes: Universidad Autónoma de Madrid y Universidad de Granada. Investigador principal: J. Ignacio Criado (UAM) y Manuel Pedro Rodríguez (UGR).
Miembros del equipo participantes: Julián Villodre, Edgar Rubalcaba, Irene Liarte, Ariana Guevara y Carlos Jiménez.
(organizaciones públicas y servicios), y micro (relación de la IA con empleados públicos y ciudadanos). Investigaciones previas sugieren que el desarrollo y la aplicación de IA en el contexto del sector público, si bien pueden generar nuevas oportunidades y tienen el potencial de transformar gobiernos y administraciones públicas y su interacción con la ciudadanía, presentan también potenciales desafíos para la privacidad, la inclusión y la diversidad, así como el control de los datos personales, entre otros.
Este proyecto responde a la creciente relevancia de la IA en el ámbito público y la necesidad de comprender su impacto en diferentes niveles. La hipótesis de partida sostiene que la utilización de herramientas basadas en IA podría significar una transformación en los modelos de gobernanza y gestión pública, dando lugar a la
emergencia de paradigmas como la gobernanza algorítmica. Los objetivos principales incluyen: a) Analizar las estrategias de gobernanza de la IA en España y los estados miembros de la UE; b) explorar la promulgación e institucionalización de la IA en organizaciones públicas y su variabilidad en las diferentes áreas de servicios; c) identificar y analizar los efectos de la IA y los algoritmos en la toma de decisiones y el trabajo de los empleados públicos, así como en la confianza de los ciudadanos que utilizan dichos servicios; d) avanzar en la caracterización de la gobernanza algorítmica como un nuevo paradigma en la administración pública. Este enfoque multidimensional busca contribuir significativamente al entendimiento de la interacción entre la IA y la gobernanza pública.
Teniendo en cuenta todo lo anterior, el proyecto se despliega en torno a los cuatro objetivos identificados, centrados en el análisis de implementación y utilización de IA en los diferentes niveles de gobierno. Cada uno de los objetivos presenta una serie de actividades y tareas asociadas, junto a su personal responsable, espacio temporal de desarrollo y entregables esperados. Metodológicamente, es un proyecto que combina técnicas cuantitativas y cualitativas, siendo especialmente innovador a través del uso de la organización de grupos focales y métodos experimentales.
Se trata de un proyecto de investigación con resultados que se espera alcancen un alto nivel de impacto teniendo en cuenta el contexto de elevado desarrollo tecnológico en el que se desenvuelven las sociedades actuales. De hecho, la consecución del proyecto se encuentra en plena ola de reflexión, planteamiento y aplicación de normativa por parte de la UE. A su vez, se trata también de un proyecto que pretende un alto impacto económico y social para las ciudades españolas, así como la transferencia de los resultados hacia los gobiernos y administraciones públicas. Adicionalmente, el equipo de investigación que desarrollará el
proyecto es coherente, pertenece a ámbitos disciplinares complementarios, y dispone de demostrada capacidad formativa (se solicita personal pre-doctoral en formación) y potencial de internacionalización.
