La Inteligencia Artificial (IA) es uno de los temas que recientemente ha concitado mayor interés en el debate público sobre el presente y futuro de nuestras sociedades y democracias. La cantidad de libros, artículos, comentarios, informes, webinars, etc., sobre las oportunidades y amenazas abiertas por la IA resulta más que abrumador. No son tan abundantes las evidencias que disponemos sobre sus efectos y resultados reales en las instituciones políticas y las administraciones públicas, o entre el personal público y la ciudadanía. Sin embargo, la confirmación de que la IA ha entrado definitivamente en la agenda gubernamental durante el 2020, tanto en la Unión Europea como en España, es la publicación del Libro Blanco sobre la IA y la Estrategia Nacional de Inteligencia Artificial (ENIA), respectivamente. Al hilo de la apertura de esos procesos de adopción de la IA en la agenda gubernamental, y por tanto la superación de la fase de deslumbramiento inicial, las siguientes líneas se proponen no sólo conocer algo más sobre el “enfoque europeo orientado a la excelencia y la confianza”, sino también reflexionar sobre las implicaciones de este marco para el sector público español. Todo ello, en un momento de transformación de la gestión y las políticas públicas, en el que se deberán optimizar fondos europeos NextGeneration, para implantar proyectos de digitalización del sector público con la IA y los grandes datos en el centro.
Como han puesto en evidencia diferentes estudios recientes, y de ahí su interés, la gobernanza de los algoritmos y la reciente evolución de la IA indicarían un progresivo cuestionamiento de equilibrios democráticos básicos de nuestras comunidades políticas. Así lo sugieren experiencias recientes, incluyendo el crecimiento de los problemas relacionados con las cámaras de eco polarizadoras y la difusión de noticias falsas en redes sociales, que habrían tenido un impacto directo en el fortalecimiento de posiciones políticas extremas. Así también ha sucedido con los riesgos que supone para la privacidad y la seguridad de los datos personales la actuación con mínimos controles de grandes plataformas que estarían consolidando el llamado capitalismo de vigilancia. Por no hablar de los sesgos éticos y discriminatorios en la prestación de servicios públicos, debido al perfilado de usuarios, basado en algoritmos opacos implementados por algunas agencias públicas.
Ante este panorama, las instituciones europeas han ido configurando un marco de política de IA orientado a la promoción de una vía autónoma, y alternativa, respecto de los dos líderes globales. Desde 2018, el relato construido por la Comisión Europea evita entrar en la carrera entre China y Estados Unidos por el liderazgo en el desarrollo de la IA. Más bien, se pretende un camino propio para alcanzar las oportunidades que brinda la IA, pero con un enfoque más humano, ético, seguro y próximo a los valores democráticos fundacionales europeos. Por decirlo de otra manera, se ha renunciado a asumir el ritmo sin control de los grandes gigantes económicos de la economía digital (GAFAM), de un lado, al mismo tiempo que se evita la deriva hacia un modelo de datacracia fundado en un control gubernamental masivo.
Lo anterior ha quedado explicitado en el mencionado Libro Blanco sobre la IA, publicado justo antes de la expansión global de la pandemia del COVID-19. Dentro del Libro Blanco, y en línea con algunos actores internacionales como Naciones Unidas, OCDE o Consejo de Europa, la Comisión Europea ha definido un marco para las políticas nacionales de IA que pone el acento en la necesidad de un equilibrio complejo entre los principios de excelencia y confianza. Por un lado, la UE desea situarse al máximo nivel posible de excelencia entre los principales ecosistemas de innovación globales. El objetivo de ello sería lograr que la IA se extendiera lo máximo posible en todos los sectores económicos, generando las máximas oportunidades desde la perspectiva de crecimiento y difusión tecnológica.
Por otro lado, lo anterior va de la mano de la confianza y un marco regulador que facilite las oportunidades al mismo tiempo que controla las amenazas. El objetivo aquí sería el respeto a derechos fundamentales (protección de datos personales, privacidad o no discriminación), por ejemplo, mediante el cumplimiento de determinados requisitos de los sistemas basados en IA durante su proceso de entrenamiento, la existencia de registros de datos, la solidez y exactitud de los mismos o la garantía de supervisión humana. Aquí también se debería atender otras cuestiones que también han apuntado organismos como la Naciones Unidas o la OCDE, tales como la explicabilidad de los algoritmos, los sistemas de auditoria, los mecanismos de rendición de cuentas por decisiones basadas en sistemas de machine learning, etc.
Al mismo tiempo, el marco de la política de IA de la UE también ha incidido en la necesidad de diferenciar el desarrollo de la IA desde gobiernos y administraciones, junto a la promoción de la IA en gobiernos y administraciones públicas. Al margen del papel impulsor en los diferentes sectores económicos a través de diversos mecanismos financieros y de otro tipo, gobiernos y administraciones son también un objetivo directo de la política de IA en sus dinámicas de gestión. De hecho el Libro Blanco también reserva un apartado a este ámbito, de manera que se puede sostener que el marco de política que propone la UE sugiere la necesidad de focalizarse en los sectores públicos de salud y transporte, aquellos en los que se estima que las tecnologías de IA están lo suficientemente maduras para su adopción e implementación a gran escala. También se hace especial hincapié en transformar los procesos de contratación pública.
Sin embargo, parecen quedar a un lado, al menos de momento, cuestiones de mayor calado. En este apartado se incluiría cómo la IA puede ayudar a mejorar los procesos de adopción de decisiones en el sector público, cuál es la aportación de la IA al diseño de las políticas públicas o qué oportunidades ofrece la IA para desarrollar modelos de gestión pública colaborativa e innovación abierta con la ciudadanía de cara a generar valor público. En definitiva, no se define con nitidez el impacto de la IA en la gestión de las administraciones públicas, al mismo tiempo que no se tiene en cuenta la combinación de inteligencias (artificial, institucional y colectiva) en la promoción de nuevas formas de solución de problemas colectivos cada vez más complejos.
A partir de este marco definido desde la UE, el caso de España puede servir de banco de pruebas para explorar en qué medida se está europeizando la política de IA. Lo primero que habría que señalar es que la incorporación de la IA en la agenda gubernamental en España es muy reciente. Al margen de algunos hitos previos (por ejemplo, la Estrategia Española de I+D+I en Inteligencia Artificial en 2018 o la creación de la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), dentro del Ministerio de Asuntos Económicos y Transformación Digital a principios de 2020) el verdadero punto de arranque de esta política se puede considerar la presentación oficial de la mencionada ENIA (realizada el 2 de diciembre de 2020 en el Palacio de La Moncloa). Dentro de ella ya se esbozan algunas líneas clave sobre las que pivotará la IA en nuestro país en los próximos años.
La ENIA muestra un alineamiento muy alto con la UE, pero también con la propia Agenda Digital de España 2025. Se pone el acento en la necesidad de responder al hecho de que se espera que más del 20% de los fondos del Mecanismo Europeo de Recuperación se centrarán en la transición hacia la digitalización. Adicionalmente, se realizan diferentes menciones a documentos de la Comisión Europea, incluyendo su Libro Blanco sobre IA, y se destaca en un apartado la alineación con la política de la UE en la materia. Este primer aspecto es clave, dado que la ENIA parece integrarse desde el primer momento dentro del marco europeo de política de IA, al menos formalmente, abriendo el camino de una europeización en líneas con el modelo europeo.
También cabría destacar dentro de la ENIA la vertiente de la confianza y ética de la IA. Dentro de los temas que se refieren a economía y sociedad existe un bloque completo sobre promoción de la ética y normativa relacionada con la IA (eje estratégico 6). Aquí se prevén algunas medidas como el desarrollo de un sello nacional de calidad IA, la puesta en marcha de observatorios para evaluar el impacto social de los algoritmos, el desarrollo de una Carta de Derechos Digitales (cuya consulta pública se cierra el 20 de enero de 2021), la puesta en funcionamiento del Consejo Asesor de IA o la promoción de diálogo, sensibilización y participación sobre IA. Lo anterior supone ir más allá de una visión centrada en el desarrollo económico y tecnológico, incorporando sensibilidad ética y normativa.
Adicionalmente, la ENIA destaca el papel clave de la transformación digital del sector público mediante la IA. Aquí se definen cinco bloques de medidas, incluyendo la mejora de la eficiencia de procesos administrativos a través de la IA, la adopción de un gobtechlab para experimentar nuevos servicios y aplicaciones, el desarrollo de competencias IA en el personal público, la promoción de una gestión pública basada en datos y el acercamiento a la idea de misiones estratégicas nacionales basadas en el alto impacto de la IA en sectores como salud, justicia y empleo. Si bien no es posible aquí un mayor detalle de análisis, es cierto que se incide en la importancia de la IA para mejorar la transparencia administrativa, adoptar mejores decisiones o prestar servicios digitales basados en sistemas de IA y para ello se prevé incorporar nuevos mecanismos de compra pública innovadora, así como abrir mecanismos de regulación basados en sandboxes. Con ello, la ENIA detalla algunas acciones clave que podrían desarrollarse en administraciones públicas de todos los niveles, a lo largo de los próximos años.
Así las cosas, se puede decir que 2020 ha supuesto un punto de inflexión en la UE y España en la política de IA al incorporarse en la agenda gubernamental. Por un lado, hay que destacar el papel catalizador de la UE y la intención de europeización desde las instituciones comunitarias de la política de IA para articular un modelo de gobernanza propio. El modelo europeo de gobernanza de la IA se sostendría en la necesidad de garantizar los derechos humanos y la protección de datos personales, pero también en lograr un equilibrio, no sencillo, entre los principios de excelencia y confianza. Así, desde las instituciones comunitarias ya se han identificado directrices para la creación de una IA fiable, incluyendo requisitos, métodos técnicos y no técnicos de aplicación. Queda todavía por conocer los siguientes pasos de la política europea de IA, el despliegue de mecanismos de europeización, así como su contribución real a la soberanía tecnología y autonomía estratégica respecto de otros actores globales.
En el caso, español, la ENIA ha definido una aproximación antes inexistente a lo que sería una política de IA. Su alineamiento con la UE y con la absorción de fondos de recuperación, la preocupación por cuestiones éticas y normativas, así como la atención a la transformación digital del sector público, no puede hacernos obviar algunos ámbitos de mejora que deberán corregirse rápidamente. A pesar de que se plantea al final de la ENIA un apartado sobre gobernanza y presupuesto, no se detallan cuestiones esenciales, incluyendo un mapa de actores e impulsores clave, indicadores de medida de avance de las acciones, impactos esperados de las intervenciones públicas, un modelo más claro sobre cómo se van a articular las relaciones intergubernamentales para integrar a gobiernos autonómicos y locales, mecanismos de colaboración público-privada, un cronograma de proyectos o qué financiación cuentan las acciones específicas, más allá de una cifra general. Por supuesto, habrá que esperar algo más de tiempo para caracterizar la política de IA en España, su alcance y, desde luego, los resultados de la misma. También habrá que estar pendiente del alcance de la aplicación de las medidas urgentes de modernización de la Administración Pública y para la ejecución del Plan de Recuperación, Transformación y Resiliencia.
En conclusión, si bien hemos experimentado un salto adelante en las políticas de IA y su adopción para mejorar la gestión del sector público, no cabe duda de que las incertidumbres que ha traído la pandemia puede que afecten los próximos pasos a emprender. De cara a las administraciones públicas con proyectos en marcha (o con intención de ponerlos en marcha) sobre IA, se recomienda tener en cuenta algunas cuestiones clave, entre otras: (1) promover un enfoque ético de la gobernanza basada en algoritmos, (2) superar el determinismo tecnológico(positivo o negativo), (3) crear una visión ciudadano-céntrica, (4) aprovechar el potencial analítico y predictivo de las tecnologías, (5) generar confianza en las instituciones públicas, (6) desarrollar una visión holística, interoperable e innovadora, (7) crear perfiles híbridos dentro del sector público o (8) desarrollar nuevas capacidades digitales, también entre la ciudadanía. En próximas contribuciones esperamos seguir debatiendo sobre las siguientes fases de adopción e implementación de la IA desde y en gobiernos y administraciones públicas de la UE, en general, y España, en particular.
J. Ignacio Criado. Profesor de Ciencia Política y Administración Pública, Departamento de Ciencia Política y Relaciones Internacionales. Coordinador, Lab Innovación, Tecnología y Gestión Pública (ITGesPub), Grupo de Investigación, Universidad Autónoma de Madrid.
