Se acaba de alcanzar un acuerdo político de máximo nivel sobre la futura regulación de la Inteligencia Artificial (IA) en el ámbito de la Unión Europea (la llamada Ley Europea de IA), en línea con otros pasos previos dentro de la región. Este hito supone un salto adelante al lograr que las instituciones europeas establezcan lineamientos compartidos sobre la regulación de la IA, además de situar este tema dentro de la agenda pública. Tal y como se ha presentado, tanto en medios de comunicación, como en espacios de carácter más académico, la futura normativa europea de IA no está exenta de zonas grises y desafíos, sobre todo, relacionados con el intento de combinar la promoción del desarrollo económico y la innovación, con la protección de los individuos y la garantía de los derechos humanos. En este texto pretendemos destacar que, casi al mismo tiempo y con algo menos de ruido, se ha aprobado la Carta Iberoamericana de Inteligencia Artificial en la Administración Pública, de manera que en las siguientes líneas se resumen algunas ideas clave del documento, así como las principales orientaciones que contiene, con la singularidad de que se centran en las administraciones públicas.
La Carta Iberoamericana de IA en la Administración Pública (a partir de ahora, la Carta) es el primer documento oficial que establece unas directrices comunes sobre la promoción y desarrollo de la IA dentro del Sector Público en todo el ámbito iberoamericano (seguramente, por primera vez, en cualquier otro ámbito geográfico regional a nivel internacional). La Carta se aprobó el 20 de noviembre de 2023 (en reunión celebrada en Varadero, Cuba) por unanimidad de los 23 estados miembros del comité directivo del Centro Latinoamericano de Administración para el Desarrollo (CLAD), organismo público internacional, de carácter intergubernamental, cuya creación fue respaldada por la Asamblea General de las Naciones Unidas “con la idea de establecer una entidad regional que tuviera como eje de su actividad la modernización de las administraciones públicas”.
The proceso de elaboración se explicita durante la presentación del primer borrador de la Carta, recibiendo posteriormente numerosos comentarios y aportaciones de miembros de la sociedad civil y personas expertas del mundo académico, así como de representantes de gobiernos y administraciones públicas de toda la región. La pretensión de este proceso colaborativo de elaboración ha sido mejorar la comprensión de la Carta y atender las necesidades sobre su alcance y oportunidades para su uso dentro del sector público de los países iberoamericanos. Adicionalmente, ha pretendido dejar constancia de los aspectos diferenciales que los gobiernos y administraciones públicas deberían tener en cuenta para promover la IA dentro de su actividad, así como en el trabajo de su personal o en su relación con la ciudadanía.
Desde el punto de vista de su estructura, la Carta se compone de varias secciones, incluyendo una parte introductoria, junto con cinco capítulos. En el preámbulo introductorio se detallan algunas de las fuentes de las que se nutre el documento, subrayando como hitos destacados la Declaración de Buenos Aires del CLAD, de 2019, en la que se mencionó “por primera vez las oportunidades asociadas a la IA en el Sector público de los países de la región”. Junto a ello, también se introducen otros referentes como la idea fuerza de Naciones Unidas que sugiere “una IA para el Bien” de cara a colaborar con los Objetivos de Desarrollo Sostenible (ODS), la Recomendación del Consejo sobre IA de la OCDE (2022) o los esfuerzos de la Unión Europea, por ejemplo, a través del Libro Blanco, por situar a las personas en el centro de la IA. Todos estos hitos sirven como piedra de toque para contextualizar el documento, asumiendo que el enfoque de la Carta se centra fundamentalmente en la aplicación de la IA dentro de las administraciones públicas.
The primer capítulo contiene las bases de la Carta, integrando su visión general, el objetivo y fines, así como el ámbito de aplicación. Dentro de la Carta se establece como objetivo principal “promover un marco compartido de desarrollo de la IA desde y en las administraciones públicas del ámbito iberoamericano”. A partir de esa idea fuerza, otros fines complementarios son, por ejemplo, compartir un lenguaje común para mejorar la gobernanza y fomentar el buen gobierno dentro del ámbito iberoamericano o apoyar al personal de gobiernos y administraciones públicas para su implementación. En todos estos casos, se pone el acento en la necesidad de conectar el contenido de la Carta con el resto de cartas promovidas por el CLAD. Este capítulo se completa señalando que el ámbito de aplicación de la Carta, pese a no contar con un carácter vinculante, debe tener en cuenta todos los niveles administrativos, con especial atención a los de menor tamaño, con menos recursos y con mayor cercanía a la ciudadanía.
The segundo capítulo ofrece el desarrollo conceptual de la Carta, detallando una definición de IA, un modelo de madurez para su desarrollo, así como la identificación de beneficios y riesgos de su implantación en la Administración Pública. Además de la explicitación de una definición más o menos amplia y debatible, este capítulo asume la diferenciación entre dos aspectos clave: IA en y desde la Administración Pública. La primera vertiente hace referencia a acciones promovidas por gobiernos y administraciones públicas, a través de instrumentos normativos, de financiamiento, o de capacitación, de conocimiento y otros, que tienen como objeto de aplicación y uso a las propias entidades gubernamentales y agencias públicas, incluyendo su propio personal y estructuras organizativas; mientras, la segunda se refiere a aquellas otras acciones que tienen como objeto de aplicación y uso a actores en otros sectores (social, económico, etc.). Esta diferenciación es relevante, porque la mayoría de las políticas, estrategias o normas nacionales (incluyendo la Ley Europea de IA) se refieren, sobre todo, al segundo ámbito, y no tienen como sujeto de aplicación a las propias administraciones públicas, algo que sí hace conscientemente esta Carta. Precisamente, lo anterior se pretende lograr subrayando las singularidades de las organizaciones públicas en su relación con este tipo de tecnologías, así como los potenciales beneficios, pero también desafíos, que son exclusivos dentro de ellas.
The tercer capítulo contiene como aspecto sustantivo el desarrollo de un conjunto de principios generales de la IA en la Administración Pública. El punto de partida de este bloque es la necesidad de situar todos esos principios explicitados en la Carta bajo el paraguas de la garantía de los derechos humanos, como esencia para una IA centrada en las personas, confiable, robusta y orientada a la innovación. Resulta especialmente importante para el ámbito específico del sector público destacar, por ejemplo, el principio de rendición de cuentas, responsabilidad y auditabilidad, que menciona la necesidad de generar organismos supervisores que garanticen la calidad del diseño e impacto de los algoritmos, también en las administraciones públicas; o el principio de equidad, inclusividad y no discriminación, que manifiesta la oportunidad de promover en el sector público la aplicación del diseño universal de los sistemas algorítmicos, así como garantizar la voluntad de oponerse a las decisiones adoptadas por esos sistemas. Junto a lo anterior, también aparecen otros principios todavía más focalizados en el sector público, tales como el de centralidad de las personas, valor público y responsabilidad social, que se refiere a la voluntad explícita de no dejar a nadie atrás como consecuencia del uso de la IA; o el principio de sostenibilidad y protección ambiental, que además de promover la alineación de la IA desde y en la Administración Pública con los ODS, también sugiere abiertamente que es preciso sostener como objetivo el bien común de las sociedades, así como el respeto a todas las formas de vida del planeta, incluyendo el uso de algoritmos verdes y tecnologías sostenibles ambientalmente.
The capítulo cuarto incluye las dimensiones clave para la adopción de la IA en la Administración Pública. Este apartado señala que gobiernos y administraciones públicas deben considerar tres ámbitos internos en los que implementar la IA: (1) en las estrategias y legislaciones nacionales que promueven; (2) en las distintas áreas de políticas y servicios públicos que gestionan; y (3) en las personas, incluyendo, en este caso, a todo el personal de las organizaciones públicas en todos los niveles y la ciudadanía y empresas que interactúan con ellas. Al margen de recomendar una adecuada combinación de esas tres dimensiones para promover la IA en la Administración Pública, en cada uno de esos ámbitos resulta imprescindible incidir en áreas concretas que deberían considerarse de manera singularizada.
La primera dimensión (estrategias y legislaciones nacionales), quizá sea la más evolucionada hasta el momento. Las estrategias nacionales de IA deberían considerar qué valores democráticos están juego con los sistemas algorítmicos y sus implicaciones para las instituciones democráticas del futuro, las opciones éticas y el modelo de gobernanza de datos que se persiguen o la identificación de nuevas competencias y conocimientos que se requieren para construir una Administración Pública 4.0. Aquí también se mencionan algunos aspectos más operativos de las estrategias nacionales en las administraciones públicas para afianzar su autonomía algorítmica frente a las grandes empresas tecnológicas, incluyendo cuestiones como la atención a la ciberseguridad, la integración de inteligencias institucional, colectiva y artificial, el desarrollo de capacidades institucionales analíticas para la dirección y gestión de datos, el entrenamiento apropiado por seres humanos de dispositivos inteligentes, la gestión de la identidad en entornos cada vez más digitalizados e híbridos (se integra aquí el transhumanismo) o la preparación de una adecuada relación con la ciudadanía a través de nuevos medios y canales, donde se explicita de forma singular a las realidades aumentadas o las neuro-tecnologías. También se pone el foco en la importancia que tiene para el sector público acometer los desafíos de impacto ético y social de la IA en la Administración Pública, a través de una correcta supervisión, auditoría y evaluación de algoritmos desarrollados por las autoridades públicas.
La Carta también sugiere en este capítulo las potenciales transformaciones de las políticas públicas que diseñan los estados y los servicios públicos que prestan a la ciudadanía. Aquí se identifican una serie de nuevas capacidades que se vislumbran como agentes de transformación del sector público. En palabras de la Carta, “varias características instrumentales de los sistemas algorítmicos son los que concretan su capacidad transformativa ligada a la disponibilidad y tratamiento de datos masivos, entre las cuales destacan la detección, la comunicación, el procesamiento y la actuación”. Entre esas nuevas capacidades destacan algunas que son clave para el ámbito de las organizaciones públicas, tales como la mejora de la automatización de procesos administrativos y de decisión, el aumento de las capacidades predictivas o de planificación y evaluación de las acciones públicas, la reorganización de procesos de creación y captura de valor público, la innovación en los modelos de servicio público o la transformación del ciclo de las políticas públicas. Junto a ello, la Carta incide en priorizar las áreas de acción pública en las que cada país desee avanzar (educación, salud, migraciones, movilidad, tributos, aduanas, defensa, cultura, justicia, comercio, seguridad, emergencias, contratación pública, transparencia, integridad y buen gobierno, etc.), dado que en cada uno de ellas se encuentran diferentes momentos de desarrollo, así como de posible aceptación social, cultural o política de la IA.
Finalmente, este capítulo se completa con el alcance de las interacciones que la IA tiene con los humanos que operan en el interior del sector público (personal directivo, técnico o de primera línea) o se relacionan con éste (individuos o empresas), con un especial interés por las personas potencialmente más vulnerables. En la dimensión de relación con las personas del entorno, la Carta incide en los nuevos medios de acceso y contacto con la ciudadanía, por ejemplo, los asistentes virtuales o los sistemas de reconocimiento de voz. Aquí también destaca la idea de planificar adecuadamente el uso de robots para tareas altamente sensibles, como las actividades relacionadas con los cuidados personales y el bienestar, la seguridad pública, la defensa u otros que se susciten en el futuro. Además, también es importante considerar la participación y colaboración de las personas usuarias e interesadas en todo el ciclo de vida de los sistemas algorítmicos de la Administración Pública, de cara a promover la confianza ciudadana en ellos, así como garantizar su buen funcionamiento evitando sesgos.
The capítulo final se refiere a la gobernanza de la IA en la Administración Pública y recomendaciones para la implantación de la Carta. Este último bloque incide en una serie de aspectos prácticos que deben considerar gobiernos y administraciones públicas como marco para la implementación de la IA. Aunque todos son relevantes, quizá por su trascendencia en el sector público, habría que destacar algunos como la necesaria generación de un marco de gobernanza de datos para la IA en las administraciones públicas, la disponibilidad de infraestructuras tecnológicas y de ciberseguridad que sean habilitadoras, la creación de registros públicos, auditorías y evaluación de algoritmos de forma que se vele por su calidad (por ejemplo a través de la creación de sellos o certificados de calidad algorítmica o autoridades de supervisión), el desarrollo de experimentación, ensayos y sandboxes con algoritmos, enfatizando las fuentes de datos, modelos subyacentes, entornos y comportamientos de los sistemas de manera completa para incluir perfiles de personas representativos, o la necesidad de adaptar y promover un empleo público 4.0 en el nuevo entorno algorítmico. Adicionalmente, la Carta sobresale por integrar un modelo de asignaciones de riesgos de los sistemas algorítmicos en línea con la normativa europea, con tres niveles de riesgo bajo (aceptable), alto (aceptable/no aceptable) o extremo (no aceptable) en función de los potenciales efectos dañinos de estos sistemas en las personas y sus derechos, así como en los sistemas democráticos y de convivencia.
En conclusión, la Carta Iberoamericana de IA en la Administración Pública supone un hito para los gobiernos y las administraciones públicas de la región, que por primera vez disponen de unas directrices comunes con las que promover y adoptar la IA. Particularmente, se ofrece una hoja de ruta que presenta conceptos, principios, dimensiones y recomendaciones de implementación compartidas, con una perspectiva aplicable a diferentes contextos institucionales y momentos de madurez de este tipo de tecnologías emergentes en diferentes países y niveles de gobierno. Por otro lado, la Carta enfatiza la relación de las administraciones públicas con la ciudadanía y sitúa los derechos humanos en el centro, considerando los potenciales riesgos para la igualdad y equidad que la evidencia internacional ya empieza a mostrar en casos de uso existentes. También incorpora conceptos novedosos en el sector público (tales como transhumanismo, neuro-tecnologías, sistemas robóticos, sandboxes, auditorías algorítmicas o empleo público 4.0), que irán alcanzando más presencia en los próximos años. Finalmente, la Carta es un punto de partida para que las autoridades puedan seguir avanzando en el desarrollo de la IA desde y, sobre todo, en la Administración Pública, siempre con la intención de limitar los riesgos asociados a usos inapropiados, al mismo tiempo que se promueven los valores democráticos y se ponen las bases para caminar hacia sociedades más justas.
J. Ignacio Criado. Profesor titular de Ciencia Política y de la Administración. Departamento de Ciencia Política y Relaciones Internacionales. Director, Lab Innovación, Tecnología y Gestión Pública (ITGesPub), Grupo de Investigación, Universidad Autónoma de Madrid. Relator de la Carta Iberoamericana de Inteligencia Artificial en la Administración Pública.
Este documento se ha realizado con el apoyo del Proyecto del Ministerio de Ciencia, Innovación y Universidades “Abriendo la caja negra de la gobernanza pública mediada por algoritmos. Implicaciones de la Inteligencia Artificial en gobiernos, servicios públicos y personas (#AIPublicGov)”. Ref. PID2022-136283OB-I00, MCIN/AEI/10.13039/501100011033 y FSE+.
