El 25 de abril de 2023 se celebró la jornada Inteligencia Artificial en la administración pública. Estrategias, políticas y servicios públicos y personas, organizada por IT_GesPub en la Facultad de Derecho de la Universidad Autónoma de Madrid (UAM). Durante la actividad se analizaron los desafíos para la implementación de la Inteligencia Artificial (IA) en el contexto español, con especial énfasis en el rol que debe tener el gobierno y las administraciones públicas en esta materia.
En primer lugar, Carmen Cabanillas Serrano, presidenta de la Asociación Profesional de Cuerpos Superiores de Sistemas y Tecnologías de la Información de las Administraciones Públicas (ASTIC) y subdirectora General de Gobernanza en materia de Registros en el Ministerio de Hacienda y Función Pública, ofreció una conferencia sobre los potenciales beneficios y riesgos de la IA en el sector público. Considerando las distintas funcionalidades de los sistemas de IA (en especial, el aprendizaje automático y, concretamente, el aprendizaje profundo o deep learning), la experta resaltó, entre otras cosas, las posibilidades de automatización de procesos y el consecuente aumento de la eficiencia en la provisión de servicios públicos. Pero también apuntó la necesidad de prestar atención a algunos desafíos éticos, que, si no se atienden de manera oportuna, podrían conducir a la profundización de desigualdades o a riesgos para la seguridad y la privacidad de los datos personales. Destacó, en este sentido, la importancia de la multidisciplinariedad en los equipos de diseño e implementación de la IA, para abordar de una forma holística los aspectos técnicos y éticos de estos sistemas.
Posteriormente, se desarrolló una mesa redonda con dos diputados del Congreso: José Antonio Rodríguez Salas, portavoz adjunto de la Comisión de Asuntos Económicos y Transformación Digital, y Vicepresidente Primero de la Comisión Mixta de Seguridad Nacional por el Grupo Parlamentario Socialista; y Juan Luis Pedreño, portavoz de la Comisión de Asuntos Económicos y Transformación Digital, y portavoz adjunto de la Comisión de Ciencia, Innovación y Universidades por el Grupo Parlamentario Popular. La conversación giró en torno a las perspectivas del presente y el futuro en la implementación de la IA en España y, concretamente, con miras a la adopción del Reglamento Europeo de IA, que se espera que entre en vigor a principios de 2024. En términos generales, se planteó la importancia de delimitar las responsabilidades al momento de poner en marcha estos sistemas, coordinar los organismos dedicados al tema (incluyendo auditorías o impacto social), desarrollar iniciativas de formación para el manejo de la IA y, muy especialmente, mantener siempre a la ciudadanía en el centro para orientar las decisiones sobre esta materia.
Tanto en la conferencia principal como en la mesa redonda se destacaron los avances de España hasta el momento, concretamente la publicación de la Estrategia Nacional de Inteligencia Artificial, la Carta de Derechos Digitales y, entre otros documentos, la Agenda España Digital 2026 y el Programa Nacional de Algoritmos Verdes, así como la conformación de la Agencia Española de Supervisión de la Inteligencia Artificial y el Centro Europeo para la Transparencia Algorítmica en Sevilla. Estas iniciativas representan oportunidades para hacer frente a los desafíos éticos y políticos de la IA en el contexto español.
Una mirada académica
La jornada finalizó con un seminario en el que se abordó la temática desde una perspectiva académica. En primer lugar, J. Ignacio Criado, profesor del Departamento de Ciencia Política y Relaciones Internacionales de la UAM y director de IT_GesPub, presentó un modelo para analizar la implementación y el uso de sistemas de IA desde y en las administraciones públicas, considerando tres aspectos: las estrategias más generales, las organizaciones y servicios públicos, y las personas (tanto empleados/as del sector público como ciudadanía). También explicó los distintos enfoques que se han usado en la literatura académica para estudiar las estrategias de IA, desde las visiones más descriptivas hasta análisis más complejos sobre aspectos de gran relevancia política. Abordó igualmente la situación de España en el contexto internacional y su alineación con el marco europeo sobre el tema.
Posteriormente, Edgar Ruvalcaba Gómez, profesor de la Universidad de Guadalajara y Fellow MIAS – François Chevalier, presentó los avances de una investigación sobre el enfoque de ética y derechos humanos en las estrategias de IA de Latinoamérica, concretamente los casos de Argentina, Brasil, Chile, Colombia, México y Uruguay. El estudio encontró que todos los países incorporan ambas dimensiones, pero se menciona en mayor medida la visión ética que la de derechos humanos, y se consiguen algunas diferencias en el peso que se le da a estas dimensiones, el área en la que se inscriben y las medidas que se proponen para aterrizar estos discursos en la práctica.
Finalmente, Ariana Guevara-Gómez, investigadora predoctoral en el Departamento de Ciencia Política y Relaciones Internacionales de la UAM e integrante de IT_GesPub, presentó los principales resultados de una investigación en la que se analizaron 23 documentos oficiales sobre IA de Europa y España desde una perspectiva feminista. El estudio concluyó que hay una presencia de referencias implícitas y explícitas al género, lo que permite deducir que en ambos contextos existe una voluntad política de abordar este asunto. Se demostró, además, que se trata de un caso de europeización de políticas, debido a que España se alinea con los valores europeos en torno a este tema concreto. Para culminar, se presentaron los primeros avances de un análisis exploratorio sobre la dimensión de género en las estrategias nacionales de IA de Latinoamérica, que, en algunos casos, presentan una visión más profunda sobre el género y la interseccionalidad en el desarrollo e implementación de esta tecnología disruptiva.
