{"id":1447,"date":"2021-01-13T17:42:45","date_gmt":"2021-01-13T15:42:45","guid":{"rendered":"https:\/\/itgespub.net\/?p=1447"},"modified":"2021-01-13T20:02:23","modified_gmt":"2021-01-13T18:02:23","slug":"hacia-una-politica-de-inteligencia-artificial-en-la-union-europea-y-espana","status":"publish","type":"post","link":"https:\/\/itgespub.net\/en\/hacia-una-politica-de-inteligencia-artificial-en-la-union-europea-y-espana\/","title":{"rendered":"Hacia una Pol\u00edtica de Inteligencia Artificial en la Uni\u00f3n Europea y Espa\u00f1a"},"content":{"rendered":"

La Inteligencia Artificial<\/strong> (IA) es uno de los temas que recientemente ha concitado mayor inter\u00e9s en el debate p\u00fablico sobre el presente y futuro de nuestras sociedades y democracias. La cantidad de libros, art\u00edculos, comentarios, informes, webinars, etc., sobre las oportunidades y amenazas abiertas por la IA resulta m\u00e1s que abrumador. No son tan abundantes las evidencias que disponemos sobre sus efectos y resultados reales en las instituciones pol\u00edticas y las administraciones p\u00fablicas, o entre el personal p\u00fablico y la ciudadan\u00eda. Sin embargo, la confirmaci\u00f3n de que la IA ha entrado definitivamente en la agenda gubernamental durante el 2020, tanto en la Uni\u00f3n Europea <\/strong>como en Espa\u00f1a<\/strong>, es la publicaci\u00f3n del Libro Blanco sobre la IA<\/a><\/strong> y la Estrategia Nacional de Inteligencia Artificial<\/strong><\/a> (ENIA)<\/strong>, respectivamente. Al hilo de la apertura de esos procesos de adopci\u00f3n de la IA en la agenda gubernamental, y por tanto la superaci\u00f3n de la fase de deslumbramiento inicial, las siguientes l\u00edneas se proponen no s\u00f3lo conocer algo m\u00e1s sobre el \u201cenfoque europeo orientado a la excelencia y la confianza\u201d<\/em>, sino tambi\u00e9n reflexionar sobre las implicaciones de este marco para el sector p\u00fablico espa\u00f1ol. Todo ello, en un momento de transformaci\u00f3n de la gesti\u00f3n y las pol\u00edticas p\u00fablicas<\/a>, en el que se deber\u00e1n optimizar fondos europeos NextGeneration<\/a>, para implantar proyectos de digitalizaci\u00f3n del sector p\u00fablico con la IA y los grandes datos en el centro.<\/p>\n\n\n\n

Como han puesto en evidencia diferentes estudios recientes, y de ah\u00ed su inter\u00e9s, la gobernanza de los algoritmos y la reciente evoluci\u00f3n de la IA indicar\u00edan un progresivo cuestionamiento de equilibrios democr\u00e1ticos b\u00e1sicos de nuestras comunidades pol\u00edticas<\/strong>. As\u00ed lo sugieren experiencias recientes, incluyendo el crecimiento de los problemas relacionados con las c\u00e1maras de eco polarizadoras y la difusi\u00f3n de noticias falsas en redes sociales, que habr\u00edan tenido un impacto directo en el fortalecimiento de posiciones pol\u00edticas extremas. As\u00ed tambi\u00e9n ha sucedido con los riesgos que supone para la privacidad y la seguridad de los datos personales la actuaci\u00f3n con m\u00ednimos controles de grandes plataformas que estar\u00edan consolidando el llamado capitalismo de vigilancia. Por no hablar de los sesgos \u00e9ticos y discriminatorios en la prestaci\u00f3n de servicios p\u00fablicos, debido al perfilado de usuarios, basado en algoritmos opacos implementados por algunas agencias p\u00fablicas.<\/p>\n\n\n\n

Ante este panorama, las instituciones europeas han ido configurando un marco de pol\u00edtica de IA orientado a la promoci\u00f3n de una v\u00eda aut\u00f3noma, y alternativa, respecto de los dos l\u00edderes globales. Desde 2018, el relato construido por la Comisi\u00f3n Europea evita entrar en la carrera entre China y Estados Unidos por el liderazgo en el desarrollo de la IA. M\u00e1s bien, se pretende un <\/strong>camino propio para alcanzar las oportunidades que brinda la IA, pero con un enfoque m\u00e1s humano, \u00e9tico, seguro y pr\u00f3ximo a los valores democr\u00e1ticos fundacionales europeos<\/em><\/strong><\/a>. Por decirlo de otra manera, se ha renunciado a asumir el ritmo sin control de los grandes gigantes econ\u00f3micos de la econom\u00eda digital (GAFAM), de un lado, al mismo tiempo que se evita la deriva hacia un modelo de datacracia<\/em> fundado en un control gubernamental masivo.<\/p>\n\n\n\n

Lo anterior ha quedado explicitado en el mencionado Libro Blanco sobre la IA<\/strong>,  publicado justo antes de la expansi\u00f3n global de la pandemia del COVID-19. Dentro del Libro Blanco<\/em>, y en l\u00ednea con algunos actores internacionales como Naciones Unidas, OCDE o Consejo de Europa, la Comisi\u00f3n Europea ha definido un marco para las pol\u00edticas nacionales de IA que pone el acento en la necesidad de un equilibrio complejo<\/strong> entre los principios de excelencia<\/em> y confianza<\/em><\/strong>. Por un lado, la UE desea situarse al m\u00e1ximo nivel posible de excelencia<\/em> entre los principales ecosistemas de innovaci\u00f3n globales. El objetivo de ello ser\u00eda lograr que la IA se extendiera lo m\u00e1ximo posible en todos los sectores econ\u00f3micos, generando las m\u00e1ximas oportunidades desde la perspectiva de crecimiento y difusi\u00f3n tecnol\u00f3gica.<\/p>\n\n\n\n

Por otro lado, lo anterior va de la mano de la confianza<\/em> y un marco regulador que facilite las oportunidades al mismo tiempo que controla las amenazas. El objetivo aqu\u00ed ser\u00eda el respeto a derechos fundamentales (protecci\u00f3n de datos personales, privacidad o no discriminaci\u00f3n), por ejemplo, mediante el cumplimiento de determinados requisitos de los sistemas basados en IA durante su proceso de entrenamiento, la existencia de registros de datos, la solidez y exactitud de los mismos o la garant\u00eda de supervisi\u00f3n humana. Aqu\u00ed tambi\u00e9n se deber\u00eda atender otras cuestiones que tambi\u00e9n han apuntado organismos como la Naciones Unidas o la OCDE, tales como la explicabilidad de los algoritmos, los sistemas de auditoria, los mecanismos de rendici\u00f3n de cuentas por decisiones basadas en sistemas de machine learning<\/em>, etc. <\/p>\n\n\n\n

Al mismo tiempo, el marco de la pol\u00edtica de IA de la UE tambi\u00e9n ha incidido en la necesidad de diferenciar el desarrollo de la IA desde<\/em> gobiernos y administraciones, junto a la promoci\u00f3n de la IA en<\/em> gobiernos y administraciones p\u00fablicas<\/strong>. Al margen del papel impulsor en los diferentes sectores econ\u00f3micos a trav\u00e9s de diversos mecanismos financieros y de otro tipo, gobiernos y administraciones son tambi\u00e9n un objetivo directo de la pol\u00edtica de IA en sus din\u00e1micas de gesti\u00f3n. De hecho el Libro Blanco<\/em> tambi\u00e9n reserva un apartado a este \u00e1mbito, de manera que se puede sostener que el marco de pol\u00edtica que propone la UE sugiere la necesidad de focalizarse en los sectores p\u00fablicos de salud y transporte, aquellos en los que se estima que las tecnolog\u00edas de IA est\u00e1n lo suficientemente maduras para su adopci\u00f3n e implementaci\u00f3n a gran escala. Tambi\u00e9n se hace especial hincapi\u00e9 en transformar los procesos de contrataci\u00f3n p\u00fablica.<\/p>\n\n\n\n

Sin embargo, parecen quedar a un lado, al menos de momento, cuestiones de mayor calado. En este apartado se incluir\u00eda c\u00f3mo la IA puede ayudar a mejorar los procesos de adopci\u00f3n de decisiones en el sector p\u00fablico, cu\u00e1l es la aportaci\u00f3n de la IA al dise\u00f1o de las pol\u00edticas p\u00fablicas o qu\u00e9 oportunidades ofrece la IA para desarrollar modelos de gesti\u00f3n p\u00fablica colaborativa e innovaci\u00f3n abierta con la ciudadan\u00eda de cara a generar valor p\u00fablico. En definitiva, no se define con nitidez el impacto de la IA en la gesti\u00f3n de las administraciones p\u00fablicas, al mismo tiempo que no se tiene en cuenta la combinaci\u00f3n de inteligencias<\/strong> (artificial, institucional y colectiva) en la promoci\u00f3n de nuevas formas de soluci\u00f3n de problemas colectivos cada vez m\u00e1s complejos.<\/p>\n\n\n\n

A partir de este marco definido desde la UE, el caso de Espa\u00f1a <\/strong>puede servir de banco de pruebas para explorar en qu\u00e9 medida se est\u00e1 europeizando la pol\u00edtica de IA. Lo primero que habr\u00eda que se\u00f1alar es que la incorporaci\u00f3n de la IA en la agenda gubernamental en Espa\u00f1a es muy reciente. Al margen de algunos hitos previos (por ejemplo, la Estrategia Espa\u00f1ola de I+D+I en Inteligencia Artificial<\/em> en 2018 o la creaci\u00f3n de la Secretar\u00eda de Estado de Digitalizaci\u00f3n e Inteligencia Artificial (SEDIA), dentro del Ministerio de Asuntos Econ\u00f3micos y Transformaci\u00f3n Digital a principios de 2020) el verdadero punto de arranque de esta pol\u00edtica se puede considerar la presentaci\u00f3n oficial de la mencionada ENIA<\/strong> (realizada el 2 de diciembre de 2020 en el Palacio de La Moncloa<\/a>). Dentro de ella ya se esbozan algunas l\u00edneas clave sobre las que pivotar\u00e1 la IA en nuestro pa\u00eds en los pr\u00f3ximos a\u00f1os.<\/p>\n\n\n\n

\"\"
Fuente:<\/em> lamoncloa.gob.es<\/figcaption><\/figure>\n\n\n\n

La ENIA<\/strong> muestra un alineamiento muy alto con la UE<\/strong>, pero tambi\u00e9n con la propia Agenda Digital de Espa\u00f1a 2025<\/a>. Se pone el acento en la necesidad de responder al hecho de que se espera que m\u00e1s del 20% de los fondos del <\/strong>Mecanismo Europeo de Recuperaci\u00f3n<\/strong><\/a> se centrar\u00e1n en la transici\u00f3n hacia la digitalizaci\u00f3n<\/strong>. Adicionalmente, se realizan diferentes menciones a documentos de la Comisi\u00f3n Europea, incluyendo su Libro Blanco sobre IA<\/em>, y se destaca en un apartado la alineaci\u00f3n con la pol\u00edtica de la UE en la materia. Este primer aspecto es clave, dado que la ENIA parece integrarse desde el primer momento dentro del marco europeo de pol\u00edtica de IA, al menos formalmente, abriendo el camino de una europeizaci\u00f3n en l\u00edneas con el modelo europeo.<\/p>\n\n\n\n

Tambi\u00e9n cabr\u00eda destacar dentro de la ENIA<\/strong> la vertiente de la confianza y \u00e9tica de la IA<\/strong>. Dentro de los temas que se refieren a econom\u00eda y sociedad existe un bloque completo sobre promoci\u00f3n de la \u00e9tica y normativa relacionada con la IA (eje estrat\u00e9gico 6). Aqu\u00ed se prev\u00e9n algunas medidas como el desarrollo de un sello nacional de calidad IA, la puesta en marcha de observatorios para evaluar el impacto social de los algoritmos, el desarrollo de una Carta de Derechos Digitales<\/strong><\/a> (cuya consulta p\u00fablica<\/a> se cierra el 20 de enero de 2021), la puesta en funcionamiento del Consejo Asesor de IA<\/a> o la promoci\u00f3n de di\u00e1logo, sensibilizaci\u00f3n y participaci\u00f3n sobre IA. Lo anterior supone ir m\u00e1s all\u00e1 de una visi\u00f3n centrada en el desarrollo econ\u00f3mico y tecnol\u00f3gico, incorporando sensibilidad \u00e9tica y normativa.<\/p>\n\n\n\n

Adicionalmente, la ENIA destaca el papel clave de la transformaci\u00f3n digital del sector p\u00fablico mediante la IA<\/strong>. Aqu\u00ed se definen cinco bloques de medidas, incluyendo la mejora de la eficiencia de procesos administrativos a trav\u00e9s de la IA, la adopci\u00f3n de un gobtechlab<\/em> para experimentar nuevos servicios y aplicaciones, el desarrollo de competencias IA en el personal p\u00fablico, la promoci\u00f3n de una gesti\u00f3n p\u00fablica basada en datos y el acercamiento a la idea de misiones estrat\u00e9gicas nacionales basadas en el alto impacto de la IA en sectores como salud, justicia y empleo. Si bien no es posible aqu\u00ed un mayor detalle de an\u00e1lisis, es cierto que se incide en la importancia de la IA para mejorar la transparencia administrativa, adoptar mejores decisiones o prestar servicios digitales basados en sistemas de IA y para ello se prev\u00e9 incorporar nuevos mecanismos de compra p\u00fablica innovadora, as\u00ed como abrir mecanismos de regulaci\u00f3n basados en sandboxes<\/em>. Con ello, la ENIA detalla algunas acciones clave que podr\u00edan desarrollarse en administraciones p\u00fablicas de todos los niveles, a lo largo de los pr\u00f3ximos a\u00f1os.<\/p>\n\n\n\n

As\u00ed las cosas, se puede decir que 2020<\/strong> ha supuesto un punto de inflexi\u00f3n<\/strong> en la UE y Espa\u00f1a<\/strong> en la pol\u00edtica de IA al incorporarse en la agenda gubernamental<\/strong>. Por un lado, hay que destacar el papel catalizador de la UE y la intenci\u00f3n de europeizaci\u00f3n desde las instituciones comunitarias de la pol\u00edtica de IA para articular un modelo de gobernanza propio. El modelo europeo de gobernanza de la IA se sostendr\u00eda en la necesidad de garantizar los derechos humanos y la protecci\u00f3n de datos personales, pero tambi\u00e9n en lograr un equilibrio, no sencillo, entre los principios de excelencia y confianza. As\u00ed, desde las instituciones comunitarias ya se han identificado directrices para la creaci\u00f3n de una IA fiable, incluyendo requisitos, m\u00e9todos t\u00e9cnicos y no t\u00e9cnicos de aplicaci\u00f3n<\/a>. Queda todav\u00eda por conocer los siguientes pasos de la pol\u00edtica europea de IA, el despliegue de mecanismos de europeizaci\u00f3n, as\u00ed como su contribuci\u00f3n real a la soberan\u00eda tecnolog\u00eda y autonom\u00eda estrat\u00e9gica respecto de otros actores globales.<\/p>\n\n\n\n

En el caso, espa\u00f1ol, la ENIA<\/strong> ha definido una aproximaci\u00f3n antes inexistente a lo que ser\u00eda una pol\u00edtica de IA. Su alineamiento con la UE y con la absorci\u00f3n de fondos de recuperaci\u00f3n, la preocupaci\u00f3n por cuestiones \u00e9ticas y normativas, as\u00ed como la atenci\u00f3n a la transformaci\u00f3n digital del sector p\u00fablico, no puede hacernos obviar algunos \u00e1mbitos de mejora <\/strong>que deber\u00e1n corregirse r\u00e1pidamente. A pesar de que se plantea al final de la ENIA<\/strong> un apartado sobre gobernanza y presupuesto, no se detallan cuestiones esenciales, incluyendo un mapa de actores e impulsores clave, indicadores de medida de avance de las acciones, impactos esperados de las intervenciones p\u00fablicas, un modelo m\u00e1s claro sobre c\u00f3mo se van a articular las relaciones intergubernamentales para integrar a gobiernos auton\u00f3micos y locales, mecanismos de colaboraci\u00f3n p\u00fablico-privada, un cronograma de proyectos o qu\u00e9 financiaci\u00f3n cuentan las acciones espec\u00edficas, m\u00e1s all\u00e1 de una cifra general. Por supuesto, habr\u00e1 que esperar algo m\u00e1s de tiempo para caracterizar la pol\u00edtica de IA en Espa\u00f1a, su alcance y, desde luego, los resultados de la misma. Tambi\u00e9n habr\u00e1 que estar pendiente del alcance de la aplicaci\u00f3n de las medidas urgentes de modernizaci\u00f3n de la Administraci\u00f3n P\u00fablica y para la ejecuci\u00f3n del Plan de Recuperaci\u00f3n, Transformaci\u00f3n y Resiliencia<\/a>.<\/p>\n\n\n\n

En conclusi\u00f3n, si bien hemos experimentado un salto adelante en las pol\u00edticas de IA y su adopci\u00f3n para mejorar la gesti\u00f3n del sector p\u00fablico, no cabe duda de que las incertidumbres que ha tra\u00eddo la pandemia puede que afecten los pr\u00f3ximos pasos a emprender. De cara a las administraciones p\u00fablicas con proyectos en marcha (o con intenci\u00f3n de ponerlos en marcha) sobre IA, se recomienda tener en cuenta algunas cuestiones clave<\/strong>, entre otras: (1) promover un enfoque \u00e9tico de la gobernanza basada en algoritmos, (2) superar el determinismo tecnol\u00f3gico(positivo o negativo), (3) crear una visi\u00f3n ciudadano-c\u00e9ntrica, (4) aprovechar el potencial anal\u00edtico y predictivo de las tecnolog\u00edas, (5) generar confianza en las instituciones p\u00fablicas, (6) desarrollar una visi\u00f3n hol\u00edstica, interoperable e innovadora, (7) crear perfiles h\u00edbridos dentro del sector p\u00fablico o (8) desarrollar nuevas capacidades digitales, tambi\u00e9n entre la ciudadan\u00eda. En pr\u00f3ximas contribuciones esperamos seguir debatiendo sobre las siguientes fases de adopci\u00f3n e implementaci\u00f3n de la IA desde<\/em> y en<\/em> gobiernos y administraciones p\u00fablicas de la UE, en general, y Espa\u00f1a, en particular.<\/p>\n\n\n\n

J. Ignacio Criado. <\/strong>Profesor de Ciencia Pol\u00edtica y Administraci\u00f3n P\u00fablica, Departamento de Ciencia Pol\u00edtica y Relaciones Internacionales. Coordinador, Lab Innovaci\u00f3n, Tecnolog\u00eda y Gesti\u00f3n P\u00fablica (ITGesPub), Grupo de Investigaci\u00f3n, Universidad Aut\u00f3noma de Madrid.<\/p>","protected":false},"excerpt":{"rendered":"

La Inteligencia Artificial (IA) es uno de los temas que recientemente ha concitado mayor inter\u00e9s en el debate p\u00fablico sobre el presente y futuro de nuestras sociedades y democracias. La cantidad de libros, art\u00edculos, comentarios, informes, webinars, etc., sobre las oportunidades y amenazas abiertas por la IA resulta m\u00e1s que abrumador. No son tan abundantes las evidencias que disponemos sobre sus efectos y resultados reales en las instituciones pol\u00edticas y las administraciones p\u00fablicas, o entre el personal p\u00fablico y la ciudadan\u00eda. Sin embargo, la confirmaci\u00f3n de que la IA ha entrado definitivamente en la agenda gubernamental durante el 2020, tanto en la Uni\u00f3n Europea como en Espa\u00f1a, es la publicaci\u00f3n del Libro Blanco sobre la IA y la Estrategia Nacional de Inteligencia Artificial (ENIA), respectivamente.<\/p>","protected":false},"author":8,"featured_media":1460,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[22],"tags":[40,41,38],"class_list":["post-1447","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinion","tag-enia","tag-gobernanza-algoritmica","tag-inteligencia-artifical"],"_links":{"self":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/1447","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/comments?post=1447"}],"version-history":[{"count":0,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/1447\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media\/1460"}],"wp:attachment":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media?parent=1447"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/categories?post=1447"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/tags?post=1447"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}