{"id":2187,"date":"2023-12-21T13:00:22","date_gmt":"2023-12-21T11:00:22","guid":{"rendered":"https:\/\/itgespub.net\/?p=2187"},"modified":"2023-12-21T17:38:22","modified_gmt":"2023-12-21T15:38:22","slug":"aprobada-la-carta-iberoamericana-de-inteligencia-artificial-en-la-administracion-publica","status":"publish","type":"post","link":"https:\/\/itgespub.net\/en\/aprobada-la-carta-iberoamericana-de-inteligencia-artificial-en-la-administracion-publica\/","title":{"rendered":"Aprobada la Carta Iberoamericana de Inteligencia Artificial en la Administraci\u00f3n P\u00fablica"},"content":{"rendered":"<p>Se acaba de alcanzar un<a href=\"https:\/\/ec.europa.eu\/commission\/presscorner\/detail\/es\/ip_23_6473\" target=\"_blank\" rel=\"noreferrer noopener\"> <strong>acuerdo pol\u00edtico de m\u00e1ximo nivel sobre la futura regulaci\u00f3n de la Inteligencia Artificial (IA)<\/strong><\/a> en el \u00e1mbito de la Uni\u00f3n Europea (la llamada<a href=\"https:\/\/ec.europa.eu\/commission\/presscorner\/detail\/es\/ip_23_6473\" target=\"_blank\" rel=\"noreferrer noopener\"> <strong>Ley Europea de IA<\/strong><\/a>), en l\u00ednea con<a href=\"https:\/\/itgespub.net\/en\/jornada-en-la-uam-sobre-inteligencia-artificial-en-la-administracion-publica\/\" target=\"_blank\" rel=\"noreferrer noopener\"> <strong>otros pasos previos dentro de la regi\u00f3n<\/strong><\/a>. Este hito supone un salto adelante al lograr que las instituciones europeas establezcan lineamientos compartidos sobre la regulaci\u00f3n de la IA, adem\u00e1s de situar este tema dentro de la agenda p\u00fablica. Tal y como se ha presentado, tanto en <a href=\"https:\/\/elpais.com\/tecnologia\/2023-12-11\/gemma-galdon-auditora-de-algoritmos-la-inteligencia-artificial-es-de-muy-mala-calidad.html\" data-type=\"link\" data-id=\"https:\/\/elpais.com\/tecnologia\/2023-12-11\/gemma-galdon-auditora-de-algoritmos-la-inteligencia-artificial-es-de-muy-mala-calidad.html\" target=\"_blank\" rel=\"noreferrer noopener\">medios de comunicaci\u00f3n<\/a>, como en espacios de car\u00e1cter m\u00e1s <a href=\"https:\/\/www.oxford-aiethics.ox.ac.uk\/eus-ai-act-crossroads-rights\" data-type=\"link\" data-id=\"https:\/\/www.oxford-aiethics.ox.ac.uk\/eus-ai-act-crossroads-rights\">acad\u00e9mico<\/a>, la futura normativa europea de IA no est\u00e1 exenta de zonas grises y desaf\u00edos, sobre todo, relacionados con el intento de combinar la promoci\u00f3n del <em>desarrollo econ\u00f3mico y la innovaci\u00f3n,<\/em> con la <em>protecci\u00f3n de los individuos<\/em> y la <em>garant\u00eda de los derechos humanos<\/em>. En este texto pretendemos destacar que, casi al mismo tiempo y con algo menos de ruido, se ha aprobado la <strong>Carta Iberoamericana de Inteligencia Artificial en la Administraci\u00f3n P\u00fablica<\/strong>, de manera que en las siguientes l\u00edneas se resumen algunas ideas clave del documento, as\u00ed como las principales orientaciones que contiene, con la singularidad de que se centran en las administraciones p\u00fablicas.<\/p>\n\n\n\n<p>La<a href=\"https:\/\/clad.org\/wp-content\/uploads\/2023\/11\/CIIA-ES-11-2023.pdf\" target=\"_blank\" rel=\"noreferrer noopener\"> <strong>Carta Iberoamericana de IA en la Administraci\u00f3n P\u00fablica<\/strong><\/a> (a partir de ahora, la Carta) es el primer documento oficial que establece unas directrices comunes sobre la promoci\u00f3n y desarrollo de la IA dentro del Sector P\u00fablico en todo el \u00e1mbito iberoamericano (seguramente, por primera vez, en cualquier otro \u00e1mbito geogr\u00e1fico regional a nivel internacional). La Carta se aprob\u00f3 el 20 de noviembre de 2023 (en reuni\u00f3n celebrada en Varadero, Cuba) por unanimidad de los 23 estados miembros del comit\u00e9 directivo del Centro Latinoamericano de Administraci\u00f3n para el Desarrollo (CLAD), organismo p\u00fablico internacional, de car\u00e1cter intergubernamental, cuya creaci\u00f3n fue respaldada por la Asamblea General de las Naciones Unidas \u201c<a href=\"https:\/\/clad.org\/acerca-de\/clad\/\" target=\"_blank\" rel=\"noreferrer noopener\"><em>con la idea de establecer una entidad regional que tuviera como eje de su actividad la modernizaci\u00f3n de las administraciones p\u00fablicas<\/em><\/a>\u201d.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-rich is-provider-twitter wp-block-embed-twitter\"><div class=\"wp-block-embed__wrapper\">\n<blockquote class=\"twitter-tweet\" data-width=\"550\" data-dnt=\"true\"><p lang=\"es\" dir=\"ltr\">\ud83d\udce2En la LIIII Reuni\u00f3n ordinaria del Consejo Directivo del <a href=\"https:\/\/twitter.com\/CLAD_Org?ref_src=twsrc%5Etfw\">@CLAD_Org<\/a> se aprob\u00f3 la Carta Iberoamericana de Inteligencia Artificial en la Administraci\u00f3n P\u00fablica.<br>\ud83d\udcf2Disponible en: <a href=\"https:\/\/t.co\/dgVrAN4K7m\">https:\/\/t.co\/dgVrAN4K7m<\/a> <a href=\"https:\/\/t.co\/npAtJJPP01\">pic.twitter.com\/npAtJJPP01<\/a><\/p>&mdash; CLAD (@CLAD_Org) <a href=\"https:\/\/twitter.com\/CLAD_Org\/status\/1729827259362492856?ref_src=twsrc%5Etfw\">November 29, 2023<\/a><\/blockquote><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script>\n<\/div><\/figure>\n\n\n\n<p>The <strong>proceso de elaboraci\u00f3n<\/strong> se explicita durante la<a href=\"https:\/\/clad.org\/2023\/07\/14\/ini-post-photos\/el-clad-presenta-documento-borrador-de-la-carta-iberoamericana-de-inteligencia-artificial-en-la-administracion-publica\/\" target=\"_blank\" rel=\"noreferrer noopener\"> <strong>presentaci\u00f3n del primer borrador de la Carta<\/strong><\/a>, recibiendo posteriormente numerosos comentarios y aportaciones de miembros de la sociedad civil y personas expertas del mundo acad\u00e9mico, as\u00ed como de representantes de gobiernos y administraciones p\u00fablicas de toda la regi\u00f3n. La pretensi\u00f3n de este proceso colaborativo de elaboraci\u00f3n ha sido mejorar la comprensi\u00f3n de la Carta y atender las necesidades sobre su alcance y oportunidades para su uso dentro del sector p\u00fablico de los pa\u00edses iberoamericanos. Adicionalmente, ha pretendido dejar constancia de los aspectos diferenciales que los gobiernos y administraciones p\u00fablicas deber\u00edan tener en cuenta para promover la IA dentro de su actividad, as\u00ed como en el trabajo de su personal o en su relaci\u00f3n con la ciudadan\u00eda.<\/p>\n\n\n\n<p>Desde el punto de vista de su <strong>estructura<\/strong>, la Carta se compone de varias secciones, incluyendo una parte introductoria, junto con cinco cap\u00edtulos. En el <strong>pre\u00e1mbulo <\/strong>introductorio se detallan algunas de las fuentes de las que se nutre el documento, subrayando como hitos destacados la<a href=\"https:\/\/clad.org\/wp-content\/uploads\/2022\/09\/Declaracion-BuenosAires-ES-09-2022.pdf\" target=\"_blank\" rel=\"noreferrer noopener\"> Declaraci\u00f3n de Buenos Aires del CLAD<\/a>, de 2019, en la que se mencion\u00f3 \u201c<em>por primera vez las oportunidades asociadas a la IA en el Sector p\u00fablico de los pa\u00edses de la regi\u00f3n<\/em>\u201d. Junto a ello, tambi\u00e9n se introducen otros referentes como la idea fuerza de Naciones Unidas que sugiere<a href=\"https:\/\/aiforgood.itu.int\/\" target=\"_blank\" rel=\"noreferrer noopener\"> \u201c<em>una IA para el Bien<\/em>\u201d de cara a colaborar con los Objetivos de Desarrollo Sostenible (ODS)<\/a>, la Recomendaci\u00f3n del Consejo sobre IA de la OCDE (2022) o los esfuerzos de la Uni\u00f3n Europea, por ejemplo, a trav\u00e9s del<a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/ES\/TXT\/PDF\/?uri=CELEX:52020DC0065\" target=\"_blank\" rel=\"noreferrer noopener\"> Libro Blanco<\/a>, por situar a las personas en el centro de la IA. Todos estos hitos sirven como piedra de toque para contextualizar el documento, asumiendo que el enfoque de la Carta se centra fundamentalmente en la aplicaci\u00f3n de la IA dentro de las administraciones p\u00fablicas.<\/p>\n\n\n\n<p>The <strong>primer cap\u00edtulo<\/strong> contiene las <strong>bases de la Carta<\/strong>, integrando su visi\u00f3n general, el objetivo y fines, as\u00ed como el \u00e1mbito de aplicaci\u00f3n. Dentro de la Carta se establece como<strong> objetivo principal <\/strong>\u201c<em>promover un marco compartido de desarrollo de la IA desde y en las administraciones p\u00fablicas del \u00e1mbito iberoamericano<\/em>\u201d. A partir de esa idea fuerza, otros fines complementarios son, por ejemplo, compartir un lenguaje com\u00fan para mejorar la gobernanza y fomentar el buen gobierno dentro del \u00e1mbito iberoamericano o apoyar al personal de gobiernos y administraciones p\u00fablicas para su implementaci\u00f3n. En todos estos casos, se pone el acento en la necesidad de conectar el contenido de la Carta con el<a href=\"https:\/\/clad.org\/wp-content\/uploads\/2020\/10\/0-Cartas-iberoamericanas-CLAD-2019.pdf\" target=\"_blank\" rel=\"noreferrer noopener\"> resto de cartas promovidas por el CLAD<\/a>. Este cap\u00edtulo se completa se\u00f1alando que el \u00e1mbito de aplicaci\u00f3n de la Carta, pese a no contar con un car\u00e1cter vinculante, debe tener en cuenta todos los niveles administrativos, con especial atenci\u00f3n a los de menor tama\u00f1o, con menos recursos y con mayor cercan\u00eda a la ciudadan\u00eda.<\/p>\n\n\n\n<p>The <strong>segundo cap\u00edtulo<\/strong> ofrece el <strong>desarrollo conceptual<\/strong> <strong>de la Carta<\/strong>, detallando una definici\u00f3n de IA, un modelo de madurez para su desarrollo, as\u00ed como la identificaci\u00f3n de beneficios y riesgos de su implantaci\u00f3n en la Administraci\u00f3n P\u00fablica. Adem\u00e1s de la explicitaci\u00f3n de una definici\u00f3n m\u00e1s o menos amplia y debatible, este cap\u00edtulo asume la diferenciaci\u00f3n entre dos aspectos clave: <em>IA en y desde la Administraci\u00f3n P\u00fablica.<\/em> La primera vertiente hace referencia a acciones promovidas por gobiernos y administraciones p\u00fablicas, a trav\u00e9s de instrumentos normativos, de financiamiento, o de capacitaci\u00f3n, de conocimiento y otros, que tienen como objeto de aplicaci\u00f3n y uso a las propias entidades gubernamentales y agencias p\u00fablicas, incluyendo su propio personal y estructuras organizativas; mientras, la segunda se refiere a aquellas otras acciones que tienen como objeto de aplicaci\u00f3n y uso a actores en otros sectores (social, econ\u00f3mico, etc.). Esta diferenciaci\u00f3n es relevante, porque la mayor\u00eda de las pol\u00edticas, estrategias o normas nacionales (incluyendo la Ley Europea de IA) se refieren, sobre todo, al segundo \u00e1mbito, y no tienen como sujeto de aplicaci\u00f3n a las propias administraciones p\u00fablicas, algo que s\u00ed hace conscientemente esta Carta. Precisamente, lo anterior se pretende lograr subrayando las singularidades de las organizaciones p\u00fablicas en su relaci\u00f3n con este tipo de tecnolog\u00edas, as\u00ed como los potenciales beneficios, pero tambi\u00e9n desaf\u00edos, que son exclusivos dentro de ellas.<\/p>\n\n\n\n<p>The <strong>tercer cap\u00edtulo<\/strong> contiene como aspecto sustantivo el desarrollo de un conjunto de <strong>principios generales de la IA en la Administraci\u00f3n P\u00fablica<\/strong>. El punto de partida de este bloque es la necesidad de situar todos esos principios explicitados en la Carta bajo el paraguas de la garant\u00eda de los derechos humanos, como esencia para una IA centrada en las personas, confiable, robusta y orientada a la innovaci\u00f3n. Resulta especialmente importante para el \u00e1mbito espec\u00edfico del sector p\u00fablico destacar, por ejemplo, el <em>principio de rendici\u00f3n de cuentas, responsabilidad y auditabilidad<\/em>, que menciona la necesidad de generar organismos supervisores que garanticen la calidad del dise\u00f1o e impacto de los algoritmos, tambi\u00e9n en las administraciones p\u00fablicas; o el <em>principio de equidad, inclusividad y no discriminaci\u00f3n<\/em>, que manifiesta la oportunidad de promover en el sector p\u00fablico la aplicaci\u00f3n del dise\u00f1o universal de los sistemas algor\u00edtmicos, as\u00ed como garantizar la voluntad de oponerse a las decisiones adoptadas por esos sistemas. Junto a lo anterior, tambi\u00e9n aparecen otros principios todav\u00eda m\u00e1s focalizados en el sector p\u00fablico, tales como el de <em>centralidad de las personas, valor p\u00fablico y responsabilidad social<\/em>, que se refiere a la voluntad expl\u00edcita de no dejar a nadie atr\u00e1s como consecuencia del uso de la IA; o el <em>principio de sostenibilidad y protecci\u00f3n ambiental<\/em>, que adem\u00e1s de promover la alineaci\u00f3n de la IA desde y en la Administraci\u00f3n P\u00fablica con los ODS, tambi\u00e9n sugiere abiertamente que es preciso sostener como objetivo el bien com\u00fan de las sociedades, as\u00ed como el respeto a todas las formas de vida del planeta, incluyendo el uso de algoritmos verdes y tecnolog\u00edas sostenibles ambientalmente.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img fetchpriority=\"high\" decoding=\"async\" width=\"1024\" height=\"608\" src=\"https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-1024x608.jpg\" alt=\"\" class=\"wp-image-2189\" srcset=\"https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-1024x608.jpg 1024w, https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-300x178.jpg 300w, https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-768x456.jpg 768w, https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-18x12.jpg 18w, https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-1000x594.jpg 1000w, https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-230x137.jpg 230w, https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-350x208.jpg 350w, https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691-480x285.jpg 480w, https:\/\/itgespub.net\/wp-content\/uploads\/2023\/12\/Imagen-de-WhatsApp-2023-12-21-a-las-11.15.21_57962691.jpg 1492w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p>The <strong>cap\u00edtulo cuarto<\/strong> incluye las <strong>dimensiones clave para la adopci\u00f3n de la IA en la Administraci\u00f3n P\u00fablica<\/strong>. Este apartado se\u00f1ala que gobiernos y administraciones p\u00fablicas deben considerar tres \u00e1mbitos internos en los que implementar la IA: (1) en las <em>estrategias y legislaciones nacionales <\/em>que promueven; (2) en las distintas \u00e1reas de <em>pol\u00edticas y servicios p\u00fablicos <\/em>que gestionan; y (3) en las <em>personas<\/em>, incluyendo, en este caso, a todo el personal de las organizaciones p\u00fablicas en todos los niveles y la ciudadan\u00eda y empresas que interact\u00faan con ellas. Al margen de recomendar una adecuada combinaci\u00f3n de esas tres dimensiones para promover la IA en la Administraci\u00f3n P\u00fablica, en cada uno de esos \u00e1mbitos resulta imprescindible incidir en \u00e1reas concretas que deber\u00edan considerarse de manera singularizada.<\/p>\n\n\n\n<p>La primera dimensi\u00f3n (<em>estrategias y legislaciones nacionales<\/em>), quiz\u00e1 sea la m\u00e1s evolucionada hasta el momento. Las estrategias nacionales de IA deber\u00edan considerar qu\u00e9 valores democr\u00e1ticos est\u00e1n juego con los sistemas algor\u00edtmicos y sus implicaciones para las instituciones democr\u00e1ticas del futuro, las opciones \u00e9ticas y el modelo de gobernanza de datos que se persiguen o la identificaci\u00f3n de nuevas competencias y conocimientos que se requieren para construir una Administraci\u00f3n P\u00fablica 4.0. Aqu\u00ed tambi\u00e9n se mencionan algunos aspectos m\u00e1s operativos de las estrategias nacionales en las administraciones p\u00fablicas para afianzar su autonom\u00eda algor\u00edtmica frente a las grandes empresas tecnol\u00f3gicas, incluyendo cuestiones como la atenci\u00f3n a la ciberseguridad, la integraci\u00f3n de inteligencias institucional, colectiva y artificial, el desarrollo de capacidades institucionales anal\u00edticas para la direcci\u00f3n y gesti\u00f3n de datos, el entrenamiento apropiado por seres humanos de dispositivos inteligentes, la gesti\u00f3n de la identidad en entornos cada vez m\u00e1s digitalizados e h\u00edbridos (se integra aqu\u00ed el<a href=\"https:\/\/en.wikipedia.org\/wiki\/Transhumanism\" target=\"_blank\" rel=\"noreferrer noopener\"> transhumanismo<\/a>) o la preparaci\u00f3n de una adecuada relaci\u00f3n con la ciudadan\u00eda a trav\u00e9s de nuevos medios y canales, donde se explicita de forma singular a las realidades aumentadas o las<a href=\"https:\/\/en.wikipedia.org\/wiki\/Neurotechnology\" target=\"_blank\" rel=\"noreferrer noopener\"> neuro-tecnolog\u00edas<\/a>. Tambi\u00e9n se pone el foco en la importancia que tiene para el sector p\u00fablico acometer los desaf\u00edos de impacto \u00e9tico y social de la IA en la Administraci\u00f3n P\u00fablica, a trav\u00e9s de una correcta supervisi\u00f3n, auditor\u00eda y evaluaci\u00f3n de algoritmos desarrollados por las autoridades p\u00fablicas.<\/p>\n\n\n\n<p>La Carta tambi\u00e9n sugiere en este cap\u00edtulo las potenciales <em>transformaciones de las pol\u00edticas p\u00fablicas que dise\u00f1an los estados y los servicios p\u00fablicos que prestan a la ciudadan\u00eda<\/em>. Aqu\u00ed se identifican una serie de<strong> nuevas capacidades<\/strong> que se vislumbran como agentes de transformaci\u00f3n del sector p\u00fablico. En palabras de la Carta, \u201c<em>varias caracter\u00edsticas instrumentales de los sistemas algor\u00edtmicos son los que concretan su capacidad transformativa ligada a la disponibilidad y tratamiento de datos masivos, entre las cuales destacan la detecci\u00f3n, la comunicaci\u00f3n, el procesamiento y la actuaci\u00f3n<\/em>\u201d. Entre esas nuevas capacidades destacan algunas que son clave para el \u00e1mbito de las organizaciones p\u00fablicas, tales como la mejora de la automatizaci\u00f3n de procesos administrativos y de decisi\u00f3n, el aumento de las capacidades predictivas o de planificaci\u00f3n y evaluaci\u00f3n de las acciones p\u00fablicas, la reorganizaci\u00f3n de procesos de creaci\u00f3n y captura de valor p\u00fablico, la innovaci\u00f3n en los modelos de servicio p\u00fablico o la transformaci\u00f3n del ciclo de las pol\u00edticas p\u00fablicas. Junto a ello, la Carta incide en priorizar las \u00e1reas de acci\u00f3n p\u00fablica en las que cada pa\u00eds desee avanzar (educaci\u00f3n, salud, migraciones, movilidad, tributos, aduanas, defensa, cultura, justicia, comercio, seguridad, emergencias, contrataci\u00f3n p\u00fablica, transparencia, integridad y buen gobierno, etc.), dado que en cada uno de ellas se encuentran diferentes momentos de desarrollo, as\u00ed como de posible aceptaci\u00f3n social, cultural o pol\u00edtica de la IA.&nbsp;<\/p>\n\n\n\n<p>Finalmente, este cap\u00edtulo se completa con el alcance de las <em>interacciones que la IA tiene con los humanos <\/em>que operan en el interior del sector p\u00fablico (personal directivo, t\u00e9cnico o de primera l\u00ednea) o se relacionan con \u00e9ste (individuos o empresas), con un especial inter\u00e9s por las personas potencialmente m\u00e1s vulnerables. En la dimensi\u00f3n de relaci\u00f3n con las personas del entorno, la Carta incide en los nuevos medios de acceso y contacto con la ciudadan\u00eda, por ejemplo, los asistentes virtuales o los sistemas de reconocimiento de voz. Aqu\u00ed tambi\u00e9n destaca la idea de planificar adecuadamente el uso de robots para tareas altamente sensibles, como las actividades relacionadas con los cuidados personales y el bienestar, la seguridad p\u00fablica, la defensa u otros que se susciten en el futuro. Adem\u00e1s, tambi\u00e9n es importante considerar la participaci\u00f3n y colaboraci\u00f3n de las personas usuarias e interesadas en todo el ciclo de vida de los sistemas algor\u00edtmicos de la Administraci\u00f3n P\u00fablica, de cara a promover la confianza ciudadana en ellos, as\u00ed como garantizar su buen funcionamiento evitando sesgos.<\/p>\n\n\n\n<p><\/p>\n\n\n\n<p>The <strong>cap\u00edtulo final<\/strong> se refiere a la <strong>gobernanza de la IA en la Administraci\u00f3n P\u00fablica y recomendaciones para la implantaci\u00f3n de la Carta<\/strong>. Este \u00faltimo bloque incide en una serie de aspectos pr\u00e1cticos que deben considerar gobiernos y administraciones p\u00fablicas como marco para la implementaci\u00f3n de la IA. Aunque todos son relevantes, quiz\u00e1 por su trascendencia en el sector p\u00fablico, habr\u00eda que destacar algunos como la necesaria generaci\u00f3n de un <em>marco de gobernanza de datos para la IA en las administraciones p\u00fablicas<\/em>, la disponibilidad de<em> infraestructuras tecnol\u00f3gicas y de ciberseguridad <\/em>que sean habilitadoras, la creaci\u00f3n de <em>registros p\u00fablicos, auditor\u00edas y evaluaci\u00f3n de algoritmos <\/em>de forma que se vele por su calidad (por ejemplo a trav\u00e9s de la creaci\u00f3n de sellos o certificados de calidad algor\u00edtmica o autoridades de supervisi\u00f3n), el desarrollo de <em>experimentaci\u00f3n, ensayos y sandboxes con algoritmos<\/em>, enfatizando las fuentes de datos, modelos subyacentes, entornos y comportamientos de los sistemas de manera completa para incluir perfiles de personas representativos, o la <em>necesidad de adaptar y promover un empleo p\u00fablico 4.0<\/em> en el nuevo entorno algor\u00edtmico. Adicionalmente, la Carta sobresale por integrar un <em>modelo de asignaciones de riesgos de los sistemas algor\u00edtmicos<\/em> en l\u00ednea con la normativa europea, con tres niveles de riesgo bajo (aceptable), alto (aceptable\/no aceptable) o extremo (no aceptable) en funci\u00f3n de los potenciales efectos da\u00f1inos de estos sistemas en las personas y sus derechos, as\u00ed como en los sistemas democr\u00e1ticos y de convivencia.<\/p>\n\n\n\n<p>En conclusi\u00f3n, la <strong>Carta Iberoamericana de IA en la Administraci\u00f3n P\u00fablica <\/strong>supone un hito para los gobiernos y las administraciones p\u00fablicas de la regi\u00f3n, que por primera vez disponen de unas directrices comunes con las que promover y adoptar la IA. Particularmente, se ofrece una hoja de ruta que presenta conceptos, principios, dimensiones y recomendaciones de implementaci\u00f3n compartidas, con una perspectiva aplicable a diferentes contextos institucionales y momentos de madurez de este tipo de tecnolog\u00edas emergentes en diferentes pa\u00edses y niveles de gobierno. Por otro lado, la Carta enfatiza la relaci\u00f3n de las administraciones p\u00fablicas con la ciudadan\u00eda y sit\u00faa los derechos humanos en el centro, considerando los potenciales riesgos para la igualdad y equidad que la evidencia internacional ya empieza a mostrar en casos de uso existentes. Tambi\u00e9n incorpora conceptos novedosos en el sector p\u00fablico (tales como transhumanismo, neuro-tecnolog\u00edas, sistemas rob\u00f3ticos, <em>sandboxes<\/em>, auditor\u00edas algor\u00edtmicas o empleo p\u00fablico 4.0), que ir\u00e1n alcanzando m\u00e1s presencia en los pr\u00f3ximos a\u00f1os. Finalmente, la Carta es un punto de partida para que las autoridades puedan seguir avanzando en el desarrollo de la IA desde y, sobre todo, en la Administraci\u00f3n P\u00fablica, siempre con la intenci\u00f3n de limitar los riesgos asociados a usos inapropiados, al mismo tiempo que se promueven los valores democr\u00e1ticos y se ponen las bases para caminar hacia sociedades m\u00e1s justas.<\/p>\n\n\n\n<p><strong>J. Ignacio Criado. <\/strong>Profesor titular de Ciencia Pol\u00edtica y de la Administraci\u00f3n. Departamento de Ciencia Pol\u00edtica y Relaciones Internacionales. Director, Lab Innovaci\u00f3n, Tecnolog\u00eda y Gesti\u00f3n P\u00fablica (ITGesPub), Grupo de Investigaci\u00f3n, Universidad Aut\u00f3noma de Madrid. Relator de la Carta Iberoamericana de Inteligencia Artificial en la Administraci\u00f3n P\u00fablica.<\/p>\n\n\n\n<p class=\"has-small-font-size\">Este documento se ha realizado con el apoyo del Proyecto del Ministerio de Ciencia, Innovaci\u00f3n y Universidades \u201cAbriendo la caja negra de la gobernanza p\u00fablica mediada por algoritmos. Implicaciones de la Inteligencia Artificial en gobiernos, servicios p\u00fablicos y personas (#AIPublicGov)\u201d. Ref. PID2022-136283OB-I00, MCIN\/AEI\/10.13039\/501100011033 y FSE+.<\/p>","protected":false},"excerpt":{"rendered":"<p>Se acaba de alcanzar un acuerdo pol\u00edtico de m\u00e1ximo nivel sobre la futura regulaci\u00f3n de la Inteligencia Artificial (IA) en el \u00e1mbito de la Uni\u00f3n Europea (la llamada Ley Europea de IA), en l\u00ednea con otros pasos previos dentro de la regi\u00f3n. Este hito supone un salto adelante al lograr que las instituciones europeas establezcan lineamientos compartidos sobre la regulaci\u00f3n de la IA, adem\u00e1s de situar este tema dentro de la agenda p\u00fablica. Tal y como se ha presentado, tanto en medios de comunicaci\u00f3n, como en espacios de car\u00e1cter m\u00e1s acad\u00e9mico, la futura normativa europea de IA no est\u00e1 exenta de zonas grises y desaf\u00edos, sobre todo, relacionados con el intento de combinar la promoci\u00f3n del desarrollo econ\u00f3mico y la innovaci\u00f3n, con la protecci\u00f3n de los individuos y la garant\u00eda de los derechos humanos. En este texto pretendemos destacar que, casi al mismo tiempo y con algo menos de ruido, se ha aprobado la Carta Iberoamericana de Inteligencia Artificial en la Administraci\u00f3n P\u00fablica, de manera que en las siguientes l\u00edneas se resumen algunas ideas clave del documento, as\u00ed como las principales orientaciones que contiene, con la singularidad de que se centran en las administraciones p\u00fablicas.<\/p>","protected":false},"author":8,"featured_media":2192,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11,12],"tags":[45,74,35],"class_list":["post-2187","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actividades-y-eventos","category-investigacion-y-proyectos","tag-administracion-publica","tag-iberoamerica","tag-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/2187","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/comments?post=2187"}],"version-history":[{"count":0,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/2187\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media\/2192"}],"wp:attachment":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media?parent=2187"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/categories?post=2187"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/tags?post=2187"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}