La Inteligencia Artificial (IA) es ya una realidad en el sector p\u00fablico de muchos pa\u00edses del mundo. Las ventajas asociadas a su uso prometen transformar el sector p\u00fablico radicalmente. Entre los beneficios de la IA se encuentran el aumento de la eficacia, eficiencia y personalizaci\u00f3n de los servicios p\u00fablicos; la automatizaci\u00f3n de estos servicios; el incremento en las capacidades de rastreo y detecci\u00f3n de irregularidades, riesgos y\/o anomal\u00edas, etc. Sin embargo, la incorporaci\u00f3n de la IA tambi\u00e9n conlleva grandes problemas y dificultades tanto \u00e9ticos como legales: sesgos, falta de transparencia, problemas de privacidad, deshumanizaci\u00f3n del sector p\u00fablico, etc.<\/p>\n\n\n\n
Aunque estos y otros asuntos son de gran importancia a la hora de promover una IA \u00e9tica y justa, en lo que se refiere a la igualdad de g\u00e9nero los retos se asocian principalmente con los sesgos en los datos y en el dise\u00f1o. En el primer caso, se ha destacado que los sistemas de IA pueden contribuir con la perpetuaci\u00f3n de los estereotipos de g\u00e9nero, si no se toma en cuenta la representatividad de los datos: si las bases de datos que se usan para alimentar los sistemas de IA no incluyen informaci\u00f3n diversa e inclusiva, es probable que las decisiones de la IA reflejen discriminaciones y estereotipos que existen en la sociedad<\/a>.<\/p>\n\n\n\n El propio dise\u00f1o de la IA puede dar cuenta de los sesgos de g\u00e9nero que pueden tener sus dise\u00f1adores. Por ejemplo, se ha demostrado que los chatbots<\/em> y asistentes de voz<\/a> presentan caracter\u00edsticas claramente asociadas al g\u00e9nero femenino, y que sus interacciones con los\/as usuarios\/as representan y refuerzan estereotipos de g\u00e9nero. En un experimento sencillo con los asistentes de voz m\u00e1s populares, publicado en Quartz<\/em><\/a>, se encontr\u00f3 que ante mensajes sexistas y de abuso verbal, los sistemas respond\u00edan de forma complaciente o inadecuada, lo que podr\u00eda contribuir a acentuar la imagen que se ha tenido hist\u00f3ricamente sobre las mujeres.<\/p>\n\n\n\n Consciente de estos problemas, la UE ha emitido una serie de documentos y, recientemente, un borrador en el que se aborda la regulaci\u00f3n y los l\u00edmites de la IA<\/a>. En este sentido la UE apuesta por una IA que sea digna de confianza (trustworthy<\/em>), y para ello se basa en tres pilares esenciales: que la IA sea legal, robusta y \u00e9tica. A su vez, la UE ha establecido cuatro principios \u00e9ticos fundamentales: respeto por la autonom\u00eda humana, prevenci\u00f3n del da\u00f1o, justicia y explicabilidad. Estos pilares y principios permiten sentar las bases para promover una IA que fomente la igualdad de g\u00e9nero entre los miembros de la UE. Sin embargo, esto no significa que todos los pa\u00edses hayan realizado los mismos avances en esta materia cuando abordan la incorporaci\u00f3n de la IA en el sector p\u00fablico.<\/p>\n\n\n\n Al igual que en muchos otros aspectos, Suecia es uno de los pa\u00edses m\u00e1s adelantados en materia de igualdad de g\u00e9nero e IA. El gobierno sueco ha alineado sus metas en igualdad de g\u00e9nero con sus objetivos de IA<\/a>. De este modo, el pa\u00eds n\u00f3rdico busca utilizar la IA para: promover la divisi\u00f3n igualitaria del poder y la influencia; la igualdad en educaci\u00f3n; la distribuci\u00f3n igualitaria de los cuidados y los trabajos no remunerados; la igualdad econ\u00f3mica; acabar con la violencia de g\u00e9nero, y garantizar el acceso y disfrute igualitario a la salud. Uno de sus proyectos m\u00e1s innovadores, Ceretai<\/strong><\/a>, busca desarrollar herramientas automatizadas para la detecci\u00f3n de normas, patrones y estereotipos discriminatorios presentes en la cultura popular. Otros proyectos interesantes son Rikare II<\/strong><\/a>, que pretende desarrollar un algoritmo que tome decisiones respecto a la concesi\u00f3n de financiaci\u00f3n para proyectos emprendedores y de negocios, o Nibye<\/strong><\/a>, una organizaci\u00f3n sueca que est\u00e1 desarrollando un reloj para detectar una agresi\u00f3n a una mujer en tiempo real, de tal manera que sea notificada autom\u00e1ticamente a un amigo o familiar.<\/p>\n\n\n\n En el caso de Espa\u00f1a, los documentos y estrategias nacionales han seguido las pautas marcadas por la Uni\u00f3n Europea. La Estrategia Espa\u00f1ola I+D+I en Inteligencia Artificial<\/a> de 2019, la Estrategia Espa\u00f1a Digital 2025<\/a> y la Estrategia Nacional de Inteligencia Artificial<\/a>, ambas de 2020, hacen referencia al compromiso de desarrollar la tecnolog\u00eda y, concretamente, la IA, en l\u00ednea con la Constituci\u00f3n y los valores europeos. Se reconoce que la transformaci\u00f3n digital debe considerar la justicia, la diversidad, la democracia y la promoci\u00f3n de la confianza.<\/p>\n\n\n\n En cuanto a la igualdad de g\u00e9nero, los documentos hacen referencias de manera impl\u00edcita y expl\u00edcita a la necesidad de incorporar esta perspectiva en el desarrollo de la IA. Se incluyen medidas en dos sentidos: la promoci\u00f3n de competencias digitales y formaci\u00f3n de talento femenino en tecnolog\u00eda e IA, y el apoyo al liderazgo de las mujeres en el \u00e1mbito de la IA. Se destaca el programa SpAIn Talent Hub, en coordinaci\u00f3n con ICEX Invest in Spain, que se centrar\u00e1 en atraer talentos del mundo acad\u00e9mico y profesional, as\u00ed como inversi\u00f3n extranjera, y que incluye de manera concreta el impulso a las mujeres emprendedoras.<\/p>\n\n\n\n Si bien se considera que la incorporaci\u00f3n de la perspectiva de g\u00e9nero en estos documentos oficiales constituye un avance importante y un buen punto de partida, se deben mantener los esfuerzos para que la situaci\u00f3n mejore. Algunas propuestas transversales interesantes son las siguientes: la redacci\u00f3n de gu\u00edas con perspectiva de g\u00e9nero para la implementaci\u00f3n de la IA en las administraciones p\u00fablicas espa\u00f1olas y la elaboraci\u00f3n de informes anuales o bianuales sobre IA y g\u00e9nero. Este tipo de medidas buscan, por un lado, analizar el estado de la IA con perspectiva de g\u00e9nero en Espa\u00f1a, analizar aspectos de mejora y garantizar que se promueve la igualdad de g\u00e9nero en la implementaci\u00f3n de la IA de las administraciones p\u00fablicas espa\u00f1olas.<\/p>\n\n\n\n Otro tipo de propuestas m\u00e1s concretas pueden contribuir de manera activa en materia de igualdad. Por ejemplo, la IA puede contribuir con la prevenci\u00f3n de la violencia de g\u00e9nero. En Espa\u00f1a existe el sistema VioG\u00e9n, que fue creado por el Ministerio del Interior en 2007 y que utiliza la IA para prevenir la violencia de g\u00e9nero. Es fundamental mantener la colaboraci\u00f3n interinstitucional para garantizar su mejora constante. Tambi\u00e9n puede ser interesante desarrollar un chatbot<\/em> espec\u00edfico para facilitar las denuncias de casos de violencia contra las mujeres, y ampliar la perspectiva para incluir tambi\u00e9n otros tipos de violencia, como la econ\u00f3mica.<\/p>\n\n\n\n Tambi\u00e9n se pueden desarrollar sistemas de IA para garantizar la transparencia retributiva y reducir la brecha salarial entre hombres y mujeres, tanto en el sector p\u00fablico como en el privado. Adem\u00e1s, hay un gran potencial de uso de la IA para atender las necesidades de salud espec\u00edficas de las mujeres: no solo hablamos de incorporar la perspectiva de g\u00e9nero en las tecnolog\u00edas que se usan en los centros de salud, sino que tambi\u00e9n se pueden desarrollar chatbots<\/em> y otros sistemas para la difusi\u00f3n de informaci\u00f3n que contribuyan con el diagn\u00f3stico y la prevenci\u00f3n.<\/p>\n\n\n\n En definitiva, si bien la IA conlleva unos riesgos importantes para la promoci\u00f3n de la igualdad de g\u00e9nero, a los que debe prestarse atenci\u00f3n en el sector p\u00fablico y en el privado, tambi\u00e9n se puede constituir en una gran herramienta para avanzar hacia la igualdad efectiva entre hombres y mujeres.<\/p>\n\n\n\n Este post se basa en el documento <\/em>El papel de la Inteligencia Artificial en la igualdad de g\u00e9nero: un an\u00e1lisis comparado entre la UE, Suecia y Espa\u00f1a, seleccionado en la convocatoria Estudios de Progreso 2020, de la Fundaci\u00f3n Alternativas<\/em>. Disponible en: Microsoft Word – Informe_IA_G\u00e9nero_20210525 (1) (1).docx (fundacionalternativas.org)<\/a> <\/p>\n\n\n\n Luc\u00eda Ortiz de Z\u00e1rate Alcarazo.<\/strong> Candidata a doctora, Departamento de Ciencias Pol\u00edticas y Relaciones Internacionales, Universidad Aut\u00f3noma de Madrid.<\/p>\n\n\n\n Ariana Guevara G\u00f3mez.<\/strong> Candidata a doctora, Departamento de Ciencias Pol\u00edticas y Relaciones Internacionales, Universidad Aut\u00f3noma de Madrid.<\/p>","protected":false},"excerpt":{"rendered":" Este post se basa en el documento El papel de la Inteligencia Artificial en la igualdad de g\u00e9nero: un an\u00e1lisis comparado entre la UE, Suecia y Espa\u00f1a, seleccionado en la convocatoria Estudios de Progreso 2020, de la Fundaci\u00f3n Alternativas.<\/p>","protected":false},"author":8,"featured_media":1571,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[12,31],"tags":[56,35,62],"class_list":["post-1570","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-investigacion-y-proyectos","category-noticias","tag-igualdad-de-genero","tag-inteligencia-artificial","tag-proyectos"],"_links":{"self":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/1570","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/comments?post=1570"}],"version-history":[{"count":0,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/1570\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media\/1571"}],"wp:attachment":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media?parent=1570"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/categories?post=1570"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/tags?post=1570"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}