Investigación y proyectosNoticias

Inteligencia Artificial e igualdad de género en la UE, España y Suecia

La Inteligencia Artificial (IA) es ya una realidad en el sector público de muchos países del mundo. Las ventajas asociadas a su uso prometen transformar el sector público radicalmente. Entre los beneficios de la IA se encuentran el aumento de la eficacia, eficiencia y personalización de los servicios públicos; la automatización de estos servicios; el incremento en las capacidades de rastreo y detección de irregularidades, riesgos y/o anomalías, etc. Sin embargo, la incorporación de la IA también conlleva grandes problemas y dificultades tanto éticos como legales: sesgos, falta de transparencia, problemas de privacidad, deshumanización del sector público, etc.

Aunque estos y otros asuntos son de gran importancia a la hora de promover una IA ética y justa, en lo que se refiere a la igualdad de género los retos se asocian principalmente con los sesgos en los datos y en el diseño. En el primer caso, se ha destacado que los sistemas de IA pueden contribuir con la perpetuación de los estereotipos de género, si no se toma en cuenta la representatividad de los datos: si las bases de datos que se usan para alimentar los sistemas de IA no incluyen información diversa e inclusiva, es probable que las decisiones de la IA reflejen discriminaciones y estereotipos que existen en la sociedad.

El propio diseño de la IA puede dar cuenta de los sesgos de género que pueden tener sus diseñadores. Por ejemplo, se ha demostrado que los chatbots y asistentes de voz presentan características claramente asociadas al género femenino, y que sus interacciones con los/as usuarios/as representan y refuerzan estereotipos de género. En un experimento sencillo con los asistentes de voz más populares, publicado en Quartz, se encontró que ante mensajes sexistas y de abuso verbal, los sistemas respondían de forma complaciente o inadecuada, lo que podría contribuir a acentuar la imagen que se ha tenido históricamente sobre las mujeres.

Consciente de estos problemas, la UE ha emitido una serie de documentos y, recientemente, un borrador en el que se aborda la regulación y los límites de la IA. En este sentido la UE apuesta por una IA que sea digna de confianza (trustworthy), y para ello se basa en tres pilares esenciales: que la IA sea legal, robusta y ética. A su vez, la UE ha establecido cuatro principios éticos fundamentales: respeto por la autonomía humana, prevención del daño, justicia y explicabilidad. Estos pilares y principios permiten sentar las bases para promover una IA que fomente la igualdad de género entre los miembros de la UE. Sin embargo, esto no significa que todos los países hayan realizado los mismos avances en esta materia cuando abordan la incorporación de la IA en el sector público.

Al igual que en muchos otros aspectos, Suecia es uno de los países más adelantados en materia de igualdad de género e IA. El gobierno sueco ha alineado sus metas en igualdad de género con sus objetivos de IA. De este modo, el país nórdico busca utilizar la IA para: promover la división igualitaria del poder y la influencia; la igualdad en educación; la distribución igualitaria de los cuidados y los trabajos no remunerados; la igualdad económica; acabar con la violencia de género, y garantizar el acceso y disfrute igualitario a la salud. Uno de sus proyectos más innovadores, Ceretai, busca desarrollar herramientas automatizadas para la detección de normas, patrones y estereotipos discriminatorios presentes en la cultura popular. Otros proyectos interesantes son Rikare II, que pretende desarrollar un algoritmo que tome decisiones respecto a la concesión de financiación para proyectos emprendedores y de negocios, o Nibye, una organización sueca que está desarrollando un reloj para detectar una agresión a una mujer en tiempo real, de tal manera que sea notificada automáticamente a un amigo o familiar.

En el caso de España, los documentos y estrategias nacionales han seguido las pautas marcadas por la Unión Europea. La Estrategia Española I+D+I en Inteligencia Artificial de 2019, la Estrategia España Digital 2025 y la Estrategia Nacional de Inteligencia Artificial, ambas de 2020, hacen referencia al compromiso de desarrollar la tecnología y, concretamente, la IA, en línea con la Constitución y los valores europeos. Se reconoce que la transformación digital debe considerar la justicia, la diversidad, la democracia y la promoción de la confianza.

En cuanto a la igualdad de género, los documentos hacen referencias de manera implícita y explícita a la necesidad de incorporar esta perspectiva en el desarrollo de la IA. Se incluyen medidas en dos sentidos: la promoción de competencias digitales y formación de talento femenino en tecnología e IA, y el apoyo al liderazgo de las mujeres en el ámbito de la IA. Se destaca el programa SpAIn Talent Hub, en coordinación con ICEX Invest in Spain, que se centrará en atraer talentos del mundo académico y profesional, así como inversión extranjera, y que incluye de manera concreta el impulso a las mujeres emprendedoras.

Si bien se considera que la incorporación de la perspectiva de género en estos documentos oficiales constituye un avance importante y un buen punto de partida, se deben mantener los esfuerzos para que la situación mejore. Algunas propuestas transversales interesantes son las siguientes: la redacción de guías con perspectiva de género para la implementación de la IA en las administraciones públicas españolas y la elaboración de informes anuales o bianuales sobre IA y género. Este tipo de medidas buscan, por un lado, analizar el estado de la IA con perspectiva de género en España, analizar aspectos de mejora y garantizar que se promueve la igualdad de género en la implementación de la IA de las administraciones públicas españolas.

Otro tipo de propuestas más concretas pueden contribuir de manera activa en materia de igualdad. Por ejemplo, la IA puede contribuir con la prevención de la violencia de género. En España existe el sistema VioGén, que fue creado por el Ministerio del Interior en 2007 y que utiliza la IA para prevenir la violencia de género. Es fundamental mantener la colaboración interinstitucional para garantizar su mejora constante. También puede ser interesante desarrollar un chatbot específico para facilitar las denuncias de casos de violencia contra las mujeres, y ampliar la perspectiva para incluir también otros tipos de violencia, como la económica.

También se pueden desarrollar sistemas de IA para garantizar la transparencia retributiva y reducir la brecha salarial entre hombres y mujeres, tanto en el sector público como en el privado. Además, hay un gran potencial de uso de la IA para atender las necesidades de salud específicas de las mujeres: no solo hablamos de incorporar la perspectiva de género en las tecnologías que se usan en los centros de salud, sino que también se pueden desarrollar chatbots y otros sistemas para la difusión de información que contribuyan con el diagnóstico y la prevención.

En definitiva, si bien la IA conlleva unos riesgos importantes para la promoción de la igualdad de género, a los que debe prestarse atención en el sector público y en el privado, también se puede constituir en una gran herramienta para avanzar hacia la igualdad efectiva entre hombres y mujeres.

Este post se basa en el documento El papel de la Inteligencia Artificial en la igualdad de género: un análisis comparado entre la UE, Suecia y España, seleccionado en la convocatoria Estudios de Progreso 2020, de la Fundación Alternativas. Disponible en: Microsoft Word – Informe_IA_Género_20210525 (1) (1).docx (fundacionalternativas.org)

Lucía Ortiz de Zárate Alcarazo. Candidata a doctora, Departamento de Ciencias Políticas y Relaciones Internacionales, Universidad Autónoma de Madrid.

Ariana Guevara Gómez. Candidata a doctora, Departamento de Ciencias Políticas y Relaciones Internacionales, Universidad Autónoma de Madrid.