La violencia de género se produce como consecuencia de la desigualdad estructural y la discriminación por razón de género. La Organización de las Naciones Unidas la define como aquellos actos que producen daño físico, mental o sexual, así como “amenazas de tales actos, coacción y otras privaciones de libertad” que se cometen contra las mujeres por el hecho de serlo o que las afecte de manera desproporcionada. Se trata de un problema complejo que demanda la atención y colaboración entre una gran diversidad de actores.
Las cifras de la Delegación de Gobierno contra la Violencia de Género, del Ministerio de Igualdad de España, permiten entender la magnitud de esta situación. Desde el 1 de enero de 2003 hasta el 31 de marzo de 2025 se habían contabilizado 1.301 feminicidios en el contexto de la pareja o la expareja. En marzo de 2025 se registraron 16 feminicidios fuera del ámbito de la pareja o expareja, principalmente en el entorno familiar. Si se tienen en cuenta otras formas de violencia, como la violencia sexual, el acoso sexual, el stalking, etc., se encontró en 2019 que 1 de cada 2 mujeres mayores de 16 años y residentes en España habían sufrido violencia a lo largo de su vida por el hecho de ser mujeres.
Ante este panorama, se demanda una respuesta coordinada y coherente, así como distintas perspectivas que permitan avanzar hacia nuevas soluciones. En este sentido, se ha propuesto el uso de tecnologías y, concretamente, sistemas algorítmicos y de Inteligencia Artificial (IA) para abordar la violencia de género. Aunque es cierto que este tipo de sistemas pueden contener sesgos de género y utilizarse para facilitar nuevas formas de violencia de género en el entorno digital, aquí nos referiremos al potencial de utilizar este tipo de tecnologías de manera proactiva para contribuir al combate de este problema.
Una de las iniciativas que responde a esta línea de acción es el chatbot AinoAid, desarrollado en el marco del proyecto europeo Improve, con la participación en España de la Policía Local de Valencia, la Universidad de Deusto y la asociación Askabide. El objetivo principal de esta herramienta es ayudar a las víctimas de violencia de género a reconocer el problema y buscar apoyo. Se trata de un asunto especialmente relevante si se considera que 60% de las víctimas mortales de violencia de género en España no había denunciado a su agresor. En este sentido y de acuerdo con las entidades participantes en el proyecto, este chatbot puede servir para hacer consultas de forma anónima y guiar a las personas interesadas a través de información verificada y basada en conocimiento experto.
Como ocurre con otros sistemas de este tipo, el chatbot está disponible 24/7 y funciona como un agente conversacional. Las personas usuarias (tanto víctimas como profesionales que atienden estos casos) pueden hacer preguntas generales y específicas sobre su situación personal y, a través del procesamiento de lenguaje natural, el sistema ofrece la mejor respuesta posible. Un aspecto fundamental es que se garantiza el anonimato y no se guarda información de carácter personal, algo que se considera indispensable en casos tan sensibles como los relacionados con la violencia de género.
El desarrollo: un ejemplo de colaboración público-privada
La empresa finlandesa We Encourage (WE) es la responsable del desarrollo del chatbot AinoAid, que no solamente se está probando en el contexto español, sino también en Finlandia, Alemania, Francia y Austria. Para entrenarlo, en lugar de utilizar información disponible en Internet, se han recopilado datos validados por personas expertas. Es en este punto en el que han participado las entidades socias de España. La Policía Local de Valencia, la Universidad de Deusto y la asociación Askabide han contribuido con la traducción y adaptación del contenido al contexto español, de manera que las personas que utilicen esta herramienta puedan contar con información rigurosa y útil.
Este proceso ha permitido demostrar la importancia de la colaboración entre diferentes actores para desarrollar sistemas algorítmicos y de IA que ayuden a abordar un problema tan complejo como la violencia de género. Las administraciones públicas (en este caso, una entidad policial), las universidades, las empresas y las organizaciones de la sociedad civil tienen conocimientos y experiencias muy variadas que pueden enriquecer estos procesos de diseño de tecnología disruptiva. La empresa desarrolladora y las organizaciones participantes han reconocido (tanto en un simposio organizado por la Policía Local de Valencia como en conversaciones personales) que el proceso de colaboración fue muy productivo y que permitió aportar mayor valor a la herramienta.
También se destacaron algunos retos, que son comunes en procesos de colaboración entre entidades de distinta naturaleza, especialmente cuando se cuenta con socios en otros países. Uno de ellos fue la definición del propio objeto del chatbot. El proyecto originalmente se centraba en la violencia doméstica, pero, en el caso de España, era fundamental tratar de manera diferenciada la violencia de género, pues se cuenta con una legislación y políticas específicas para atender este problema. Se acordó, en este sentido, incorporar también la violencia de género en la adaptación del proyecto al contexto español y, si bien había algunas posiciones diferenciadas entre las organizaciones, se llegaron a acuerdos sin mayores inconvenientes.
El próximo reto: la implementación
Actualmente, el chatbot está en fase piloto y se puede utilizar de manera libre a través de la web. Con estas interacciones, la herramienta se sigue entrenando para mejorar su capacidad de respuesta. Las organizaciones participantes en el proyecto señalaron que aún falta para que el chatbot funcione de manera óptima, pero se espera que vaya perfeccionándose progresivamente. Desde la empresa desarrolladora señalaron, además, que es necesario la evaluación y actualización constante del sistema, especialmente si se consideran los avances que hay cada día en materia de IA.
Otro de los desafíos para el futuro es la implementación. Aunque se espera que la herramienta se ponga en marcha de manera formal desde alguna organización, todavía no hay certezas sobre este punto. Para la empresa desarrolladora, lo ideal es que el chatbot esté disponible en la mayor variedad y cantidad de sitios web, para que pueda llegar a la población que realmente lo necesita.
Está también la posibilidad de que alguna organización pública apueste por su implementación. En este caso, será de especial interés evaluar el impacto que puede tener esta herramienta en las dinámicas internas y en la relación de las administraciones con la ciudadanía, especialmente con las víctimas de violencia de género. Por ejemplo, se podrían reducir las consultas presenciales que se hacen sobre este tema y/o incrementar la confianza para denunciar estos casos. Para que realmente este sistema cumpla su objetivo, será indispensable aplicar una perspectiva de género de manera transversal, mantener el foco puesto en las necesidades reales de las víctimas, y atender los desafíos organizativos, políticos y económicos que pueden existir en cada contexto específico.
Ariana Guevara-Gómez. Profesora ayudante, investigadora predoctoral, y miembro del Lab IT_GesPub (Innovación, Tecnología y Gestión Pública) Departamento de Ciencia Política y Relaciones Internacionales, Universidad Autónoma de Madrid.
Este post se ha realizado con el apoyo del Proyecto del Ministerio de Ciencia, Innovación y Universidades “Abriendo la caja negra de la gobernanza pública mediada por algoritmos. Implicaciones de la Inteligencia Artificial en gobiernos, servicios públicos y personas (#AIPublicGov)”. Ref. PID2022-136283OB-I00, MCIN/AEI/10.13039/501100011033 y FSE+.
