{"id":2634,"date":"2025-06-30T13:07:09","date_gmt":"2025-06-30T11:07:09","guid":{"rendered":"https:\/\/itgespub.net\/?p=2634"},"modified":"2025-06-30T13:09:06","modified_gmt":"2025-06-30T11:09:06","slug":"algoritmos-e-inteligencia-artificial-contra-la-violencia-de-genero-el-caso-del-chatbot-ainoaid","status":"publish","type":"post","link":"https:\/\/itgespub.net\/en\/algoritmos-e-inteligencia-artificial-contra-la-violencia-de-genero-el-caso-del-chatbot-ainoaid\/","title":{"rendered":"Algoritmos e Inteligencia Artificial contra la violencia de g\u00e9nero: el caso del chatbot AinoAid"},"content":{"rendered":"

La violencia de g\u00e9nero <\/strong>se produce como consecuencia de la desigualdad estructural y la discriminaci\u00f3n por raz\u00f3n de g\u00e9nero. La Organizaci\u00f3n de las  Naciones Unidas<\/a> la define como aquellos actos que producen da\u00f1o f\u00edsico, mental o sexual, as\u00ed como \u201camenazas de tales actos, coacci\u00f3n y otras privaciones de libertad\u201d que se cometen contra las mujeres por el hecho de serlo o que las afecte de manera desproporcionada. Se trata de un problema complejo que demanda la atenci\u00f3n y colaboraci\u00f3n entre una gran diversidad de actores.<\/p>\n\n\n\n

Las cifras<\/a> de la Delegaci\u00f3n de Gobierno contra la Violencia de G\u00e9nero, del Ministerio de Igualdad de Espa\u00f1a, permiten entender la magnitud de esta situaci\u00f3n. Desde el 1 de enero de 2003 hasta el 31 de marzo de 2025 se hab\u00edan contabilizado 1.301 feminicidios en el contexto de la pareja o la expareja. En marzo de 2025 se registraron 16 feminicidios fuera del \u00e1mbito de la pareja o expareja, principalmente en el entorno familiar. Si se tienen en cuenta otras formas de violencia, como la violencia sexual, el acoso sexual, el stalking<\/em>, etc., se encontr\u00f3 en 2019<\/a> que 1 de cada 2 mujeres mayores de 16 a\u00f1os y residentes en Espa\u00f1a hab\u00edan sufrido violencia a lo largo de su vida por el hecho de ser mujeres. <\/p>\n\n\n\n

Ante este panorama, se demanda una respuesta coordinada y coherente, as\u00ed como distintas perspectivas que permitan avanzar hacia nuevas soluciones. En este sentido, se ha propuesto el uso de tecnolog\u00edas y, concretamente, sistemas algor\u00edtmicos y de Inteligencia Artificial (IA) para abordar la violencia de g\u00e9nero. Aunque es cierto que este tipo de sistemas pueden contener sesgos de g\u00e9nero<\/a> y utilizarse para facilitar nuevas formas de violencia de g\u00e9nero<\/a> en el entorno digital, aqu\u00ed nos referiremos al potencial de utilizar este tipo de tecnolog\u00edas de manera proactiva para contribuir al combate de este problema. <\/p>\n\n\n\n

Una de las iniciativas que responde a esta l\u00ednea de acci\u00f3n es el chatbot<\/strong><\/a> AinoAid<\/strong><\/a>, desarrollado en el marco del proyecto europeo <\/a>Improve<\/a>, con la participaci\u00f3n en Espa\u00f1a de la Polic\u00eda Local de Valencia, la Universidad de Deusto y la asociaci\u00f3n Askabide. El objetivo principal de esta herramienta es ayudar a las v\u00edctimas de violencia de g\u00e9nero a reconocer el problema y buscar apoyo. Se trata de un asunto especialmente relevante si se considera que 60% de las v\u00edctimas mortales<\/a> de violencia de g\u00e9nero en Espa\u00f1a no hab\u00eda denunciado a su agresor. En este sentido y de acuerdo con las entidades participantes en el proyecto, este chatbot puede servir para hacer consultas de forma an\u00f3nima y guiar a las personas interesadas a trav\u00e9s de informaci\u00f3n verificada y basada en conocimiento experto.\u00a0

Como ocurre con otros sistemas de este tipo, el chatbot <\/strong>est\u00e1 disponible 24\/7 y funciona como un agente conversacional<\/strong>. Las personas usuarias (tanto v\u00edctimas como profesionales que atienden estos casos) pueden hacer preguntas generales y espec\u00edficas sobre su situaci\u00f3n personal y, a trav\u00e9s del procesamiento de lenguaje natural, el sistema ofrece la mejor respuesta posible. Un aspecto fundamental es que se garantiza el anonimato y no se guarda informaci\u00f3n de car\u00e1cter personal, algo que se considera indispensable en casos tan sensibles como los relacionados con la violencia de g\u00e9nero.\u00a0<\/p>\n\n\n\n

El desarrollo: un ejemplo de colaboraci\u00f3n p\u00fablico-privada<\/strong><\/h5>\n\n\n\n

La empresa finlandesa We Encourage (WE)<\/a> es la responsable del desarrollo del chatbot AinoAid<\/strong>, que no solamente se est\u00e1 probando en el contexto espa\u00f1ol, sino tambi\u00e9n en Finlandia, Alemania, Francia y Austria. Para entrenarlo, en lugar de utilizar informaci\u00f3n disponible en Internet, se han recopilado datos validados por personas expertas. Es en este punto en el que han participado las entidades socias de Espa\u00f1a. La Polic\u00eda Local de Valencia, la Universidad de Deusto y la asociaci\u00f3n Askabide han contribuido con la traducci\u00f3n y adaptaci\u00f3n del contenido al contexto espa\u00f1ol, de manera que las personas que utilicen esta herramienta puedan contar con informaci\u00f3n rigurosa y \u00fatil.\u00a0<\/p>\n\n\n\n

Este proceso ha permitido demostrar la importancia de la colaboraci\u00f3n <\/strong>entre diferentes actores para desarrollar sistemas algor\u00edtmicos y de IA <\/strong>que ayuden a abordar un problema tan complejo como la violencia de g\u00e9nero. Las administraciones p\u00fablicas (en este caso, una entidad policial), las universidades, las empresas y las organizaciones de la sociedad civil tienen conocimientos y experiencias muy variadas que pueden enriquecer estos procesos de dise\u00f1o de tecnolog\u00eda disruptiva. La empresa desarrolladora y las organizaciones participantes han reconocido (tanto en un simposio<\/a> organizado por la Polic\u00eda Local de Valencia como en conversaciones personales) que el proceso de colaboraci\u00f3n fue muy productivo y que permiti\u00f3 aportar mayor valor a la herramienta. <\/p>\n\n\n\n

Tambi\u00e9n se destacaron algunos retos<\/strong>, que son comunes en procesos de colaboraci\u00f3n entre entidades de distinta naturaleza, especialmente cuando se cuenta con socios en otros pa\u00edses. Uno de ellos fue la definici\u00f3n del propio objeto del chatbot. El proyecto originalmente se centraba en la violencia dom\u00e9stica, pero, en el caso de Espa\u00f1a, era fundamental tratar de manera diferenciada la violencia de g\u00e9nero, pues se cuenta con una legislaci\u00f3n y pol\u00edticas espec\u00edficas para atender este problema. Se acord\u00f3, en este sentido, incorporar tambi\u00e9n la violencia de g\u00e9nero en la adaptaci\u00f3n del proyecto al contexto espa\u00f1ol y, si bien hab\u00eda algunas posiciones diferenciadas entre las organizaciones, se llegaron a acuerdos sin mayores inconvenientes.\u00a0<\/p>\n\n\n\n

El pr\u00f3ximo reto: la implementaci\u00f3n<\/strong><\/h5>\n\n\n\n

Actualmente, el chatbot est\u00e1 en fase piloto <\/strong>y se puede utilizar de manera libre a trav\u00e9s de la web<\/a>. Con estas interacciones, la herramienta se sigue entrenando para mejorar su capacidad de respuesta. Las organizaciones participantes en el proyecto se\u00f1alaron que a\u00fan falta para que el chatbot funcione de manera \u00f3ptima, pero se espera que vaya perfeccion\u00e1ndose progresivamente. Desde la empresa desarrolladora se\u00f1alaron, adem\u00e1s, que es necesario la evaluaci\u00f3n <\/strong>y actualizaci\u00f3n <\/strong>constante del sistema, especialmente si se consideran los avances que hay cada d\u00eda en materia de IA. <\/p>\n\n\n\n

Otro de los desaf\u00edos para el futuro es la implementaci\u00f3n. Aunque se espera que la herramienta se ponga en marcha de manera formal desde alguna organizaci\u00f3n, todav\u00eda no hay certezas sobre este punto. Para la empresa desarrolladora, lo ideal es que el chatbot est\u00e9 disponible en la mayor variedad y cantidad de sitios web, para que pueda llegar a la poblaci\u00f3n que realmente lo necesita. <\/p>\n\n\n\n

Est\u00e1 tambi\u00e9n la posibilidad de que alguna organizaci\u00f3n p\u00fablica apueste por su implementaci\u00f3n. En este caso, ser\u00e1 de especial inter\u00e9s evaluar el impacto que puede tener esta herramienta en las din\u00e1micas internas y en la relaci\u00f3n de las administraciones con la ciudadan\u00eda, especialmente con las v\u00edctimas de violencia de g\u00e9nero. Por ejemplo, se podr\u00edan reducir las consultas presenciales que se hacen sobre este tema y\/o incrementar la confianza para denunciar estos casos. Para que realmente este sistema cumpla su objetivo, ser\u00e1 indispensable aplicar una perspectiva de g\u00e9nero de manera transversal, mantener el foco puesto en las necesidades reales de las v\u00edctimas, y atender los desaf\u00edos organizativos, pol\u00edticos y econ\u00f3micos que pueden existir en cada contexto espec\u00edfico.<\/p>\n\n\n\n

Ariana Guevara-G\u00f3mez.<\/strong> Profesora ayudante, investigadora predoctoral, y miembro del Lab IT_GesPub (Innovaci\u00f3n, Tecnolog\u00eda y Gesti\u00f3n P\u00fablica) Departamento de Ciencia Pol\u00edtica y Relaciones Internacionales, Universidad Aut\u00f3noma de Madrid. <\/p>\n\n\n\n

Este post se ha realizado con el apoyo del Proyecto del Ministerio de Ciencia, Innovaci\u00f3n y Universidades \u201cAbriendo la caja negra de la gobernanza p\u00fablica mediada por algoritmos. Implicaciones de la Inteligencia Artificial en gobiernos, servicios p\u00fablicos y personas (#AIPublicGov)\u201d. Ref. PID2022-136283OB-I00, MCIN\/AEI\/10.13039\/501100011033 y FSE+.






<\/p>","protected":false},"excerpt":{"rendered":"

La violencia de g\u00e9nero se produce como consecuencia de la desigualdad estructural y la discriminaci\u00f3n por raz\u00f3n de g\u00e9nero. La Organizaci\u00f3n de las\u00a0 Naciones Unidas la define como aquellos actos que producen da\u00f1o f\u00edsico, mental o sexual, as\u00ed como \u201camenazas de tales actos, coacci\u00f3n y otras privaciones de libertad\u201d que se cometen contra las mujeres por el hecho de serlo o que las afecte de manera desproporcionada. Se trata de un problema complejo que demanda la atenci\u00f3n y colaboraci\u00f3n entre una gran diversidad de actores.<\/p>","protected":false},"author":8,"featured_media":2635,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[12],"tags":[156,35,164],"class_list":["post-2634","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-investigacion-y-proyectos","tag-chatbot","tag-inteligencia-artificial","tag-violencia-de-genero"],"_links":{"self":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/2634","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/comments?post=2634"}],"version-history":[{"count":2,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/2634\/revisions"}],"predecessor-version":[{"id":2638,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/2634\/revisions\/2638"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media\/2635"}],"wp:attachment":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media?parent=2634"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/categories?post=2634"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/tags?post=2634"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}