Los puntos de encuentro entre Estado y ciudadanía se están redefiniendo con la digitalización de nuestras sociedades. Dentro de esta dimensión relacional del sector público, los sistemas de inteligencia artificial (IA) se han ido incorporando de una forma cada vez más intensa en diferentes tipos de organizaciones y áreas funcionales. Particularmente, los chatbots, asistentes virtuales capaces de mantener interacciones automatizadas mediante modelos de lenguaje natural, constituyen una de las principales herramientas basadas en IA para la interacción directa entre ciudadanía y administraciones públicas. Entre los argumentos para sostener su adopción, se incide en aspectos ligados a la eficiencia, tales como la idea de una atención 24/7 y la optimización de procesos administrativos, permitiendo con ello que el personal público pueda disponer de más tiempo para focalizarse en casos de atención compleja o fuera de lo convencional. Desde nuestro Lab_ITGesPub, y en el marco del proyecto “Abriendo la caja negra de la gobernanza pública mediada por algoritmos. Implicaciones de la Inteligencia Artificial en gobiernos, servicios públicos y personas” (AI_PUBLICGOV), estamos abordando este fenómeno desde diferentes perspectivas, si bien aquí mostramos los avances de dos investigaciones complementarias: una de carácter teórico-conceptual, orientada a caracterizar estos sistemas desde una perspectiva sociotécnica y examinar los riesgos asociados a su diseño e implantación; y otra de carácter analítico, centrada en comprender quién los utiliza, con qué propósitos, bajo qué condiciones y con qué efectos esperados. Ambos estudios permiten no sólo conocer el estado de situación de las relaciones Estado-ciudadanía mediante este nuevo canal, sino también profundizar en algunas de las cuestiones clave en torno a las tecnologías basadas en IA en lo público.
Asistentes virtuales en el sector público: ¿qué sabemos?
El primer estudio, publicado en Journal of e-Democracy and Open Government (disponible en abierto aquí), lleva por título “Conceptualising Chatbots in the Public Sector: A Socio-Technical Assessment of their Dark Side through a Systematic Literature Review”. Este trabajo propone un abordaje teórico sobre los asistentes virtuales en clave sociotécnica, asumiendo que, más allá de su indiscutible carácter tecnológico, se trata de sistemas integrados en organizaciones que interaccionan con personas, realizan tareas y manejan expectativas acerca de cómo el sector público está reconceptualizando la comunicación institucional. Este constata el estado del arte sobre los asistentes virtuales en el sector público, y nos permite identificar, entre otras cuestiones, que se trata de un ámbito de análisis relativamente reciente, con orientación principal al nivel local de gobierno y que, de manera preferente, se centra áreas de acción pública relacionadas con la salud, la educación y la atención en procesos administrativos. También, hemos observado una tendencia a experimentar con el prototipado de asistentes virtuales a través de la ciencia del diseño (design science, en inglés) para probar su funcionamiento en entornos institucionales reales. También existe un “lado oscuro” de los chatbots, dado que se han observado diferentes riesgos de adopción e implementación, entre ellos, una significativa brecha de género en su diseño: un porcentaje significativo de estos sistemas incorpora nombres, voces o elementos visuales/morfológicos femeninos, asociando esta actividad de asistencia a las mujeres. . También cabe apuntar aquí la relevancia de la potencial deshumanización de las relaciones Estado-ciudadanía, a partir de nuevos intermediarios digitales que amenazan con sortear los canales de atención personales de las organizaciones públicas.
Utilizamos estos hallazgos para construir una discusión acerca de cuatro aspectos clave del diseño y puesta en marcha de los asistentes virtuales en el sector público. El primero es cómo pasar de la experimentación a una integración tecnológica y organizativa estable en el sector público, superando la fase piloto para incorporar los chatbots de forma sostenible y madura en los servicios y procesos administrativos. El segundo consiste en comprender cómo estas herramientas reconfiguran el trabajo público, qué sucede con el personal público encargado de realizar las tareas que ahora automatizan los chatbots, y quién se encarga de supervisar su correcto funcionamiento. El tercero de los puntos es la actual dependencia de proveedores privados, que podría limitar la autonomía de las administraciones públicas y nos debería hacer reflexionar acerca de quién controla realmente el funcionamiento de estas tecnologías que forman parte de esta dimensión relacional clave para el Estado. Y, finalmente, el cuarto aspecto tiene que ver con el diseño social de las propias interacciones donde se influye de manera directa en la relación con la ciudadanía y se podrían llegar a reproducir estereotipos, generar experiencias deshumanizadas o incluso afectar a la confianza en las instituciones públicas.
Un uso creciente de los asistentes virtuales, ¿también mejores resultados?
El segundo estudio, publicado en la revista Information Polity, se titula “Unveiling the Dynamics of Chatbot Utilization in the Public Sector: A Framework of Users, Types, Conditions and Effects” (disponible en abierto aquí). En este trabajo se evita el optimismo tecnológico que envuelve algunas de las aproximaciones a estos sistemas, desafiando la idea de que su mera implementación traerá consigo determinados beneficios para las administraciones públicas, entre ellos, los relativos a eficiencia o eficacia. En este trabajo se construye un marco analítico (ver figura 1) articulado en torno a cuatro dimensiones interrelacionadas de estos dispositivos en las organizaciones públicas: quiénes son los usuarios de los chatbots, qué tipos de uso se les adjudica, cuáles son las condiciones que median su utilización, y cuáles son los efectos potenciales que pueden producir. Entre las conclusiones de este trabajo, observamos que el uso más extendido se relaciona con la provisión de información pública a la ciudadanía, aunque también encontramos aplicaciones vinculadas a la prestación de servicios, la realización de transacciones administrativas y el almacenamiento y análisis de datos. Asimismo, el estudio permite ampliar la mirada más allá de las interacciones Estado-Ciudadanía, identificando cómo los propios empleados públicos pueden recurrir a estos dispositivos, por ejemplo, para supervisar conversaciones, evaluar la calidad de las respuestas y detectar preocupaciones ciudadanas que puedan requerir intervenciones sobre políticas o servicios públicos.
A partir de estos hallazgos, planteamos que la incorporación de chatbots no garantiza por sí misma una mejora en el funcionamiento de las administraciones públicas ni en la relación con la ciudadanía. Por un lado, la evidencia disponible identifica efectos potenciales relacionados con una mayor transparencia y acceso a la información pública, el apoyo a la implementación de políticas y la toma de decisiones, así como mejoras en la eficiencia y la calidad de los servicios. Sin embargo, la materialización de estos resultados depende de factores que van más allá de las capacidades técnicas de los sistemas, tales como su diseño y funcionamiento, las competencias y percepciones de las personas usuarias, la confianza que generan y las condiciones organizativas, jurídicas e institucionales en las que se integran. Esto nos lleva a preguntarnos hasta qué punto los beneficios atribuidos a estas tecnologías se producen efectivamente en la práctica y si lo hacen de la misma manera para todos los colectivos y en todas las áreas de acción pública. La automatización, por ejemplo, puede terminar trasladando cargas de trabajo a otras unidades administrativas o generar experiencias deshumanizadas cuando sustituye, en lugar de complementar, la atención humana. En cualquiera de los casos, la evidencia empírica acerca de beneficios-costes que pueden generar los chatbots es todavía limitada.
Hacia una nueva perspectiva sobre los asistentes virtuales en el sector público
Los estudios presentados ofrecen una visión crítica sobre la incorporación de chatbots en el sector público, cuestionando la aparente neutralidad de la transformación digital y el predominio de un discurso centrado en la eficiencia administrativa. De hecho, aquí vuelven a plantearse algunas preguntas sobre el diseño, adopción, implementación y gestión de sistemas de IA y, en concreto, los asistentes virtuales en las administraciones públicas: ¿cuáles son los objetivos que están detrás de la puesta en funcionamiento de estos dispositivos? ¿Quién decide sobre su diseño, condiciones de adopción, funcionalidades o público objetivo? ¿Qué nuevos desafíos se plantean como consecuencia de su incorporación en la relación Estado-Ciudadanía? Las respuestas a estas preguntas van más allá del nivel de eficiencia que pueda alcanzarse a través de la automatización basada en IA, dado que ¿es deseable cualquier mejora en términos de rendimiento si implica transformar las formas actuales de interacción con la ciudadanía, reducir la atención humana o trasladar responsabilidades públicas a actores privados? ¿Qué valores orientan estas decisiones y quién queda fuera de la conversación en torno a los chatbots? ¿Aparecerán nuevas brechas digitales como consecuencia de la incorporación de asistentes virtuales en el sector público? Detrás del lenguaje aparentemente neutral de la modernización tecnológica de las administraciones públicas subyacen decisiones que determinan qué modelo de Estado deseamos. El debate, por tanto, trasciende la pregunta de si los chatbots funcionan o no. En última instancia, se invita a elevar la mirada sobre las consecuencias políticas y sociales de la transformación digital de lo público y acerca del papel que juegan los chatbots en la nueva dimensión relacional de gobiernos y administraciones públicas, incluyendo aquí sus implicaciones para los valores públicos, la relación Estado-Ciudadanía o el propio sentido de la democracia.
La imagen de portada ha sido reutilizada de: Nadia Nadesan & Digit / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/
J. Ignacio Criado. Profesor titular (catedrático acreditado) de Ciencia Política y de la Administración. Departamento de Ciencia Política y Relaciones Internacionales. Director, Lab Innovación, Tecnología y Gestión Pública (ITGesPub), Grupo de Investigación, Universidad Autónoma de Madrid.
Carlos Jiménez Cid, Investigador predoctoral. Departamento de Ciencias Políticas y Relaciones Internacionales, y miembro del Lab IT_GesPub (Innovación, Tecnología y Gestión Pública), Universidad Autónoma de Madrid.
Este post se ha realizado con el apoyo del Proyecto del Ministerio de Ciencia, Innovación y Universidades “Abriendo la caja negra de la gobernanza pública mediada por algoritmos. Implicaciones de la Inteligencia Artificial en gobiernos, servicios públicos y personas (#AIPublicGov)”. Ref. PID2022-136283OB-I00, MCIN/AEI/10.13039/501100011033 y FSE+.
