{"id":1516,"date":"2021-03-18T11:58:28","date_gmt":"2021-03-18T09:58:28","guid":{"rendered":"https:\/\/itgespub.net\/?p=1516"},"modified":"2021-04-22T12:10:53","modified_gmt":"2021-04-22T10:10:53","slug":"los-limites-de-la-razon-en-el-paradigma-de-la-gobernanza-algoritmica-marcos-tecnologicos-e-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/itgespub.net\/en\/los-limites-de-la-razon-en-el-paradigma-de-la-gobernanza-algoritmica-marcos-tecnologicos-e-inteligencia-artificial\/","title":{"rendered":"Los l\u00edmites de la raz\u00f3n en el paradigma de la Gobernanza Algor\u00edtmica: Marcos Tecnol\u00f3gicos e Inteligencia Artificial"},"content":{"rendered":"

El ser humano no es un ser racional. Al menos no de forma \u201cplena\u201d. A pesar de que desde los inicios de la Modernidad, cient\u00edficos, fil\u00f3sofos y dem\u00e1s pensadores han enmarcado sus obras como el resultado del ejercicio de la raz\u00f3n \u201cpura\u201d, el siglo XX supuso una verdadera revoluci\u00f3n a la hora de entender qu\u00e9 es la raz\u00f3n humana y cu\u00e1les son sus l\u00edmites. Concretamente, a mediados del siglo XX tuvo lugar lo que hoy se conoce con el nombre de \u201crevoluci\u00f3n cognitiva<\/a>\u201d, la cual puso de relieve, con base en estudios psicol\u00f3gicos de car\u00e1cter cient\u00edfico, que la racionalidad humana estaba limitada por estructuras cognitivas. Estas estructuras funcionales y de car\u00e1cter eminentemente pragm\u00e1tico limitan la obtenci\u00f3n y el procesamiento de la informaci\u00f3n disponible en nuestro entorno. Por ello, se concluy\u00f3 que el ser humano se desenvuelve en el mundo siguiendo su propia heur\u00edstica y sesgos. Admitir estas limitaciones cognitivas implica asumir que el ser humano posee una racionalidad limitada<\/a> con la que observa, interpreta y act\u00faa en el mundo.<\/p>\n\n\n\n

Aunque nuestra racionalidad limitada es en parte una cuesti\u00f3n biol\u00f3gica, el contenido de nuestros sesgos y \u201catajos\u201d mentales depende de cuestiones culturales. As\u00ed, nuestros sistemas de creencias, marcos mentales o paradigmas est\u00e1n determinados por nuestro contexto. Esta caracter\u00edstica hace que gran parte del contenido de nuestros marcos sea compartido por aquellos que participan de una misma cultura social, pol\u00edtica, familiar o incluso organizativa. Adem\u00e1s, nuestros marcos mentales incluyen todos los aspectos de la vida humana, incluido el de la tecnolog\u00eda. A trav\u00e9s de todos estos elementos, se ha desarrollado durante las \u00faltimas d\u00e9cadas la noci\u00f3n de marcos tecnol\u00f3gicos<\/a>. Los marcos tecnol\u00f3gicos son todas aquellas asunciones, conocimientos y percepciones (todas ellas limitadas por nuestras estructuras cognitivas) que las personas que componen una organizaci\u00f3n comparten sobre una tecnolog\u00eda.<\/p>\n\n\n\n

\"\"<\/figure><\/div>\n\n\n\n

A pesar de las reticencias iniciales, la aplicaci\u00f3n de las perspectivas socio-cognitivas al estudio de la tecnolog\u00eda en las organizaciones ha demostrado ser un campo muy prol\u00edfero, no solo desde un punto de vista te\u00f3rico, sino con aplicaciones directas en lo que se refiere al funcionamiento de las organizaciones. En el caso de las organizaciones p\u00fablicas, los enfoques socio-cognitivos est\u00e1n ganando cada d\u00eda m\u00e1s relevancia y prometen ser fundamentales a la hora de dise\u00f1ar, implementar y usar nuevas tecnolog\u00edas disruptivas como, por ejemplo, la Inteligencia Artificial (IA), en el sector p\u00fablico. \u00bfPor qu\u00e9? Porque conocer los marcos tecnol\u00f3gicos de los distintos grupos que conforman las administraciones p\u00fablicas, a saber, pol\u00edticos, funcionarios TIC<\/a> y usuarios nos permite entender cu\u00e1les son las ideas, prejuicios y conocimientos que est\u00e1n funcionando dentro de una administraci\u00f3n.<\/p>\n\n\n\n

La congruencia entre marcos tecnol\u00f3gicos es un factor fundamental a la hora de determinar el \u00e9xito con el que se implementar\u00e1, en este caso, la IA en el sector p\u00fablico. Si los pol\u00edticos que promueven la digitalizaci\u00f3n y la transici\u00f3n tecnol\u00f3gica del sector p\u00fablico sostienen marcos tecnol\u00f3gicos respecto a la IA radicalmente distintos a los de los funcionarios TIC, entonces es dif\u00edcil que esta tecnolog\u00eda se implemente con \u00e9xito. De la misma forma, si los usuarios de la IA no la conceptualizan de la misma forma que aquellos encargados de su implementaci\u00f3n, entonces, con toda seguridad, se producir\u00e1n fallos y deficiencias en el uso de la misma.<\/p>\n\n\n\n

Por ejemplo, podr\u00eda ser el caso que, por distintos motivos, los pol\u00edticos entendieran la IA como una tecnolog\u00eda disruptiva que va producir un tr\u00e1nsito hacia una algoritmizaci\u00f3n<\/a> de las administraciones p\u00fablicas y nos adentrar\u00e1 en el nuevo paradigma administrativo de la Gobernanza Algor\u00edtmica<\/a>. Adem\u00e1s, algunos de estos pol\u00edticos podr\u00edan entender, debido a sus propios marcos mentales y sistemas de creencias, que la IA tiene una dimensi\u00f3n \u00e9tica y pol\u00edtica que hay que abordar de manera inmediata si se pretenden evitar las consecuencias negativas del uso de esta tecnolog\u00eda disruptiva (sesgos, opacidad algor\u00edtmica y falta de transparencia, rendici\u00f3n de cuentas, problemas de privacidad, etc.).<\/p>\n\n\n\n

Sin embargo, si los funcionarios TIC a cargo del dise\u00f1o y la implementaci\u00f3n de la IA en el sector p\u00fablico no comparten este marco tecnol\u00f3gico sobre la IA y, por el contrario, la conciben como una tecnolog\u00eda m\u00e1s que simplemente va a permitir ganar eficiencia y eficacia a las administraciones, a trav\u00e9s de un aumento en sus capacidades tecnol\u00f3gicas sin que existan problemas \u00e9ticos rese\u00f1ables, probablemente la IA no se implemente de forma exitosa. Entendiendo por \u00e9xito, no solo que la IA sea viable desde un punto de vista t\u00e9cnico, sino que tambi\u00e9n sea respetuosa con los derechos y libertades de las personas. Finalmente, si pol\u00edticos y TIC no comparten marcos tecnol\u00f3gicos, entonces ser\u00e1n los usuarios de la IA los que sufran las consecuencias de su mala implementaci\u00f3n. No solo a trav\u00e9s de un uso deficiente de las capacidades que ofrece esta tecnolog\u00eda, sino tambi\u00e9n mediante la experiencia en primera persona de los problemas \u00e9ticos<\/a> que de ella se derivan.<\/p>\n\n\n\n

Por este motivo, es fundamental que a la hora de plantearse una transformaci\u00f3n digital de la administraci\u00f3n p\u00fablica, como la que ha propuesto el Gobierno de Espa\u00f1a a trav\u00e9s de su proyecto Espa\u00f1a Digital 2025<\/a> o la Estrategia Nacional de Inteligencia Artificial<\/a>, se trabaje no solo teniendo en cuenta la dimensi\u00f3n tecnol\u00f3gica, sino tambi\u00e9n las consecuencias \u00e9ticas y pol\u00edticas de la nueva gobernanza algor\u00edtmica. Para ello es imprescindible conocer los marcos tecnol\u00f3gicos de las personas que trabajan en la administraci\u00f3n p\u00fablica y as\u00ed determinar sus incongruencias y, en la medida de lo posible, armonizarlas. En este sentido, es necesario, por un lado, legislar al respecto, y, por otro lado, que todas las personas involucradas reciban formaci\u00f3n, tanto en competencias tecnol\u00f3gicas como en los retos humanos que implica el uso de las nuevas tecnolog\u00edas. El principal reto de la transformaci\u00f3n digital que ya est\u00e1 viviendo Espa\u00f1a no es solo de naturaleza tecnol\u00f3gica, que tambi\u00e9n, sino, y principalmente, de car\u00e1cter \u00e9tico y pol\u00edtico. Se trata de usar la IA para tener administraciones p\u00fablicas m\u00e1s eficientes y eficaces, que al mismo tiempo sean m\u00e1s justas e igualitarias. Se trata de usar la tecnolog\u00eda para superar las limitaciones humanas en aras del bien com\u00fan.<\/p>\n\n\n\n

Luc\u00eda Ortiz de Z\u00e1rate Alcarazo. <\/strong>Investigadora predoctoral FPI-UAM y Candidata a Doctora en la Universidad Aut\u00f3noma de Madrid (UAM).<\/p>","protected":false},"excerpt":{"rendered":"

El ser humano no es un ser racional. Al menos no de forma \u201cplena\u201d. A pesar de que desde los inicios de la Modernidad, cient\u00edficos, fil\u00f3sofos y dem\u00e1s pensadores han enmarcado sus obras como el resultado del ejercicio de la raz\u00f3n \u201cpura\u201d, el siglo XX supuso una verdadera revoluci\u00f3n a la hora de entender qu\u00e9 es la raz\u00f3n humana y cu\u00e1les son sus l\u00edmites.<\/p>","protected":false},"author":8,"featured_media":1517,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[22],"tags":[41,35,57],"class_list":["post-1516","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinion","tag-gobernanza-algoritmica","tag-inteligencia-artificial","tag-marcos-tecnologicos"],"_links":{"self":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/1516","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/comments?post=1516"}],"version-history":[{"count":0,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/posts\/1516\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media\/1517"}],"wp:attachment":[{"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/media?parent=1516"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/categories?post=1516"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/itgespub.net\/en\/wp-json\/wp\/v2\/tags?post=1516"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}