• PIT Policy Lab

Una mirada sociológica a la Tecnología de Interés Público

Por Alonso Gutiérrez Olivares, Sociólogo y Consultor en Investigación @ PIT Policy Lab


La tecnología está cada vez más integrada a la vida de las personas. Por un lado, lo podemos ver en el uso que le damos a herramientas para trabajar o interactuar con otras personas, así como en servicios que recibimos y consumimos basados en algoritmos y megadatos. Por otro lado, las personas también dependemos de decisiones de política pública que toman los gobiernos cada vez más apoyadas en herramientas tecnológicas, como la Inteligencia Artificial. De una u otra forma, la tecnología afecta nuestras vidas. Ante esto, es importante no sólo entender cómo se diseñan y usan las herramientas y servicios basados en tecnología, sino también cómo se puede hacer un mejor uso de éstos y responder a los cambios que traen consigo para mejorar la vida de las personas. Para ello, es necesaria una perspectiva interdisciplinaria, como en la que se basa la Tecnología de Interés Público.


De acuerdo con Joyce et al., un problema con el uso de datos a gran escala para la toma de decisiones es que, muchas veces, las personas que los usan no toman en cuenta que los datos sobre un conjunto de personas casi siempre también representan datos sobre desigualdades latentes. Si una persona ignora que un dato como un código postal o registros de salud, entre otros, puede ser también un dato sobre desigualdad de género, raza, clase o estrato social, y utiliza esa información como datos aparentemente neutrales para tomar decisiones por igual para distintos grupos de personas, podría estar contribuyendo a replicar o incluso a intensificar esas desigualdades.


Se han documentado ejemplos que hacen evidente la necesidad de contar con nuevas perspectivas de otras disciplinas para tomar decisiones más allá de las que tienen quienes crean las herramientas para desarrollar soluciones. Esto a raíz de que modelos algorítmicos han provocado consecuencias negativas en la vida de las personas, por ejemplo al negarles el acceso a una vivienda, préstamos o incluso al evaluar personas en contacto con el sistema de justicia. El problema es que los impactos negativos de estas decisiones suelen concentrarse en grupos de personas específicos, restringiéndoles oportunidades injustamente.


Si bien actualmente se ha abierto la conversación sobre cómo los algoritmos o herramientas tecnológicas contienen los sesgos de las personas que los crean, en algunos casos aún suele pensarse que la clave para atender este problema está en eliminar los sesgos individuales con un mejor entrenamiento de la herramienta. Sin embargo, esto tiene algunas limitaciones, principalmente porque atribuye el problema a los individuos cuando en realidad esos sesgos no son resultado de decisiones individuales, sino que forman parte de sistemas sociales dentro de los cuales interactúan los individuos.


Por lo tanto, es importante ampliar la forma en que entendemos, diseñamos y aplicamos soluciones con ayuda de la tecnología que afecta el mundo social y, por lo tanto, a las personas. Para ello, la Tecnología de Interés Público puede ser un marco dentro del cual personas de diversas disciplinas—ingenierías, ciencia de datos y ciencias sociales, entre otras—converjan para proponer soluciones que permitan atender no sólo problemas focalizados, sino también reducir las desigualdades existentes y generar cambios sociales profundos. Todas las personas pueden ser parte del cambio y la Tecnología de Interés Público puede ser un buen medio para empezar a generarlo.


25 views