Por Edgar Eduardo Aparicio González, Economista Senior y Operaciones en PIT Policy Lab
Cuando tuve mi primer acercamiento a este concepto, buscando compartirlo con personas servidoras públicas que en menor o mayor grado interactúan con tecnologías para desempeñarse profesionalmente en el campo de la Administración Pública, me fascinó presentarles un marco de referencia para que la práctica en torno a soluciones tecnológicas, tanto de empresas que las desarrollan como de otras organizaciones y personas que las implementan y utilizan, estuviera contenida dentro de lineamientos éticos y de Derechos Humanos (DDHH), con un fuerte componente de inclusión desde la etapa de diseño y un enfoque de mitigación de riesgos. Sin duda elemento toral un curso introductorio a la Tecnología de Interés Público, donde teníamos todos los elementos que se deseaban resaltar: interacciones entre tecnologías emergentes y sociedad, riesgos asociados y un entramado de relaciones y múltiples actores (gobiernos, empresas de tecnología, personas usuarias y otros actores involucrados), campo de cultivo propicio para intervenciones de política pública en el Uso Responsable de la Tecnología (URT).
En esta entrada de blog, me dirijo al público en general para compartirles algunas preocupaciones que justifican la necesidad de pensar en el uso responsable de las distintas soluciones tecnológicas que tocan nuestras vidas. Pretendo coadyuvar a entender a qué nos referimos por URT, reseñar de dónde surge este concepto, cuáles son algunos de sus fundamentos y cómo podemos ponerlos en práctica en el ciclo que va desde el diseño de una solución tecnológica hasta su implementación y utilización. También comentaré algunas implicaciones sobre el URT como un modelo de gobernanza, en particular para un contexto como el de Latinoamérica y el Caribe, así como algunas formas de involucrarnos en la práctica desde nuestras distintas trincheras.
La tecnología no asegura un uso responsable por sí misma
La tecnología no es neutral; sin un marco adecuado de URT se expone a la población usuaria a riesgos que vulneran a determinados grupos o socavan la vida democrática en general, propiciando un entorno digital no seguro para nuestra interacción cotidiana con las tecnologías emergentes, las cuales soportan cada vez más una serie funciones sociales esenciales: la comunicación, la educación y el trabajo, por mencionar algunas. Por ejemplo, el confiar en sistemas de Inteligencia Artificial que pueden contener y amplificar sesgos embebidos, carecer de explicabilidad o sencillamente no representar debidamente a la diversidad humana en toda su expresión, entre otros dilemas éticos asociados sobre los cuales reflexiono aquí, exige que se preste atención al uso ético y responsable de esta tecnología. Otros problemas pueden emerger cuando las tecnologías impulsadas por datos vulneran la privacidad y datos personales de las personas usuarias, incumpliendo las normatividades y estándares nacionales e internacionales vigentes; así como cuando a través de plataformas de redes sociales se difunden noticias falsas, se desinforma o malinforma a la población en torno a temas cruciales para el dominio público, impactando a comunidades globales de millones de personas (aquí algunas alternativas para mejorar dichas plataformas). La lista puede ser exhaustiva pero la noción central permanece: se requiere de un enfoque de gobernanza que permita a todas las partes involucradas ser partícipes del diseño e implementación de tecnología, priorizando el bien común por encima de los intereses económicos.
La tecnología responsable se puede diseñar
Para entender a qué nos referimos con URT, la referencia obligada es la iniciativa del Foro Económico Mundial (WEF), que a través de su Centro para la Cuarta Revolución Industrial, ha estado liderando el proyecto Uso Responsable de la Tecnología, que reúne a una comunidad de expertos de la sociedad civil, gobiernos y empresas para brindar herramientas prácticas para líderes sobre cómo podrían educar y capacitar a sus empleados sobre URT, diseñar su organización para promover un comportamiento y resultados más éticos, y diseñar y desarrollar productos tecnológicos más responsables. Dentro de este grupo de trabajo multidisciplinario se han publicado white papers, casos de uso, herramientas, metodologías innovadoras y otros recursos útiles para promover el URT en el sector privado.
De acuerdo a este enfoque, el URT puede tener dos polos de atracción que orientan los principios de los modelos de gobernanza y las herramientas concretas: la ética y los Derechos Humanos (DDHH). Cada uno con limitaciones, en la práctica, ambos enfoques son complementarios para proponer rutas de decisión y criterios que orienten la acción dentro de todo el Ciclo de Tecnología Responsable. No obstante, existen algunos argumentos para decantarse por los modelos basados en los DDHH, dado que éstos “son universales, vinculantes y accionables, es decir, que presentan un marco claro de acción, generalmente aceptado por gobiernos, empresas y sociedad civil, con responsabilidades tanto de los Estados, como de los actores privados” (Castillo Jiménez y Martínez Pinto, 2021). Si bien aún existen áreas de oportunidad para que las empresas y no sólo los estados sean garantes de estos DDHH en el contexto del desarrollo e implementación de soluciones tecnológicas, se pueden identificar propuestas para operativizar el URT emanadas del grupo de trabajo del WEF (principalmente desarrollados en el Norte Global), así como algunos modelos de gobernanza para América Latina y el Caribe; te invito a conocer más sobre estos modelos, así como un análisis de las oportunidades y desafíos para la política pública en la región, en el artículo Uso responsable de la tecnología en Latinoamérica y el Caribe, el cual puedes encontrar en policylab.tech/publicaciones.
El Ciclo de Tecnología Responsable
Para entender uno de los marcos más generales del URT es necesario remitirse al Ciclo de la Tecnología Responsable, un modelo que permite apreciar las oportunidades y riesgos relacionados con la ética y los DDHH de las tecnología en cuestión, así como la responsabilidad, el control y la influencia que tienen los diferentes actores a lo largo de la cadena de valor de la tecnología (WEF, 2019). Consta de tres momentos o fases, cada una con una serie de preguntas relevantes, acciones y actores, internos y externos a las compañías de tecnología, que pueden involucrarse en una o todas las fases del ciclo. Estas tres fases en el ciclo de vida de la tecnología disruptiva son:
cómo se diseñan y desarrollan;
cómo se implementan y a quién se venden; y
cómo son aplicadas y utilizadas por un individuo o entidad que no sea el creador original.
Fuente: World Economic Forum (2019). Responsible Use of Technology.
En la primera fase de diseño y desarrollo, es relevante preguntarse: cuáles serán los potenciales beneficios y riesgos sociales existentes; cómo pueden prevenirse, mitigarse o remediar los posibles casos de mal uso; incluso, qué lecciones se tienen de productos similares y si estos deberían o no existir. En esta misma etapa, el entrenamiento de los equipos de diseño, el uso de herramientas y metodologías, entre otros cursos de acción, pueden asegurar lograr un pensamiento ético y enfocado en los DDHH desde las etapas iniciales. Si bien el énfasis de la etapa está en las compañías que desarrollan estos productos y en sus propios actores internos (gobierno corporativo, gerentes de producto y proyecto, ingeniería, I+D, legal, políticas públicas y ética, responsabilidad corporativa y sustentabilidad), los inversores, las universidades y los centros de investigación también son actores relevantes.
En la etapa de despliegue y venta, las reflexiones que guían la acción son en cuanto a qué uso le dará el cliente, si es posible o no controlar dicho uso y si debería o no de ofrecerse a ciertos segmentos. La diligencia debida (due diligence) sistemática en materia de DDHH sobre el uso potencial y la realización de diálogos éticos inclusivos se contemplan como acciones empresariales que pueden gestionarse desde los departamentos internos (ventas y marketing, asuntos legales, políticas públicas y ética, responsabilidad corporativa y sostenibilidad, cumplimiento normativo, controles de exportación).
En la etapa de uso y aplicación, nuevamente aparecen preguntas sobre los costos y beneficios sociales de dicha tecnología, los impactos positivos y negativos para los DDHH, y cómo ofrecer retroalimentación para informar nuevas iteraciones de diseño. La realización de evaluaciones de impacto en los DDHH de casos de uso, reales y específicos, así como de diálogos de ética inclusivos, se contemplan como acciones prioritarias para esta fase, donde los actores relevantes ya no son las empresas de tecnología sino consumidores y usuarios finales. Dentro de las empresas, estos actores externos pueden trabajar con los equipos de operaciones, CTO, TI e integradores de sistemas para el logro de las acciones mencionadas.
En suma: de acuerdo a este modelo corresponde a los vendedores definir políticas de uso aceptable de sus productos tecnológicos, establecer listas blancas y negras de consumidores para la comercialización, así como ofrecer entrenamiento y formación para asegurar un uso responsable de éstos; por su parte, corresponde a consumidores entender el impacto potencial a los DDHH de los productos y servicios que utilizan, tomar decisiones respecto a la implementación de determinadas tecnologías y proveer retroalimentación a los proveedores sobre el impacto de estos productos en situaciones de la vida real. No obstante, como un modelo de gobernanza, no se puede dejar fuera la presencia de ciertos actores cuya influencia es transversal a todas las fases del ciclo: las organizaciones de la sociedad civil, los empleados de la empresa, los gobiernos y entes reguladores. Así, este marco para el URT implica que estas acciones se desarrollan dentro de un ecosistema con las siguientes características: transparencia, donde se comparte la ciencia detrás de la tecnología y se aumenta la comprensión sobre cómo esta funciona; con estándares mínimos establecidos sobre cómo debería de ser usada la tecnología; involucramiento de las partes interesadas, comprometiéndose con los titulares de derechos (especialmente las poblaciones vulnerables y los grupos marginados) en todo momento; regulación, políticas y leyes sobre cómo la tecnología puede o no ser utilizada; prospectiva estratégica y análisis de futuros, mediante el despliegue de métodos de diligencia debida en materia de DDHH, diseñados para descubrir puntos ciegos y anticipar futuros inciertos (WEF, 2019).
Involucrarse en la gobernanza para el URT
Si bien este es un primer acercamiento a un campo que actualmente se encuentra en desarrollo, liderado por el trabajo del WEF en alianza con líderes y compañías de alcance global, es necesario reconocer que, como mencionan Castillo Jiménez y Martínez Pinto (2021), la región Latinoamérica y el Caribe presenta una serie de peculiaridades que implican adaptar dichos modelos a la realidad local. Se reconoce que existe un área de oportunidad en la generación y experimentación de éste y otros marcos de URT por parte de las startups y otros emprendimientos de base tecnológica locales; así como el valor que generan las experiencias de empresas multinacionales que han desarrollado buenas prácticas con sus operaciones en la región. Si bien parte de estos antecedentes, encabezados por el Banco Interamericano de Desarrollo (BID) y aliados a través de la iniciativa fAIr LAC son pioneros, aún existe margen para generar más experiencias, probar o desarrollar herramientas nuevas acordes al contexto regional y seguir creando una comunidad de práctica en torno al URT. La apuesta por esta perspectiva es más que pertinente ante el acelerado ritmo de digitalización de la economía y el gobierno, impulsado por la pandemia por COVID-19 y otros cambios estructurales en el sector de Tecnologías de la Información (TI). Los marcos de trabajo del WEF nos permiten identificar el campo de acción para nuestro involucramiento, pues, si bien ante distintas brechas existentes, todas las personas somos usuarias de la tecnología hoy en día. Más que ello, si formas parte de la comunidad de práctica de la Tecnología de Interés Público, el URT es un marco conceptual y metodológico innovador para acompañar el desarrollo de productos, generar políticas públicas y realizar investigación que permita incrementar el acervo de conocimientos y prácticas desde una perspectiva del Sur Global. ¡La tecnología responsable se puede diseñar e implementar con las políticas adecuadas!
Fuentes consultadas:
Castillo Jiménez, E., y Martínez Pinto, C. (2021). Uso responsable de tecnología en Latinoamérica y el Caribe. Ejemplos de modelos y herramientas del Norte y Sur global. Oportunidades y desafíos desde una perspectiva ética y de derechos humanos. CETyS - Centro Latam Digital.
World Economic Forum (2019). Responsible Use of Technology. Disponible en: https://www.weforum.org/whitepapers/responsible-use-of-technology