Por: Alfonso Bernardino Cacique, Lee Gersaín López Sánchez, Adrian Alejandro, Martínez Sánchez y Silvia Valdez López en el marco del Curso PIT 101: Tecnologías emergentes y Tecnología de Interés Público impartido como parte del Diplomado en Innovación Pública del INAP México.
Editado por: Alejandra Glía Sánchez y Catalina del Cueto Pérez
Gracias a los grandes avances tecnológicos que han surgido en los últimos años alrededor del mundo, se ha logrado desarrollar nuevas técnicas y productos que pueden ser utilizados en entornos nunca antes pensados, tales como sistemas de seguridad pública donde se puede implementar tecnología de reconocimiento facial para identificar a personas desaparecidas. Ejemplos como el anterior nos conducen a preguntarnos si se debe permitir que la tecnología penetre ciertos espacios donde su inclusión puede tener consecuencias importantes en la vida de las personas; uno de estos espacios es la seguridad.
Las tecnologías de vigilancia masiva y reconocimiento facial, presentan riesgos significativos para los Derechos Humanos (DDHH), la justicia social y la privacidad individual debido a problemas como los falsos positivos, el sesgo discriminatorio y su uso autoritario. Después del atentado a los Estados Unidos el 11 de septiembre de 2001, hubo una expansión de los poderes de vigilancia del Estado y de la normalización del uso de las nuevas tecnologías en el área de seguridad pública. Sin embargo, la aplicación apresurada de herramientas de vigilancia sin las debidas salvaguardias legales ni rendición de cuentas ha provocado daños documentados y violaciones de los DDHH.
Además del reconocimiento facial, otro ejemplo de tecnologías de vigilancia es la moderación y retiro de contenidos por parte de plataformas de redes sociales como respuesta a la presión gubernamental; esta situación puede afectar la capacidad de la sociedad civil para organizarse y expresar su disidencia, violando la libertad de expresión y asociación. Durante el periodo entre octubre de 2020 y mayo de 2021, en Turquía, el gobierno emitió 658 órdenes para remover contenido de medios de comunicación. En Tailandia, el gobierno presionó a las plataformas de redes sociales para que retiraran contenido crítico hacia la monarquía, especialmente durante las protestas a favor de la democracia que tuvieron lugar en 2020 y también demandó a dichas plataformas por no cumplir con sus solicitudes de eliminación de contenido. Además, durante los enfrentamientos entre Israel y Palestina en 2021, Facebook suprimió erróneamente una gran cantidad de contenido publicado por personas palestinas y sus seguidores que trataba sobre temas de DDHH o documentaba abusos contra los mismos.
Otro ejemplo, justificado bajo el concepto de seguridad,es el caso de China, donde las personas habitantes son observadas constantemente por el gobierno a través de cámaras de seguridad y los celulares. Con ello, el gobierno chino ha podido enfocarse en aquellas personas que considera como una amenaza, al igual que en minorías étnicas, personas con historiales de trastornos psicológicos, inmigrantes, entre otros grupos minoritarios o vulnerables, ya sea que tengan un pasado delictivo o no. Así el Estado puede saber, por ejemplo, si una persona que consume drogas tiene un número telefónico al que contacta frecuentemente para tener indicios de posibles distribuidores de drogas, e incluso predecir futuras protestas. Otras herramientas de espionaje como Pegasus, desarrollada por la israelí NSO Group y utilizada por gobiernos como el de Estados Unidos y México, permiten a los gobiernos espiar a activistas y disidentes sin su conocimiento o consentimiento, violando gravemente la privacidad y suprimiendo las libertades cívicas.
El rastreo gubernamental de las redes sociales y los análisis predictivos suscitan una gran preocupación por la privacidad y la discriminación. El rastreo del contenido de las redes sociales puede obstaculizar la expresión en línea y limitar las libertades de asociación y reunión. Los sistemas predictivos pueden dirigirse de forma desproporcionada a determinados grupos y obstaculizar las libertades cívicas, además de que los algoritmos han tendido a replicar sesgos históricos.
Cabe destacar que aunque China es uno de los proveedores más prominentes de Inteligencia Artificial, países como Japón, Alemania, Francia y Estados Unidos también son importantes proveedores de tecnologías de vigilancia. Por ello, es un error pensar que únicamente los países autoritarios son quienes desarrollan este tipo de tecnologías que afectan los DDHH. En efecto, en el reporte Freedom on the Net 2018, se menciona que las democracias liberales europeas en 2018 ya hacían uso frecuente de controles fronterizos automatizados, vigilancia policial predictiva y sistemas de reconocimiento facial, como en el caso chino.
El uso de tecnologías de vigilancia también está llegando a países del Sur Global, como México. Un ejemplo reciente es el Plan Ángel, presentado por el Canciller y, en ese momento, aspirante a la candidatura presidencial, Marcelo Ebrard. Entre otras cosas, esta propuesta contemplaba colocar cámaras conectadas en todas las escuelas del país, así como en las vías públicas para detectar comportamientos sospechosos y con ello prevenir delitos. También contemplaba la creación de la aplicación “Enlace Ángel Violeta”, que serviría como botón de auxilio y de acompañamiento para atender casos de violencia de género. Ell muro cibernético antiarmas era otro componente del plan, que buscaría controlar el flujo de armas ilegales que entran por la frontera con Estados Unidos y que son usadas para ejercer violencia en el país.
Este plan ha sido revisado cautelosamente por organizaciones civiles, que temen que la tecnología vulnere los DDHH de las y los mexicanos. En efecto, la Red en Defensa de los Derechos Digitales (R3D) afirmó que es peligroso que la propuesta se esté presentando como una solución a la inseguridad y no se evidencian las consecuencias adjuntas a este tipo de tecnologías, como el propiciar arrestos equivocados, su uso para la persecución política y el afectamiento de los derechos de poblaciones históricamente vulneradas. RD3 aseguró que esta tecnología ya ha sido utilizada para perseguir activistas, recordando que en Estados Unidos ha facilitado el seguimiento de manifestantes antirrascistas, mientras que en México ha vulnerado a mujeres activas en el movimiento feminista. Una de las principales preocupaciones en torno al Plan Ángel es la posibilidad de que el Estado militarice los espacios públicos tanto a nivel físico como digital.
Hay mucho en juego en lo que respecta a las consecuencias del uso de las tecnologías de vigilancia y autoritarismo, por lo que es indispensable seguir cuestionando e informándonos sobre el tipo de uso que los gobiernos buscan dar a la tecnología existente y emergente, los recursos con los que cuentan los Estados, así como los beneficios y/o desventajas que esto podría conllevar su aplicación. Es importante debatir si el uso de la tecnología de vigilancia podría afectar el bienestar y la privacidad de las personas. El uso no regulado de estas tecnologías con fines de seguridad plantea riesgos significativos para los DDHH y el espacio cívico. La transparencia, la rendición de cuentas y el debate público son esenciales para establecer las salvaguardias adecuadas y proteger las libertades civiles en la era digital.
Si te interesa conocer más sobre la vigilancia tecnológica, te invitamos a leer el trabajo final titulado “Vigilancia Tecnológica: un Doble Filo entre la Seguridad y la Privacidad”, elaborado por estudiantes del Instituto Nacional de Administración Pública (INAP México) en el marco del Diplomado de Innovación Pública, que incluye recomendaciones de política pública para el uso ético y seguro de este tipo de tecnologías.