Diversidad, Equidad e Inclusión: Hacia una Inteligencia Artificial Inclusiva

Por Mariana Lazos, Líder de Proyectos y Operaciones en PIT Policy Lab.

La Inteligencia Artificial (IA) es un tema que se ha ubicado en el centro del debate político, social y tecnológico. Casi sin darnos cuenta, millones de personas ya somos usuarias de la IA: múltiples aplicaciones como Waze, Spotify, Siri o Alexa, Google y Facebook la han incorporado a sus algoritmos y se apoyan en ella para brindar recomendaciones y mejorar la experiencia de interacción. Sin embargo, en medio de este auge, han surgido voces expresando  preocupaciones ante el desarrollo y despliegue sin consideraciones éticas de la tecnología, lo que podría resultar en conflictos y violencia en el espacio online y offline, la difusión de desinformación y noticias falsas y la amplificación de sesgos.

Es en este contexto que surge la Recomendación sobre la ética de la IA publicada por la UNESCO. Este documento subraya el potencial transformador y las oportunidades que brindan los sistemas de IA, señalando que también existen riesgos de incrementar las desigualdades e infringir Derechos Humanos si no se toman medidas al respecto. 

Al final, las tecnologías no son neutras y detrás de ellas hay una visión determinada y sesgada del mundo, pues son tecnologías programadas por seres humanos y, por ende, hay sesgos inherentes en las mismas. En 2019 un estudio concluyó que, en ese entonces, el desarrollo de sistemas de IA se concentraba en alrededor de 10 mil personas en siete países. Es necesario integrar diferentes cosmovisiones y valores que representen las relaciones que tienen las culturas con la tecnología, incluyendo, por ejemplo, las de los pueblos indígenas. Nos encontramos ante la oportunidad de enriquecer la predominante visión occidental de la IA.

Adicionalmente, se deben identificar los retos para construir una IA más inclusiva que fomente la participación de distintas comunidades. Por ejemplo, contemplar que existe una amplia brecha digital: en el mundo, el número de personas sin acceso a internet supera los 200 millones de personas en edad laboral, y las tasas más altas de desconexión se encuentran en Centroamérica, el Caribe y algunos países de América del Sur. Esta brecha también se ve reflejada en la falta de habilidades digitales para el uso de tecnologías, traduciéndose en desigualdad de oportunidades para incorporarse al ecosistema tecnológico y tendiendo a invisibilizar y excluir a ciertos grupos. Estos datos nos dan pistas para construir procesos para democratizar la IA, tomando en cuenta a las necesidades de cada cultura y/o comunidad y buscando que estas se apropien de las iniciativas. Los principios de inclusión, justicia, autonomía y soberanía deben encontrarse en el centro.

Recientemente, mis colegas Cristina Martínez y Luz Elena González publicaron, desde PIT Policy Lab y en alianza con la UNESCO, el reporte Inteligencia Artificial centrada en los Pueblos Indígenas: Perspectivas desde América Latina y el Caribe. Esta valiosa investigación aborda los desafíos para el desarrollo de una IA ética y justa que incorpore las perspectivas de los pueblos indígenas. Adicionalmente, retoma valiosos casos de uso de Latinoamérica donde la IA ha sido utilizada en proyectos emprendidos a partir de los conocimientos, protocolos y necesidades de los pueblos indígenas.

En diciembre de 2023 tuve la oportunidad de participar en el tercer Foro Global contra el Racismo y la Discriminación de la UNESCO, en la ciudad de Sao Paulo, Brasil, para compartir el trabajo de PIT Policy Lab en la materia y, en particular, de nuestras acciones para construir iniciativas de tecnología más diversas, equitativas e inclusivas, entre ellas, la publicación del paper sobre IA y pueblos indígenas. En el forocoincidí con colegas que trabajan desde diferentes trincheras y regiones para combatir la exclusión sistémica que se vive en ámbitos como el deporte, las artes, los medios de comunicación, la política pública y la educación, entre otros. 

Si bien las +25 actividades del evento contaron con distintos participantes, formatos y temáticas, hubo un mensaje que estuvo presente como hilo conductor a lo largo de los tres días: las soluciones a problemas globales deben pasar por perspectivas locales y regionales, materializándose a través de estrategias multiactor y multisectoriales que no dejen a nadie fuera, ni a nadie atrás. Fue inspirador conocer proyectos y personas que, como nosotras, toman esta firme convicción como brújula para crear impacto en sus entornos. ¡Continuemos avanzando para combatir el racismo y la discriminación desde nuestros distintos ámbitos de acción!