Por: Mariana Tirado GarcÃa, Evita Silvia Barragán MartÃnez , Héctor Enrique Elorriga Contreras, y José Luis MartÃnez Badillo, en el marco del Curso PIT 101: TecnologÃas emergentes y TecnologÃa de Interés Público impartido como parte del Diplomado en Innovación Pública del INAP México.
Editado por: Alejandra GlÃa Sánchez
En la actualidad, los avances tecnológicos y la innovación están revolucionando rápidamente la manera en que nos desenvolvemos tanto en nuestra vida cotidiana como en el ámbito laboral. Un ejemplo de esto es Chat GPT, una herramienta de Inteligencia Artificial (IA) que puede interactuar con personas usuarias de la plataforma, sostener conversaciones y proveer respuestas detalladas e instantáneas a todo tipo de preguntas, a partir de un entrenamiento basado en grandes cantidades de datos de personas usuarias de internet y otras fuentes de datos.
Los agentes conversacionales, hoy conocidos como bots, son capaces de reconocer la manera en la que una frase está formulada gracias a una serie de patrones comparativos preestablecidos, y de este modo, basándose en las diferentes variables de dicha frase y probabilidades, presentan una respuesta correspondiente. De forma simple, los modelos que habilitan estos agentes predicen la siguiente palabra en una frase, a partir del cúmulo de palabras que le preceden.
Sin embargo, como con cualquier tecnologÃa emergente, es importante considerar las implicaciones éticas. En el caso de Chat GPT y las aplicaciones públicas de modelos de lenguaje para generar respuestas, una de las principales preocupaciones es la protección de datos personales. Dado que esta aplicación produce texto basado únicamente en la entrada y salida de datos generados por un algoritmo, no cuenta con la capacidad de entender los riesgos éticos, los aspectos culturales o las diferentes polÃticas de información que respeten los Derechos Humanos básicos. Como resultado, los gobiernos de las naciones del mundo se encuentran en un espacio donde converge la incertidumbre sobre los impactos no deseables de estas tecnologÃas, y la necesidad de evitarlos; es esencial tener en cuenta que la información personal debe ser protegida de manera prioritaria, tal como solicitó el gobierno de Italia para permitir las operaciones de la plataforma en dicho paÃs.
Además, existe el riesgo de que la información personal pueda ser utilizada por terceros con fines comerciales o de marketing, lo que puede resultar molesto o incluso peligroso para menores de edad o personas que no tengan un pensamiento crÃtico desarrollado. Por ejemplo, el uso de estas herramientas para obtener respuestas concretas y detalladas sobre temas complejos puede reducir el uso del juicio crÃtico por las personas usuarias para determinar si la información obtenida es correcta.
En este contexto, más de 1,000 lÃderes académicos y del sector privado publicaron una carta en la que pidieron una pausa en el desarrollo del entrenamiento de grandes modelos de lenguaje (LLM por sus siglas en inglés) como Chat GPT. Esta pausa permitirÃa que se investiguen y comprendan mejor los potenciales riesgos de la IA generativa y a que se desarrollen protocolos para mitigarlos.
A pesar de estos desafÃos, Chat GPT es una herramienta que puede impulsar las habilidades humanas, contribuyendo -por ejemplo- a un aumento de productividad a través de la automatización de distintas tareas, y que puede ser aprovechada en todo tipo de sectores, pero en particular en la transformación del sector educativo. Sin embargo, como con cualquier herramienta poderosa, es esencial que se utilice de manera responsable.
Si te interesa saber más del tema, te invitamos a leer nuestro trabajo final titulado ChatGPT elaborado por estudiantes del INAP en el marco del Diplomado de Innovación Pública, que incluye recomendaciones de polÃtica pública para el uso ético y seguro de esta plataforma.