«Bienvenidos los avances tecnológicos, pero comprendan los límites de este tipo de sistemas»

LEl público en general ha descubierto y se ha fascinado con el poder de ChatGPT, este agente conversacional desarrollado por OpenAI, que recientemente se ha puesto a disposición de forma gratuita en Internet.

ChatGPT es una herramienta de inteligencia artificial (IA) para probar el rendimiento de los modelos de generación de lenguaje más nuevos, llamados Transformers. ChatGPT se puede usar para muchas tareas: resumir un texto, responder preguntas, crear o corregir un programa de computadora, hacer una tarea o incluso simular una interacción con una persona fallecida.

Si bien todos juegan y cuentan con orgullo experiencias «alucinantes», muy pocos se preocupan por los aspectos éticos de estas cajas negras. Por supuesto, debemos saludar el avance tecnológico y el notable rendimiento, pero también debemos comprender las capacidades y los límites de este tipo de sistema.

¿Qué está haciendo ChatGPT? Textos, que digirió gracias a algoritmos… GPT-3 (Generative Pre-trained Transformer 3) es el modelo de lenguaje de ChatGPT, una arquitectura de red neuronal de 175 mil millones de parámetros que utiliza representaciones lingüísticas preentrenadas provenientes de enormes bases de datos (Wikipedia, páginas web) producir textos que imitan el lenguaje humano en varios idiomas. Por construcción, el modelo solo registró información sobre las palabras y partes de palabras y su contexto de aparición.

En el mundo de las “noticias falsas”

Por lo tanto, ChatGPT está capacitado para dar, a partir de una entrada de texto, la siguiente secuencia de las palabras más probables, ¡lo que no es realmente una respuesta a una pregunta! Obviamente, el modelo es lo suficientemente flexible como para no producir siempre el mismo texto. ChatGPT también utiliza el aprendizaje por refuerzo a través de entrenadores humanos que han clasificado varias respuestas alternativas. El modelo está así optimizado a partir de intervenciones humanas.

ChatGPT es un sistema sociotécnico que pesa sobre una gran cantidad de valores éticos. Puede imaginar historias inofensivas o corrosivas: hemos visto historias de conejos… o el diseño de armas.

El peligro más directo de estos sistemas es la posibilidad de inundar el mundo con miles de millones de «noticias falsas», ya que ChatGPT es capaz de invenciones de texto en todo el dispositivo si se juega con él. Luego podría alimentarse con estos nuevos datos artificiales proporcionados en Internet.

Llegaríamos a una increíble digestión de opiniones, conocimientos, bibliografías tal vez falsas por máquinas, amplificando la desinformación en Internet. Todavía es fácil encontrar fallas en ChatGPT en preguntas muy específicas, si se le solicita, es incapaz de razonar y separar lo verdadero de lo falso. Pero es necesario aprender a cuestionar las respuestas del sistema. Prohibir ChatGPT en la escuela podría no ser la mejor solución; aprender a usarlo es sin duda una clave para acelerar nuestra comprensión de estos sistemas y mantener nuestro libre albedrío.

Te queda el 50,33% de este artículo por leer. Lo siguiente es solo para suscriptores.