En los artículos anteriores explicamos brevemente el funcionamiento de Chat GPT y sistemas similares conocidos como Large Language Models (LLMs). Dijimos que estos modelos son “entrenados” con grandes cantidades de texto y “aprenden” como completar una frase, que puede ser una pregunta.
En el caso de Chat GPT, según un artículo de la BBC, este texto de entrenamiento incluye 560GB de libros, webpages, artículos de Wikipedia y otros textos de la internet con un total de mas de 300 mil millones de palabras. (Hughes, 2023)
Esto incluye un conocimiento enorme de una gran cantidad de temas. Para comparación, la enciclopedia británica con 32 volúmenes tiene “solo” 44 millones de palabras.
Sin embargo, a diferencia de sistemas como una base de datos o un buscador de internet, este conocimiento no está guardado en el sistema, listo para ser recuperado y entregado al usuario de la misma forma cada vez que se hace una consulta.
Chat GPT lo que hace es generar una respuesta cada vez que se le hace una consulta, identificando según su entrenamiento, cuales serian las palabras o frases que mejor completarían la consulta.
Entender esto es muy importante, ya que implica lo siguiente:
Primero: Como chatGPT genera un texto que complete la frase que se le dio como pregunta, esta respuesta cambiará dependiendo de la forma en que se exprese la pregunta.
- User: cuando es el cumpeaños de benito juarez
- ChatGPT: El cumpleaños de Benito Juárez es el 21 de marzo.
Y
- User: dime el cumpleaños de benito juarez
- ChatGPT: El cumpleaños de Benito Juárez, el destacado político y expresidente de México, es el 21 de marzo.
Segundo. Chat GPT genera la respuesta dependiendo de lo que aprendió es adecuado para el “tema” al que corresponde el texto pregunta. Sin embargo, es posible combinar temas dentro de la pregunta, para ir guiando la respuesta hacia algo mas adecuado a nuestras necesidades.
En el siguiente ejemplo, al solicitar una respuesta para una tarea, ChatGPT agrega un poco más de información.
- User: nacimiento de benito juarez, para mi tarea
- ChatGPT: Benito Juárez nació el 21 de marzo de 1806 en San Pablo Guelatao, Oaxaca, México.
Tercero. Como ChatGPT genera texto basado en la predicción de su red neuronal con cierta frecuencia genera resultados erróneos o “inventados” y no tiene forma de determinar que algo que genera es “correcto” o cierto. El sitio Web de ChatGPT nos advierte: “ChatGPT puede producir información incorrecta sobre personas, lugares o hechos” [Traducido de (Open AI, 2023)]
- User: dame una tarea escolar del nacimiento de Benito Juarez en rima
- ChatGPT: En un pueblito de Guelatao, nació
Benito Juárez, con alma de valor.
Un cinco de marzo, año dieciocho,
Llegó al mundo, destino inmenso y cierto.
Esta última consulta produce un resultado inesperado. Notamos que el verso parece decir que Benito Juárez nació el cinco de marzo de 1818 lo cual es falso. Mas curioso aún, este tipo de errores no son fácilmente repetibles. Yo no he podido repetir este error nuevamente incluso utilizando la misma secuencia de preguntas.
Cuando los sistemas como ChatGPT generan información inventada, se dice que están “alucinando” y a la información errónea se le llama “alucinación”.
En conclusión, una forma simplista de entender el conocimiento de Chat GPT es como si fuera un asistente que ha leído enciclopedias completas, conoce de muchísimos temas, pero que no tiene una memoria perfecta por lo que en ocasiones inventa respuestas erróneas.
En el siguiente articulo veremos algunos de los usos que ya se están dando a ChatGPT y sistemas similares, así como que tanto afecta su uso el hecho de que puedan proporcionar información incorrecta.
Referencias
Hughes, A., 2023. ChatGPT: Everything you need to know about OpenAI’s GPT-4 tool. [Online]
Available at: https://www.sciencefocus.com/future-technology/gpt-3/
[Accessed 22 july 2023].
Open AI, 2023. Chat GPT. [Online]
Available at: https://chat.openai.com/
[Accessed 18 7 2023].
