La memoria que recuerda y que olvida

En el escalón anterior vimos que los mandos del modelo se ajustan una vez, en el entrenamiento, y luego se quedan quietos: el modelo sabe del mundo hasta su fecha de corte y, por defecto, no guarda tus charlas dentro. Esa es una memoria. Pero hay otras dos en juego cada vez que escribes, y confundirlas lleva a pedirle al chat cosas que no puede dar. Cuando aprendí a separarlas, dejé de sorprenderme de que a veces "se acordara" de algo y a veces no.

Tres memorias que la gente mezcla

Hay tres cosas distintas que llamamos "memoria" sin querer, y conviene tenerlas apartadas.

La primera ya la conoces: lo que el modelo aprendió en el entrenamiento. Está cocido en sus parámetros, es fijo y es igual para todos los que usan ese modelo. No cambia porque tú le hables.

La segunda es lo que el modelo tiene presente dentro de esta conversación: el hilo que vais escribiendo tú y él. Mientras chateáis, cada vez que responde vuelve a leer todo lo dicho hasta ese momento. Esa es la memoria de la charla, y dura lo que dura la charla.

La tercera es la que más despista: una memoria entre conversaciones que algunos chats guardan aparte, para acordarse de ti de un día para otro. No la tienen todos, y cuando la tienen, la controlas tú. Son tres cosas que funcionan distinto, y casi todo el lío viene de meterlas en el mismo saco.

La conversación cabe en una ventana

Quédate primero con la segunda, la de dentro de la charla, porque es la que más usas sin darte cuenta. Vimos en el primer escalón que el modelo no recupera una respuesta guardada: la construye leyendo el texto que tiene delante. Pues ese "texto que tiene delante" es toda vuestra conversación hasta ese punto. Tu primer mensaje, su respuesta, tu segundo mensaje, lo que él contestó, y así hasta el último. Cada vez que pulsas enviar, vuelve a pasar la vista por el hilo entero antes de escribir.

Por eso da la sensación de que "se acuerda" de lo que le dijiste tres mensajes atrás: no es que lo recuerde como una persona, es que lo está releyendo. Si al principio de la charla le dijiste que escribías para niños, lo sigue teniendo a la vista y ajusta el tono. No hay magia; hay relectura.

Pero esa relectura tiene un límite. El modelo solo puede mirar una cantidad determinada de texto de una vez, como un campo de visión que no se estira. A ese campo se le llama la ventana de contexto: el trozo de conversación que le cabe leer de golpe. Mientras la charla es corta, entra entera y todo va bien.

Lo que se sale por el borde

El problema asoma en las conversaciones largas. Cuando el hilo crece más de lo que esa ventana abarca, algo tiene que quedarse fuera, y lo que se queda fuera es lo más antiguo: los primeros mensajes. No los borra a propósito ni se distrae. Es que, sencillamente, ya no le caben en el campo de visión.

Y aquí viene el efecto curioso. Si en una charla muy larga habías acordado algo al principio —que te trataras de usted, que evitara cierta palabra, un dato que le diste— puede que de pronto lo "olvide" y vuelva a las andadas. No es un fallo ni un despiste: es que ese trozo del principio se ha salido de la ventana y el modelo ya no lo está leyendo. Para él, es como si nunca lo hubieras dicho, porque solo existe lo que tiene delante en este momento.

Saber esto cambia cómo llevas las charlas largas. Cuando notes que el chat "pierde el hilo" de algo que le dijiste hace mucho, no es que se haya vuelto torpe: es que aquello ya no le cabe. La solución es sencilla y la veremos pronto: recordárselo, repetir lo importante para volver a meterlo dentro de la ventana.

La memoria que vive entre charlas

Vamos con la tercera, la que da más juego y más confusión. Por separado del hilo de la conversación, algunos productos —ChatGPT es el ejemplo más conocido— ofrecen una memoria que guarda datos tuyos y los reutiliza en futuras conversaciones, aunque sean otro día y otro chat distinto.

Funciona así: si en una charla le cuentas algo que parece útil para más adelante —que eres vegetariano, cómo te llamas, que escribes en tono formal—, el sistema puede apuntarlo en esa memoria sin que se lo pidas. Y la próxima vez que abras un chat nuevo, lo tiene en cuenta. Por eso a veces parece que "se acuerda de ti": no es que el modelo haya cambiado, es que le están pasando esas notas guardadas junto a tu nuevo mensaje. También puedes pedírselo a propósito: "recuerda que soy vegetariano cuando me sugieras recetas", y lo anota.

Y esto lo controlas tú. Según la propia OpenAI, puedes ver la lista de lo que ha guardado, editarla, borrar recuerdos sueltos o borrarlo todo, y desactivar la memoria por completo desde la configuración. No es una caja negra: es una lista que puedes abrir y revisar cuando quieras.

Notas, no copias

Hay un matiz que evita un malentendido grande. Lo que esa memoria guarda no son copias literales de vuestras conversaciones. Son notas de alto nivel: apuntes cortos del estilo "es vegetariano" o "se llama Marta", no la transcripción de lo que hablasteis. La propia documentación de OpenAI avisa de que la memoria está pensada para preferencias y detalles generales, no para almacenar plantillas exactas ni grandes bloques de texto al pie de la letra.

Eso explica las dos creencias falsas que conviene tumbar a la vez. Ni el chat "se acuerda de todo lo que le has dicho alguna vez", porque solo guarda esas notas sueltas y solo si la memoria está activada; ni "lo olvida todo en cuanto cierras", porque si la memoria está puesta, algunos datos sobreviven a la conversación. La verdad está en medio, y depende de un ajuste que está en tus manos.

Y si en algún momento no quieres que guarde nada —una consulta que prefieres que no deje rastro—, tienes la puerta abierta: existe el chat temporal, que no escribe en la memoria, o puedes desactivar la función. De ese terreno, el de qué se guarda y cómo se protege tu privacidad, me ocupo más adelante; aquí basta con saber que la opción existe.

Si importa, tenlo a mano

De todo esto sale una costumbre práctica que vale para casi cualquier chat. Si un dato es importante para la respuesta que esperas, no des por hecho que el modelo lo recuerda: tenlo a mano y repítelo cuando haga falta. En una charla larga, porque el principio puede haberse salido de la ventana. Entre charlas, porque quizá la memoria no estaba activada o no apuntó justo eso. Repetir lo que importa no es desconfianza; es trabajar con la herramienta tal como es.

Hasta aquí parece que, mientras todo le quepa en la ventana, el modelo está leyendo siempre el mismo hilo. Y sin embargo, si le haces dos veces la misma pregunta dentro de esa misma charla, puede contestarte cosas distintas. Si lee lo mismo, ¿por qué no responde lo mismo? Ese es el siguiente escalón.

Definiciones

- Ventana de contexto: el trozo de conversación que el modelo puede leer de una sola vez para responder. Tiene un tamaño limitado; lo que no cabe se queda fuera. - Memoria de la conversación: lo que el modelo "tiene presente" dentro de un mismo chat. No es que lo recuerde: es que relee todo el hilo cada vez que contesta, mientras le quepa en la ventana. - Memoria entre conversaciones: la función, opcional y controlable, que algunos chats (como ChatGPT) ofrecen para guardar datos tuyos y reutilizarlos en charlas futuras distintas. - Nota de alto nivel: lo que esa memoria guarda de verdad. Un apunte corto sobre una preferencia o un dato tuyo, no una copia literal de lo que hablasteis. - Chat temporal: la opción de conversar sin que nada se escriba en la memoria entre conversaciones, para cuando no quieres dejar rastro.

Para saber más

- OpenAI Help Center, What is Memory? — explicación oficial de qué guarda ChatGPT entre conversaciones y cómo se controla. https://help.openai.com/en/articles/8983136-what-is-memory - OpenAI, Memory and new controls for ChatGPT — anuncio divulgativo de la función, con ejemplos de qué recuerda y qué no. https://openai.com/index/memory-and-new-controls-for-chatgpt/ - Xataka, Memorias de ChatGPT: qué son y cómo gestionar o borrar los datos clave que recuerda sobre ti — guía en español, paso a paso, para ver, editar y desactivar la memoria. https://www.xataka.com/basics/memorias-chatgpt-que-como-gestionar-borrar-datos-clave-que-recuerda-ti-usa-todos-chats