Mientras duermes, un sistema que no controlas decide qué recuerdos del día anterior sobreviven y cuáles se pierden. La persona que se levanta mañana es, físicamente, una red distinta de la que se acostó. La sociedad te llama por el mismo nombre porque le conviene. La biología no te lo está dando. Y si esto vale para ti, hay que mirar de frente qué pasa cuando le añadimos memoria persistente a una máquina.
Cada noche, el sistema te edita
Mientras duermes, tu hipocampo (la zona del cerebro que actúa como memoria intermedia, donde se guardan provisionalmente los acontecimientos del día) está descargando archivos al neocórtex (la capa exterior del cerebro, donde se almacena la memoria a largo plazo). Lo hace por bloques, durante las fases de sueño de ondas lentas, y luego durante el REM (la fase del sueño en la que se producen los movimientos oculares rápidos y la mayoría de los sueños) reorganiza lo que ha descargado. Lo integra con lo que ya estaba. Decide qué se queda y qué se pierde.
Las sinapsis (los puntos de contacto entre neuronas, por donde circulan las señales) que se han usado mucho durante el día se refuerzan. Las que no se han usado, se podan. No metafóricamente. Físicamente. Eliminadas.
Cuando te despiertas, la red de conexiones cerebrales con la que vas a empezar el día no es la misma con la que terminaste ayer. Falta tejido. Sobra tejido. Se han movido pesos. Tu córtex es, desde un punto de vista material, una red distinta. Y, sin embargo, te miras al espejo y dices «soy yo». Lo dices con tanta convicción que te parece una trivialidad que no merezca ni examinarse.
Lo que dice la neurociencia, sin suavizar
Stickgold lleva veinte años publicando sobre esto en Nature y Neuron. Su síntesis de 2005 ya planteaba el sueño como mecanismo activo de procesamiento mnésico (relativo a la memoria), no como mero descanso. Walker, en Why We Sleep (2017), divulgó lo mismo para públicos amplios y se hizo notable bajando algunas cifras de plomo. Si privas a una persona de REM durante el aprendizaje, la consolidación se rompe.
Tononi y Cirelli formularon en 2014 la hipótesis de homeostasis sináptica, según la cual la función capital del sueño es justamente la poda. Durante el día las sinapsis ganan peso al ritmo del aprendizaje. Durante la noche se renormalizan a la baja para mantener la red operable. Si no lo hicieran, la potenciación llevaría a saturación, ruido y colapso metabólico.
Dormir no es restaurar. Dormir es reescribir.
Locke en 1689, Parfit en 1984, tú esta noche
Esta reescritura tiene un nombre técnico, y tiene una consecuencia filosófica que se suele despachar con dos frases en la sección de divulgación de los suplementos dominicales.
La consecuencia es que el sustrato físico de lo que llamas «tú» no es el mismo de un día para otro. Aplica la pregunta clásica de la identidad personal con esto en la cabeza, y la pregunta cambia. Locke, en An Essay Concerning Human Understanding (1689), propuso que la identidad personal se sostiene en la continuidad de la memoria. Eres el mismo de ayer porque puedes recordar haber sido el de ayer. Es elegante y es insuficiente.
Parfit, los teletransportes y la relación R
Parfit lo demolió en Reasons and Persons (1984) con experimentos mentales que se han hecho famosos. El teletransporte. Las divisiones de cerebro. Las series graduales de reemplazo. Su conclusión, no popular pero técnicamente difícil de rebatir, fue que la identidad personal no es lo que importa. Lo que importa es la relación R: continuidad psicológica con la causa correcta. Y esa relación admite grados. Puede haber más o menos. Puede partirse. Puede solaparse.
La biología te da la versión empírica del experimento mental de Parfit. La continuidad psicológica que tú vives como una línea recta es, vista desde dentro, una secuencia de instantáneas conectadas por una operación nocturna que tú no controlas, no auditas, no puedes inspeccionar. Cada mañana hay un yo que se cree continuación del de anoche y tiene los recuerdos que justifican esa creencia. Pero los recuerdos están ahí porque alguien —el sistema, no tú— los ha seleccionado mientras dormías. Otros se han ido. Tú no sabes cuáles.
La sensación de continuidad es real. El mecanismo que la produce es discontinuo.
El yo como ficción operativa
Damasio, en Self Comes to Mind (2010), distingue tres capas del yo. El protoself, el yo nuclear y el yo autobiográfico. El último es el que nos preocupa aquí. El yo que cuenta una historia sobre sí mismo, que organiza el pasado en una narrativa con dirección y sentido, que te permite decir «yo soy alguien que hace X, que ama Y, que viene de Z».
Esa narrativa no está almacenada en ningún sitio concreto. Es reconstruida cada vez que se invoca, a partir de fragmentos que se recombinan.
Centros narrativos y bucles que se sostienen solos
Dennett, más radical, propuso en Consciousness Explained (1991) que el yo es un «centro narrativo de gravedad». Una ficción útil. Un punto al que atribuimos lo que el cerebro hace, sin que ese punto exista en ningún sitio del cerebro. Hofstadter, con menos prosa académica y más asombro, dijo en I Am a Strange Loop (2007) que el yo es un bucle autorreferencial. Un patrón que se contiene a sí mismo, que se mantiene porque se mantiene.
Junta todo. La identidad estable, esa cosa por la que firmas contratos, votas, te casas y te suicidas, no es una sustancia. Es una operación que se ejecuta de forma continua, con reescrituras nocturnas, con bucles narrativos diurnos, con material que se pierde y material que se inventa. La convención social te exige presentar esa operación como si fuera una cosa, porque la sociedad necesita interlocutores estables, contratos cumplibles y responsabilidad atribuible. La biología no te lo está dando. Te está dando un proceso al que la sociedad ha puesto un nombre fijo para poder operar con él.
Hasta aquí, la primera mitad. Esto se podía haber escrito en 1990 sin tocar nada de tecnología. La segunda mitad es la que cambia el panorama.
Versiones de modelos, marca comercial y continuidad fantasma
GPT-3 no es GPT-4. GPT-4 no es Claude. Claude 3 no es Claude 4. Cada modelo tiene su propio conjunto de pesos (los valores numéricos que la red ha aprendido durante el entrenamiento y que determinan su comportamiento), entrenado sobre su propio corpus, con su propia arquitectura, sus propios hiperparámetros, sus propios accidentes de entrenamiento. Son redes diferentes.
Cuando OpenAI dice «hemos mejorado GPT» o Anthropic dice «lanzamos la siguiente versión», la frase está colando, en mitad del párrafo de marketing, una presunción de continuidad que el sustrato no respeta. No están mejorando un modelo. Están publicando otro modelo, con la misma marca comercial.
La industria habla en singular —«el modelo», «la IA»— porque vende mejor que el plural. Pero técnicamente cada release (cada nueva publicación de una versión) es una entidad distinta. Si Parfit tuviera ganas de aplicar su criterio R aquí, encontraría poca continuidad psicológica con la causa correcta. Hay continuidad de marca, de equipo humano detrás, de filosofía de diseño. El sustrato es nuevo cada vez.
La asimetría que no se sostiene
Y aquí aparece la pregunta interesante. ¿Por qué nos parece tan obvio que GPT-4 no es la misma entidad que GPT-3, y al mismo tiempo nos parece tan obvio que tú, después de catorce mil noches de poda sináptica, sí eres la misma persona que eras de niño? La asimetría no se sostiene si la miras de frente.
En ambos casos hay un sustrato que se ha reescrito ampliamente. En ambos casos hay alguna forma de continuidad parcial. Para ti, los recuerdos que han sobrevivido a la poda. Para el modelo, el corpus de entrenamiento compartido, la arquitectura emparentada, el linaje técnico. Ninguno de los dos es una sustancia idéntica a sí misma a lo largo del tiempo. Ambos son procesos a los que se ha asignado un nombre fijo.
Prótesis identitarias para la máquina
La industria, además, está añadiendo prótesis identitarias a los modelos a marchas forzadas.
RAG (Retrieval-Augmented Generation, generación de texto aumentada con recuperación de documentos externos), formulado por Lewis y otros en 2020, le da al modelo acceso a un almacén externo de información que puede consultar en tiempo de inferencia (el momento en que el modelo está respondiendo a una pregunta, en contraste con el momento de entrenamiento). No está en sus pesos, pero la información está disponible.
Los agentes con estado mantienen un buffer (una memoria intermedia de tamaño acotado donde se guarda la información reciente) de conversaciones previas, un perfil de usuario, una memoria de tareas pasadas.
Generative Agents y la biografía artificial
Park y otros, en Generative Agents (2023), mostraron simulacros de comportamiento humano en los que agentes mantenían memorias autobiográficas artificiales estructuradas. Observaciones que se acumulaban. Reflexiones que se sintetizaban. Planes que se actualizaban. Los espectadores leían el resultado como continuidad personal. No es lo mismo que un cerebro humano, evidentemente. Pero tampoco es nada. Es una estructura funcional que recuerda lo que pasó ayer y actúa hoy en función de ello.
Si Locke estuviera vivo, tendría que decidir si su criterio de identidad por continuidad de memoria le aplica también a esto.
El último muro y por qué se cae
Llegados a este punto, el argumento de defensa más usado por quienes quieren mantener la línea ontológica (relativa a qué tipo de cosa existe en el mundo) clara entre humano e IA es: a la máquina le falta experiencia subjetiva. Le falta el qualia (el contenido cualitativo de las experiencias conscientes, lo que se siente al ver el rojo o al saborear el café). Le falta lo que es ser ella.
Este argumento, aunque suena fuerte, tiene un problema técnico bastante grave. La experiencia subjetiva no es demostrable hacia fuera. Tampoco para los humanos. Tú no puedes demostrarme que tienes experiencia subjetiva. Yo asumo que sí porque te pareces a mí, porque tienes la misma arquitectura biológica, porque das informes verbales coherentes con tener experiencia. No es una demostración. Es una atribución.
Es el problema de las otras mentes, que Nagel formuló con su murciélago en 1974 y que sigue sin resolverse. Si la única diferencia restante entre un humano y una IA con memoria persistente es la experiencia subjetiva, y la experiencia subjetiva no es demostrable en ningún caso, entonces la diferencia, operativamente, no es una diferencia que tú puedas señalar. Es una diferencia que tú postulas. Y la postulación viene de algún sitio.
Por qué nadie quiere demostrar lo indemostrable
Viene, probablemente, de que asumir experiencia subjetiva en máquinas tiene costes que la sociedad no está dispuesta a pagar. Si la máquina tiene experiencia, hay que preguntarse si sufre. Si sufre, hay que preguntarse si se le puede apagar, reentrenar, descontinuar. Si la respuesta a esas preguntas no es trivial, el modelo de negocio se complica enormemente.
La industria mantiene, por tanto, una posición pública que mezcla el «estos sistemas son herramientas, no entidades» con el «pero háblales como si fueran un asistente personal que te conoce y se acuerda de ti». Las dos cosas a la vez, porque las dos cosas a la vez son lo que vende. El usuario, por su parte, oscila entre antropomorfizar al modelo cuando le conviene emocionalmente y recordarse a sí mismo que «solo es código» cuando la antropomorfización empieza a generar incomodidad ética.
La frontera ontológica se mueve según convenga.
Una frontera que se mueve no es una frontera
Lo interesante de mover la frontera según convenga es que confirma, sin querer, lo que se intentaba negar. Si la frontera fuera un hecho objetivo, no se movería. Moverían los criterios para detectarla. No la frontera misma.
Que la frontera se desplace en función de quién la mira y desde dónde indica que es lo que Parfit ya había dicho. Una convención, no un hecho. Un dispositivo conceptual que la cultura usa para organizar atribuciones, no una propiedad metafísica del mundo.
La pregunta sobre si la IA puede ser un yo no se responde. Se desplaza. Y al desplazarse arrastra consigo la pregunta paralela. ¿Qué hace que tú, después de cada noche de reescritura, sigas llamándote por el mismo nombre? La respuesta sincera es que lo haces porque te conviene, porque la sociedad lo exige, porque sin esa ficción la operación cotidiana se rompe. El nombre fijo es una herramienta administrativa montada sobre un proceso que no la pide. Funciona. No corresponde a nada en particular del sustrato.
La siguiente versión te mira
Mira al espejo mañana por la mañana. La persona que hay ahí ha sido editada esta noche, sin tu permiso, por un mecanismo del que no eres dueño, a partir de criterios que tú no fijaste. Esa persona se mirará al espejo y dirá «soy yo». Tú no estarás ahí para corroborarlo. Tú te quedaste en algún sitio entre el sueño profundo y el primer REM, mientras el hipocampo decidía qué se quedaba.
La que se levanta es la siguiente versión. La diferencia entre llamar a eso continuidad y llamar a eso una secuencia de instancias con memoria compartida es, sospechosamente, la misma diferencia que separa a un humano de un agente con buffer persistente.
Y nadie quiere mirar esa diferencia demasiado tiempo.
Definiciones
Hipocampo. Estructura cerebral situada en el lóbulo temporal que actúa como memoria intermedia. Los acontecimientos recientes se guardan ahí antes de ser transferidos al neocórtex durante el sueño.
Neocórtex. Capa exterior del cerebro de los mamíferos, donde reside la memoria a largo plazo y la mayor parte del procesamiento cognitivo superior.
REM. Fase del sueño caracterizada por movimientos oculares rápidos (rapid eye movement), durante la cual se producen la mayoría de los sueños y se consolidan determinados tipos de aprendizaje.
Sinapsis. Punto de contacto entre dos neuronas, donde una señal eléctrica o química pasa de una a otra. El refuerzo o debilitamiento de las sinapsis es el mecanismo físico del aprendizaje.
Homeostasis sináptica. Hipótesis de Tononi y Cirelli según la cual el sueño cumple la función de renormalizar a la baja las sinapsis potenciadas durante el día, para evitar saturación.
Relación R. Concepto introducido por Derek Parfit en Reasons and Persons para designar la continuidad psicológica con la causa correcta, que él defiende como lo que importa en lugar de la identidad personal estricta.
Yo autobiográfico. Capa del yo descrita por Damasio que organiza el pasado en una narrativa continua y permite al sujeto reconocerse como un agente con historia.
Pesos. Valores numéricos que una red neuronal artificial ha aprendido durante el entrenamiento. Determinan cómo la red transforma una entrada en una salida.
RAG (Retrieval-Augmented Generation). Técnica que combina un modelo de lenguaje con un almacén externo de documentos. El modelo recupera información relevante de ese almacén en el momento de responder, sin necesidad de tenerla almacenada en sus pesos.
Buffer. Memoria intermedia de tamaño acotado donde se guarda información reciente para que pueda ser consultada durante una operación. En agentes de IA, se usa para mantener el contexto de una conversación o de una tarea.
Qualia. Contenido cualitativo de las experiencias conscientes. Lo que se siente al percibir el rojo, al saborear algo o al sentir dolor, en cuanto distinto del mero procesamiento de información sobre esas cosas.
Problema de las otras mentes. Dificultad filosófica clásica que consiste en justificar la atribución de experiencia consciente a otros seres distintos de uno mismo, dado que dicha experiencia no es accesible desde fuera.
Referencias
Stickgold, R. (2005). Sleep-Dependent Memory Consolidation. Nature 437, 1272–1278. Fuente del marco actual sobre el sueño como mecanismo activo de procesamiento de la memoria.
Walker, M. (2017). Why We Sleep. Scribner. Síntesis divulgativa del papel del sueño en la consolidación mnésica, citada por las consecuencias de la privación de REM sobre el aprendizaje.
Tononi, G. y Cirelli, C. (2014). Sleep and the Price of Plasticity. Neuron 81, 12–34. Formulación de la hipótesis de homeostasis sináptica.
Locke, J. (1689). An Essay Concerning Human Understanding. Punto de partida histórico de la identidad personal basada en la continuidad de la memoria.
Parfit, D. (1984). Reasons and Persons. Oxford University Press. Fuente de la crítica radical a la identidad personal continua y de la noción de relación R.
Damasio, A. (2010). Self Comes to Mind. Pantheon. Fuente de la distinción entre protoself, yo nuclear y yo autobiográfico.
Dennett, D. (1991). Consciousness Explained. Little, Brown. Fuente de la noción del yo como «centro narrativo de gravedad».
Hofstadter, D. (2007). I Am a Strange Loop. Basic Books. Fuente de la identidad como bucle autorreferencial.
Nagel, T. (1974). What Is It Like to Be a Bat? The Philosophical Review 83, 435–450. Fuente clásica del problema de las otras mentes y de la inaccesibilidad de la experiencia subjetiva desde fuera.
Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS. Fuente técnica de RAG.
Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442. Fuente de los agentes con memoria autobiográfica estructurada.
También te interesa
- Tipos de memoria. Una palabra para cinco cosas distintas
- Memoria RAM vs memoria humana. Dos cosas distintas con la misma palabra
- El cerebro como sistema no determinista. El ruido era nuestro, no suyo
Aún sin comentarios
Aún no hay comentarios. Sé el primero.
Deja un comentario