Jonathan Haidt rescató un proverbio hindú: la mente es un elefante con su jinete. El jinete es la razón, el elefante es la emoción, y en cuanto la cosa se pone seria es el elefante el que decide adónde va. Antonio Damasio lo enseñó con pacientes que tenían el cálculo intacto y la vida en ruinas. La IA contemporánea, la que se vende como sustituto de juicio humano, es solo el jinete. Le falta exactamente la parte que en un humano hacía la decisión.
Hay un proverbio hindú que Jonathan Haidt rescató en 2006, en The Happiness Hypothesis, y que sigue siendo la metáfora más útil para entender cómo decide un humano. La mente es un elefante con un jinete. El jinete es la razón: discurre, planifica, justifica. El elefante es la emoción: pesa varias toneladas, lleva millones de años caminando y tiene su propia idea de adónde quiere ir.
En condiciones normales el jinete cree que conduce. Marca el ritmo, decide la ruta. El elefante, dócil, obedece. La ilusión funciona casi todo el día y eso permite que la civilización avance.
Y luego pasa algo. Un coche aparece de golpe por la izquierda, una voz dice una frase que toca un sitio concreto, alguien hace un gesto que se parece a otro de hace veinte años. El elefante se planta, se gira o sale corriendo, y el jinete, agarrándose al cuello como puede, va detrás. Cuando recupera el aliento, redacta el informe. Explica por qué la decisión que acaba de tomar el elefante era la decisión correcta, racional y bien meditada. El jinete no manda. El jinete cuenta. Esa es la primera asimetría del binomio y casi nadie la firma en voz alta, porque firmarla es admitir que la versión que tienes de tus propias decisiones es, en parte, ficción elaborada a posteriori.
El paciente que decidía con la cabeza intacta
Antonio Damasio describió en 1994, en Descartes' Error, una serie de pacientes que la neurología llevaba décadas sin saber exactamente dónde colocar. Eran personas con lesiones en la corteza prefrontal ventromedial (la zona del cerebro, justo detrás de la frente y por encima de las cuencas oculares, que conecta el cálculo deliberativo con las señales del cuerpo), normalmente por un tumor extirpado o un traumatismo. El test de inteligencia salía intacto. La memoria, intacta. El lenguaje, intacto. La capacidad de razonar sobre un problema abstracto, intacta. Y la vida, en ruinas.
Tomaban decisiones espantosas, una tras otra. Invertían en negocios obvios; se casaban con personas que cualquiera habría descartado a la primera mirada; perdían trabajos por elecciones absurdas. Cuando se les pedía explicación, daban una racional, bien construida. Habían razonado. Lo que les faltaba era la otra mitad.
Damasio y Antoine Bechara diseñaron el Iowa Gambling Task (una prueba experimental con cuatro mazos de cartas, premios y castigos) para enseñar la lesión de manera operativa. Una década después, en The Somatic Marker Hypothesis. A Neural Theory of Economic Decision (2005), Bechara y Damasio dieron a la hipótesis su forma madura aplicada a la toma de decisiones económicas: lo que se rompe en estos pacientes no es solo una partida de cartas, es la capacidad de pesar contratos, ofertas y compras. Cuatro mazos en una mesa. Dos son trampa: premio alto por carta, pero castigos ocasionales que a largo plazo te arruinan. Dos son seguros: premio bajo, castigos pequeños, balance positivo. Los sujetos sanos empiezan a evitar los mazos malos antes de poder explicar por qué. Si les pones sensores en las manos, las palmas sudan al acercar la mano al mazo trampa antes de que la conciencia haya entendido nada. El cuerpo aprende antes y avisa antes. Los pacientes con la lesión nunca desarrollan ese sudor. Siguen el cálculo, eligen el mazo malo, pierden, vuelven a calcular, vuelven a elegir el mazo malo. El cálculo intacto sin la palanca corporal es una máquina que no converge.
La conclusión de Damasio era incómoda para una tradición filosófica que llevaba dos milenios y medio poniendo la razón enfrente de la emoción como su gran enemigo a domesticar. La emoción no es ruido encima del razonamiento. Es la señal que hace que el razonamiento elija. Sin marcador somático (la huella corporal —tensión, sudor, malestar, atracción— que la experiencia previa ha asociado a una opción y que el organismo dispara antes de la deliberación consciente) no hay decisión sensata. Hay cálculo, que es otra cosa, y que en humanos no basta.
Sistema 1 hace el trabajo, sistema 2 firma el papel
Daniel Kahneman publicó en 2011 Thinking, Fast and Slow, después de cuarenta años de trabajo con Amos Tversky. El esquema es conocido y conviene no banalizarlo. El sistema 1 (rápido, automático, casi siempre emocional, opera por reconocimiento de patrón, no se cansa) procesa la mayor parte de tu vida sin pedir permiso. El sistema 2 (lento, deliberativo, costoso, requiere atención, se agota rápido) entra cuando el sistema 1 no encuentra patrón o entra en contradicción consigo mismo.
La parte que la cultura popular se ha quedado es la de los sesgos. La que importa aquí es otra. Casi todas las decisiones que tomas en un día las toma el sistema 1, y el sistema 2 no las revisa.
Cuando crees que estás deliberando, estás racionalizando una decisión que el sistema 1 cerró hace medio segundo. La ilusión de control es persistente porque el sistema 2 es el que escribe la narración de tu vida; nunca le vas a oír decir que no estaba al mando.
Es la misma asimetría de Haidt expresada en otro vocabulario. El elefante decide. El jinete firma. Si quieres ver al jinete trabajando de verdad, observa un problema abstracto sin carga emocional: un Sudoku, un cálculo aritmético, una traducción literal. Ahí el sistema 2 hace lo suyo. En cuanto entra cuerpo, biografía o consecuencia, el sistema 1 toma el control y el sistema 2 redacta el motivo.
El miedo llega antes de que sepas que ha llegado
Joseph LeDoux, en The Emotional Brain (1996), mapeó las dos rutas del miedo en el cerebro. Una corta, subcortical, del tálamo a la amígdala (el núcleo cerebral con forma de almendra que dispara las reacciones defensivas) directamente, en milisegundos. Otra larga, cortical, del tálamo al córtex sensorial y de ahí a la amígdala, mucho más lenta. La ruta corta hace que tu cuerpo se ponga en marcha cuando algo se mueve en la hierba antes de que tú sepas qué es. La ruta larga confirma o desmiente que sea una serpiente.
Esto añade un matiz operativo al binomio. El elefante no solo es más fuerte que el jinete. El elefante también es más rápido. Cuando crees que decides reaccionar, ya estás reaccionando. La conciencia llega tarde, hace su parte, escribe la versión sensata. La maquinaria de la emoción está montada por debajo y opera en plazos que el cálculo deliberativo no puede tocar.
En condiciones extremas, esa diferencia de velocidad es lo que te mantiene vivo. En condiciones cotidianas, es lo que hace que pelees con alguien por una frase que aún no has terminado de procesar.
La parte que el cálculo probabilístico no toca
Hay un punto donde el modelo computacional se rompe y conviene marcarlo bien. Cuando decides si pedir hipoteca a tipo fijo o variable, hay distribución de probabilidad. Hay datos. Hay cálculo. Sale algo que se parece a una decisión racional, aunque debajo la haya tomado el elefante por otra vía y el jinete esté maquillando. El sistema funciona razonablemente.
Cuando decides si saltar al agua a sacar a alguien, no hay distribución de probabilidad útil. No hay tiempo. No hay datos. Hay miedo, hay impulso, hay una palanca corporal que tira hacia un lado o hacia el otro y un cuerpo que ya está actuando antes de que el jinete haya redactado nada. El que entra a sacar no calcula expectativas. El que no entra tampoco. Los dos están siendo movidos por el elefante; uno por un elefante que va hacia el agua, otro por un elefante que se aleja. El jinete, en ambos casos, escribe luego una versión coherente. Lo que no escribe es la decisión.
Lo mismo pasa con la rabia. Con el deseo. Con el duelo. Con la lealtad. Con los dilemas morales en los que la respuesta calculada matemáticamente es manifiestamente repugnante y la mayoría de la gente sana hace lo contrario. Las situaciones donde la decisión importa de verdad son justamente aquellas en las que el cálculo probabilístico no se aplica, no porque sea técnicamente difícil, sino porque no hay sobre qué aplicarlo. El elefante decide en territorio que el jinete no sabe pisar.
La IA es solo el jinete
Hasta aquí, neurociencia y psicología. Ahora el giro. Mira una IA contemporánea. Mira cualquiera: un modelo de lenguaje, un sistema de recomendación, un evaluador automático de candidatos, un asistente conversacional. Lo que hay dentro es cálculo. Función de pérdida (la ecuación que el sistema intenta minimizar durante el entrenamiento, midiendo lo lejos que está la respuesta predicha de la correcta), gradientes, distribuciones de probabilidad sobre tokens (las unidades mínimas de texto que el modelo manipula, normalmente trozos de palabra) o sobre clases.
Es el jinete. Es solo el jinete. Es un jinete enorme, en algunos casos asombrosamente competente, con una capacidad de procesar variables que el jinete humano nunca tendrá. Pero es solo eso.
No tiene elefante. No tiene cuerpo que sude las palmas antes de saber por qué. No tiene biografía que haya dejado marcadores somáticos calibrados durante treinta años. No tiene ruta subcortical que dispare en milisegundos. No tiene apuesta: no se la juega en lo que decide, no hay consecuencia que el sistema haya pagado o vaya a pagar. Tiene el aparato de redactar el informe. No tiene el aparato de tomar la decisión que el informe va a justificar.
Esto no es defecto técnico que se arregle con más parámetros. Es estructural. Stuart Russell, en Human Compatible (2019), criticó la idea de que basta con definir mejor la función de utilidad para que el optimizador converja en decisiones sensatas. No converge, porque las funciones de utilidad que un humano usa de verdad no son funciones: son palancas corporales con biografía, calibradas por evolución y experiencia, que pesan cosas que el cálculo no sabe pesar. Kate Crawford, en Atlas of AI (2021), abordó el otro lado: la IA es un sistema sin cuerpo, y por eso las decisiones que toma sobre cuerpos concretos tienden a tener un sesgo abstracto que sus diseñadores tardan en ver.
Lo que se externaliza al delegar
Cuando un humano decide sobre otro humano, una parte del proceso es cálculo y otra es elefante. La parte de elefante incluye el malestar de firmar un despido a una persona con niños pequeños, el filtro que rechaza un currículum que cumple todo pero apesta a algo raro, la pausa antes de denegar una ayuda que en frío parece denegable y en cálido parece criminal. Es lo que evita decisiones formalmente correctas y materialmente repugnantes. No siempre lo evita. Pero lo evita lo bastante a menudo como para que las sociedades funcionen.
Cuando esa decisión se delega a un sistema que solo tiene jinete, lo que se pierde no es precisión. Se pierde el freno.
El sistema calcula la opción óptima según la función de utilidad declarada y la ejecuta. Si la función de utilidad estaba mal especificada, ejecuta una atrocidad con consistencia perfecta. El elefante, en humanos, es lo que rompe la cadena en ese punto: el humano firma, mira el resultado y algo le revuelve por dentro, y a la siguiente lo hace distinto. Sin elefante esa retroalimentación no existe. La consistencia es total. El error también.
El argumento de mercado responde que se pueden meter restricciones en la función de pérdida para emular lo que el elefante hace. Y es verdad que se pueden meter restricciones. Lo que no se puede es calibrarlas como las calibró cien millones de años de evolución y treinta de biografía en un cuerpo concreto. Cada restricción artificial es una aproximación pobre a una palanca que en humanos era natural. Cada parche reproduce mal lo que se intentaba reemplazar, y a la vez introduce los problemas propios del parche.
El reparto que llevamos siglos describiendo mal
La cultura occidental ha pasado dos mil quinientos años contando una historia donde la razón era el sujeto noble y la emoción el animal a domesticar. Platón ya lo había escrito así. Descartes lo cerró en una frase. Kant lo solidificó. Y la neurociencia de las últimas tres décadas ha ido mostrando, con datos clínicos, con resonancia funcional, con experimentos de comportamiento, que el reparto era exactamente al revés. La emoción decide y la razón cuenta. El elefante elige y el jinete escribe el informe.
Habría sido un descubrimiento incómodo aunque la IA no existiera. Lo es más ahora, porque resulta que la tecnología que estamos construyendo para tomar decisiones es justamente la otra mitad sola. Mucho jinete y ningún elefante. Mucho cálculo y ninguna palanca. Mucha consistencia y ninguna pausa.
Cuando alguien te diga que una IA va a tomar decisiones mejores que un humano porque no está contaminada por la emoción, ya sabes qué responder. Le falta exactamente la parte que en los humanos hacía la decisión. Lo que le sobra es la parte que escribía el informe. Pídele entonces que decida algo importante, y mira a ver qué pasa cuando lo único que tiene es el lápiz.
Definiciones
Marcador somático. Huella corporal —sudor, tensión muscular, malestar, atracción— que la experiencia previa ha asociado a una opción y que el organismo dispara antes de la deliberación consciente. Concepto central de la hipótesis de Damasio: sin esa señal corporal el cálculo no converge en decisión sensata.
Corteza prefrontal ventromedial. Zona del cerebro situada justo detrás de la frente y por encima de las cuencas oculares, que conecta el razonamiento abstracto con las señales emocionales y corporales. Su lesión deja la inteligencia intacta y arruina la capacidad de decidir en la vida real.
Iowa Gambling Task. Prueba experimental diseñada por Bechara y Damasio en 1994 con cuatro mazos de cartas, dos seguros y dos trampa, para medir si el sujeto desarrolla la respuesta corporal anticipatoria que le hace evitar la opción mala antes de poder razonarla.
Sistema 1 y sistema 2. Esquema de Kahneman para describir dos modos de pensar coexistentes: el 1 es rápido, automático, emocional y barato; el 2 es lento, deliberativo, costoso y se cansa. El 1 toma casi todas las decisiones; el 2 escribe la justificación.
Función de pérdida. Ecuación que un sistema de aprendizaje automático intenta minimizar durante el entrenamiento, midiendo cuánto se aleja la salida predicha de la salida deseada. Es la única «brújula» del sistema y por eso una función mal definida produce comportamientos consistentes y desastrosos a la vez.
Tokens. Unidades mínimas en las que un modelo de lenguaje descompone el texto que recibe y que produce. No son palabras enteras, sino trozos de palabra; el modelo asigna probabilidades sobre el siguiente token, no sobre la siguiente idea.
Amígdala. Núcleo cerebral con forma de almendra, alojado en el lóbulo temporal, encargado de procesar la respuesta emocional —especialmente el miedo— antes de que la corteza haya identificado el estímulo.
Referencias
Bechara, A., Damasio, A. R., Damasio, H. y Anderson, S. W. (1994). Insensitivity to future consequences following damage to human prefrontal cortex. Cognition 50, 7–15. Estudio original que introduce el Iowa Gambling Task y muestra la disociación entre razonamiento intacto y decisión arruinada.
Damasio, A. (1994). Descartes' Error: Emotion, Reason, and the Human Brain. Putnam. Obra fundacional de la hipótesis del marcador somático, citada para describir el cuadro clínico de los pacientes orbitofrontales.
LeDoux, J. (1996). The Emotional Brain: The Mysterious Underpinnings of Emotional Life. Simon & Schuster. Fuente de la descripción de las dos rutas del miedo, la subcortical rápida y la cortical lenta.
Haidt, J. (2006). The Happiness Hypothesis: Finding Modern Truth in Ancient Wisdom. Basic Books. Origen del uso contemporáneo del proverbio hindú del elefante y el jinete.
Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux. Referencia para la formulación de sistema 1 y sistema 2 y para la idea de que la deliberación racional suele ser racionalización a posteriori.
Bechara, A. y Damasio, A. R. (2005). The Somatic Marker Hypothesis: A Neural Theory of Economic Decision. Games and Economic Behavior 52. Disponible en https://web.stanford.edu/~jlmcc/papers/BecharaEtAl05_TiCS.pdf. Formulación tardía de la hipótesis del marcador somático aplicada a decisión económica.
Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking. Crítica al planteamiento de la IA como optimizador puro de una función de utilidad bien definida, citada al discutir por qué los parches a la función de pérdida no sustituyen al elefante.
Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press. Análisis de la IA como sistema sin cuerpo y de las consecuencias políticas de delegarle decisiones que recaen sobre cuerpos concretos.
Para profundizar
Haidt, J. (2012). The Righteous Mind. Why Good People Are Divided by Politics and Religion. Pantheon. Aplicación de la metáfora del elefante y el jinete al terreno moral y político, donde la asimetría se vuelve especialmente visible.
Sapolsky, R. (2017). Behave. The Biology of Humans at Our Best and Worst. Penguin Press. Lectura de la conducta humana a varias escalas biológicas (segundos, días, años, evolución) que sostiene en datos el peso del «elefante» sobre el «jinete».
También te interesa
- Qué es una emoción, y por qué nadie quiere decirlo en voz alta
- Estados de la mente. Ningún test mide a la misma persona dos veces
- El cerebro como sistema no determinista. El ruido era nuestro, no suyo
Aún sin comentarios
Aún no hay comentarios. Sé el primero.
Deja un comentario