Ensayo № 013 · Línea: Moral · 14 min de lectura
Los verdaderos peligros de la IA

Los verdaderos peligros de la IA

№ 013 · Moral 14 min

Leo continuamente que con la inteligencia artificial llega el apocalipsis. También llegaba con la imprenta de Gutenberg en 1450, también llegaba con la máquina de vapor en 1769, también llegaba con la electricidad doméstica, también llegaba con la radio, también llegaba con la televisión, también llegaba con internet, también llegaba con los smartphones. Hoy ya casi no nos imaginamos el mundo sin esas cosas. El apocalipsis no llegó. Lo que sí llegó —porque eso siempre llega— fue una transformación silenciosa de las personas que vivieron al otro lado. Cambió cómo memorizaban. Cambió cómo decidían. Cambió cómo se relacionaban. Cambió cómo trabajaban. Y casi nadie estuvo mirando ahí, porque todo el ruido se concentraba donde siempre se concentra: en lo cinemático.

Hoy quiero ver qué hay de cierto en el miedo actual. De la forma más metódica posible.

La taquilla y el plano largo

El cine y los listicles han hecho del miedo a la IA un género con dos protagonistas estables: Skynet y el robot asesino. Skynet, la inteligencia que despierta y decide acabar con la humanidad. El robot asesino, el cuerpo armado que ejecuta órdenes sin freno. Son escenas potentes. Funcionan en pantalla. Funcionan en titular. Y funcionan, sobre todo, porque ocupan toda la atención disponible mientras dejan en penumbra otras cosas que sí están ocurriendo.

Aclaremos lo primero. No es que esos riesgos no existan como hipótesis. La discusión técnica sobre alineamiento —cómo asegurar que un sistema muy capaz haga lo que queremos sin saltarse límites— es real, la lleva gente seria, ocupa miles de páginas de literatura académica y financia laboratorios enteros. Stuart Russell, Nick Bostrom, los equipos de safety de Anthropic y OpenAI, los autores de papers en NeurIPS y FAccT: todos toman ese debate en serio. El problema no es que el debate exista. El problema es que el debate, traducido al gran público, se ha reducido a una imagen única —Terminator— que no tiene nada que ver con cómo sería realmente un riesgo de alineamiento, y que sustrae atención a otra clase de problema que ya está pasando hoy a millones de personas.

Mientras la cámara enfoca al T-800 corriendo por una autopista, el plano largo muestra otra cosa. Y de eso va este artículo.

Lo que sí está pasando: la concentración

Hagamos números. La frontera técnica de la IA generativa la dominan, en 2026, entre cuatro y seis empresas: OpenAI, Anthropic, Google DeepMind, Meta AI, xAI, DeepSeek. Algunas en Estados Unidos, una en China. La inversión global en IA fue de 581.700 millones de dólares en 2025, según el AI Index 2026 de Stanford —el doble que el año anterior—. La inversión en IA generativa específicamente creció más del 200% interanual —más que triplicándose— hasta acaparar casi la mitad de toda la inversión privada en IA. La adopción global de IA generativa ha alcanzado el 53% de la población mundial en menos de tres años, una velocidad superior a la del ordenador personal y a la de internet. Y todo ese flujo de inversión y de uso pasa por la infraestructura de menos de una decena de empresas.

Para entender el problema, traducimos. Hace veinte años, si tenías una pregunta, abrías un libro, un periódico, un buscador con miles de fuentes indexadas, hablabas con un colega, mirabas en una biblioteca. Hoy, una parte creciente de las preguntas que se hacen los usuarios pasan por una conversación con un asistente —Claude, ChatGPT, Gemini, Grok—. Esa conversación es un canal único. Cuando preguntas a un asistente, recibes una respuesta sintetizada por una infraestructura concreta entrenada por una empresa concreta con criterios concretos. Y ese canal único, hoy, lo controlan menos empresas que el número de fabricantes de coches en cualquier país europeo medio.

No estamos hablando de Skynet. Estamos hablando de algo aburrido y verdaderamente serio: la concentración del input cognitivo de centenares de millones de personas en la infraestructura de seis corporaciones. Esto no es una hipótesis lejana. Esto es lo que ocurre hoy mientras escribes. No requiere imaginación. Requiere mirar.

Lo que sí está pasando: la delegación

El segundo plano largo es menos visible pero más íntimo. Lo describe gente que ha trabajado en el laboratorio adecuado. En 2025, un equipo del MIT Media Lab dirigido por Nataliya Kosmyna publicó Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. Es el primer estudio empírico serio de cómo afecta el uso sostenido de un asistente IA a la actividad cerebral durante una tarea cognitiva exigente como la escritura.

El método es sólido sin ser definitivo. Cincuenta y cuatro participantes, divididos en tres grupos —escribir solo con su cerebro, escribir con buscador, escribir con ChatGPT—, electroencefalograma durante la tarea, análisis automático de los textos producidos, evaluación por jueces ciegos. Tres sesiones bajo la misma condición para todos, más una cuarta sesión con un subgrupo que intercambiaba de herramienta. El resultado, traducido en una frase: el grupo que escribía sin ayuda mostraba actividad cerebral más amplia y sostenida en regiones asociadas a memoria, planificación y creatividad. El grupo ChatGPT mostraba un patrón distinto, compatible con la hipótesis de que el cerebro está siguiendo sugerencias en lugar de generándolas.

Los autores acuñan un término para el fenómeno: cognitive debt, deuda cognitiva. La idea es sencilla. Como la deuda técnica en software, la deuda cognitiva se acumula cuando externalizamos sistemáticamente tareas mentales exigentes y, sin darnos cuenta, descapitalizamos el músculo que las hacía posibles. La consecuencia no es inmediata. Es a medio plazo. Y, como toda deuda, llega un momento en el que toca pagarla.

Conviene marcar los límites del estudio. Muestra pequeña. Tiempo corto, semanas, no años. Contexto de laboratorio, no de vida real. EEG es una herramienta útil pero gruesa. Nadie serio extrapola de aquí a «ChatGPT te hace tonto». Lo que el estudio sí prueba, con cifras y método, es que hay una diferencia medible entre el cerebro que articula sin asistente y el cerebro que revisa el output de uno. La diferencia no es trivial. Y es, ahora, un hecho documentado, no una intuición.

Si añadimos a esto las observaciones cualitativas —profesores universitarios reportando que sus alumnos no pueden empezar exámenes sin frase modelo, periodistas profesionales describiendo que tras dos años de uso intensivo tardan el triple en arrancar un texto sin asistente, traductores notando que su capacidad para mantener un argumento largo en la cabeza ha menguado—, lo que emerge es un patrón consistente. No prueba pero patrón. El patrón en ciencia se acaba traduciendo, tarde o temprano, en estudio largo. Y los estudios largos llegarán. Cuando lleguen, probablemente confirmen lo que la observación cotidiana ya sugiere: que la delegación sostenida produce desentrenamiento, que el desentrenamiento se nota, y que recuperar la habilidad requiere reentrenamiento explícito.

Lo que sí está pasando: la homogeneización

Hay un tercer fenómeno y conviene nombrarlo. En 2024, Anil Doshi y Oliver Hauser publicaron en Science Advances un estudio titulado Generative AI enhances individual creativity but reduces the collective diversity of novel content. Conclusión empírica: cuando la gente escribe con asistencia IA, los individuos producen textos algo mejores en términos de creatividad medida por jueces, pero el conjunto agregado de textos se parece mucho más entre sí. La diversidad colectiva cae. Lo que era una constelación de voces se convierte, lentamente, en un coro afinado.

Esto no es Skynet. Esto es algo que ya está pasando en redacciones, despachos jurídicos, agencias de comunicación, editoriales. Los textos firmados por humanos son cada vez más parecidos entre sí no porque los humanos se parezcan más, sino porque el cuello de botella estilístico es el mismo asistente. Cuando un mismo modelo media la articulación de millones de personas, la articulación tiende al promedio del modelo. La diversidad no se anuncia perdida. Se erosiona en silencio. Y el silencio es justo lo que pide el listicle para seguir vendiendo «10 peligros» en los que esa erosión no aparece.

Por qué los listicles miran al sitio equivocado

Cuando un listicle de cualquier marca SaaS dice «10 peligros de la IA», el formato exige bullets discretos, intercambiables, abstractos y resolubles. «Sesgos algorítmicos», «pérdida de empleo», «privacidad», «deepfakes», «desinformación», «Skynet». Cada bullet aterriza en algo que se enuncia en una frase y se resuelve, según el listicle, con «políticas de gobernanza» —léase, con el servicio que la marca vende—.

Concentración corporativa no encaja en ese formato. Es un fenómeno estructural, lento, que no se resuelve con un curso ni con una herramienta SaaS. Atrofia cognitiva tampoco encaja: requiere entender un estudio del MIT, asumir una hipótesis incómoda sobre el propio comportamiento, y aceptar que la solución es comportamental, no técnica. Homogeneización colectiva todavía menos: implica reconocer que el problema no está en el usuario individual sino en el sistema entero, y que el problema afecta a la diversidad cultural global, no a tu próximo informe trimestral.

Los listicles, por construcción, miran al sitio donde el formato les permite mirar. Y ese sitio es, casi siempre, lo cinemático: lo que cabe en una frase, lo que tiene cara de villano, lo que se puede vender como resoluble. Skynet sirve. Concentración no.

La diferencia operativa

Comparemos las dos clases de riesgo, una al lado de la otra, sin alarmismo y sin condescendencia.

Riesgo cinemático: Skynet. Probabilidad a corto plazo, según consenso técnico actual, baja. Mecanismo plausible: muy especulativo. Casos documentados: cero. Afectados hoy: cero. Investigación seria que merece existir: sí, pero como rama acotada. Cobertura mediática: máxima. Posicionamiento SERP: dominante en listicles.

Riesgo silencioso, primera capa: concentración corporativa del input cognitivo. Probabilidad: alta, está pasando. Mecanismo: documentado en el AI Index 2026, en los movimientos de mercado, en las inversiones cruzadas Microsoft-OpenAI, Amazon/Google-Anthropic, en la dependencia operativa de los hyperscalers. Casos documentados: la totalidad del sector. Afectados hoy: más de 5.000 millones de usuarios con acceso a internet. Cobertura mediática: lateral. Posicionamiento SERP: marginal.

Riesgo silencioso, segunda capa: deuda cognitiva por delegación. Probabilidad: alta y creciente. Mecanismo: documentado en estudios MIT 2025, observación clínica acumulada, descripción cualitativa coherente entre profesionales. Casos documentados: 54 participantes en el estudio MIT principal, miles en estudios complementarios. Afectados hoy: cualquier usuario intensivo de un asistente, varios cientos de millones de personas. Cobertura mediática: ocasional. Posicionamiento SERP: residual.

Riesgo silencioso, tercera capa: homogeneización de la producción cultural. Probabilidad: alta. Mecanismo: documentado en Science Advances 2024. Casos documentados: estudio publicado en revista indexada de primer nivel. Afectados hoy: el conjunto del ecosistema de creación de contenidos. Cobertura mediática: testimonial. Posicionamiento SERP: prácticamente nula.

La asimetría es brutal. Lo que tiene menos probabilidad de pasarte a ti hoy ocupa todo el escenario. Lo que ya te está pasando no tiene nombre en español, no aparece en bullets, no se discute en el chat de cena. Esto no es accidente ni mala suerte editorial. Esto es lo que produce un ecosistema informacional donde los emisores son juez y parte.

Qué hace un listicle por dentro: anatomía de un despiste

Permítaseme detenerme en cómo funciona el despiste, porque entender el mecanismo es defenderse de él. Un listicle de «10 peligros de la IA» reparte la atención del lector en diez recipientes pequeños. La atención total que el lector va a dedicar a leer ese listicle es finita —digamos, cuatro minutos—. Si reparte cuatro minutos entre diez bullets, son veinticuatro segundos por bullet. En veinticuatro segundos no se piensa nada. Se reconoce una etiqueta y se asiente. La operación termina dejando en la cabeza del lector una sensación: «he entendido los peligros de la IA». Pero esa sensación no se corresponde con haber entendido ninguno. Es una sensación pura de actividad, como cuando uno hace scroll durante diez minutos y termina con la idea vaga de haber estado informándose.

El listicle vende exactamente eso. La sensación. Si quisiera enseñar de verdad un peligro, tendría que dedicarle treinta minutos al peligro. Un solo peligro. Con datos. Con contexto. Con incertidumbre. Y eso ya no es un listicle: es un artículo largo, exigente, que pierde tráfico y no escala. Por eso no se hace. Por eso lo que hay en SERP es el modelo barato. Y por eso el lector hispanohablante, al cabo de seis meses leyendo listicles, sabe diez palabras —«sesgo», «privacidad», «deepfake», «Skynet», «desempleo»— y no sabe ni una sola idea.

¿Hay razones objetivas para el miedo?

Sí, las hay. Pero no son las que el listicle te ofrece.

Hay razones objetivas para temer que la concentración corporativa actual del sector IA —cuatro a seis empresas controlando la infraestructura por la que ya pasa el 53% de la población mundial— produzca una asimetría de poder difícil de revertir. No requiere imaginar futuros. Solo requiere mirar las cifras del AI Index 2026 y compararlas con las cifras de cualquier sector estratégico anterior. La concentración es mayor, más rápida y geográficamente más estrecha que cualquier proceso comparable del último siglo.

Hay razones objetivas para temer que la delegación cognitiva sostenida, en ausencia de hábitos compensatorios, produzca desentrenamiento medible de habilidades intelectuales que tardamos décadas en construir y que no se recuperan por sí solas. No requiere imaginar futuros. Solo requiere leer el paper del MIT y aceptar la metáfora de la deuda cognitiva como hipótesis de trabajo razonable.

Hay razones objetivas para temer que la homogeneización del lenguaje producido a través de asistentes erosione, en una década, parte de la diversidad cultural que hace que valga la pena escuchar a alguien. No requiere imaginar futuros. Solo requiere leer Doshi-Hauser 2024 y multiplicar por los millones de textos que se redactan así cada día.

Y hay razones objetivas para temer que el ecosistema editorial que debería ayudarte a entender estos riesgos sea exactamente el mismo ecosistema que tiene interés económico en que los confundas con Skynet. Esa, quizás, es la razón objetiva más relevante. No la rebelión de las máquinas. La captura del lenguaje con el que hablas de las máquinas.

Lo que sí está pasando es lo aburrido. Lo que vende es lo cinemático. La diferencia entre las dos cosas no la va a corregir el algoritmo de Google ni el plan de marketing de una multinacional. La tiene que corregir el lector. Cambiando, una a una, las preguntas que escribe en la caja.

Definiciones rápidas

  • Deuda cognitiva: concepto introducido por Kosmyna et al. (MIT Media Lab, 2025). Análogo a la deuda técnica en software. Acumulación de coste cognitivo diferido cuando se externaliza sistemáticamente una tarea mental exigente a un asistente, lo que produce desentrenamiento de la habilidad subyacente.
  • Concentración del input cognitivo: situación en la que el canal por el que un usuario formula preguntas y recibe respuestas sintetizadas pasa por la infraestructura de un número muy pequeño de empresas. En 2026 ese número oscila entre cuatro y seis a escala global.
  • Riesgo cinemático: clase de riesgo cuya forma narrativa encaja con géneros del cine comercial (rebelión de máquinas, robot asesino, IA consciente hostil). Optimizado para atención mediática, frecuentemente desconectado de la probabilidad real.
  • Homogeneización colectiva: fenómeno por el que la diversidad agregada de un conjunto de textos disminuye al mediarlos un mismo asistente, aunque la calidad individual de cada texto pueda mantenerse o mejorar.

Referencias

  • Kosmyna, N., et al. (2025). Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. MIT Media Lab / arXiv. https://www.media.mit.edu/publications/your-brain-on-chatgpt/
  • Doshi, A. & Hauser, O. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances, 10(28). DOI: 10.1126/sciadv.adn5290. https://www.science.org/doi/10.1126/sciadv.adn5290
  • Stanford HAI (2026). AI Index Report 2026. https://hai.stanford.edu/ai-index/2026-ai-index-report — fuente de las cifras de inversión corporativa global en IA (581.700 millones de dólares en 2025), del crecimiento de la inversión en IA generativa (más del 200% interanual, hasta acaparar casi la mitad de la inversión privada en IA) y de la adopción de la IA generativa por el 53% de la población mundial en menos de tres años. Resumen de cifras en https://hai.stanford.edu/news/inside-the-ai-index-12-takeaways-from-the-2026-report
  • ITU (2025). Facts and Figures 2025. https://www.itu.int/itu-d/reports/statistics/facts-figures-2025/ — fuente de la cifra de usuarios de internet en el mundo (más de 5.000 millones; la estimación de la UIT para 2025 ronda los 6.000 millones, en torno a tres cuartas partes de la población mundial).
  • Carr, N. (2010). The Shallows: What the Internet Is Doing to Our Brains. Norton.
  • Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.
  • Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
  • Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

También te interesa

En otros sitios

Comentarios · 0

Aún sin comentarios

Aún no hay comentarios. Sé el primero.

Deja un comentario

Suscríbete al boletín