La «Recomendación sobre la Ética de la Inteligencia Artificial» de la UNESCO, aprobada en noviembre de 2021 por sus 193 Estados miembros, ocupa el primer puesto de Google en casi todas las búsquedas en español relacionadas con ética de la IA. Diez principios. Bonitos los diez. Vacíos los diez. Transparencia, equidad, autonomía humana, prevención del daño, responsabilidad, privacidad, beneficio social, sostenibilidad, rendición de cuentas, inclusión. ¿Quién va a estar en contra de algo de esto? Nadie. Por eso, exactamente por eso, no significan nada operativo: no aterrizan en caso concreto, no establecen umbrales, no priorizan cuando dos principios chocan, no fuerzan a nadie a hacer nada en particular. Son un documento pensado para firmar, no para gobernar.
Hoy hablamos del pontificado de la ignorancia. No es que siente cátedra, como ya vimos en el artículo anterior sobre la conversación pública rota. Es que se pronuncia desde un púlpito institucional, marca una ruta de salvación y nos llena la SERP con bullets edificantes sin entender el sector que dice gobernar. Hoy revisamos esa ruta de salvación, a ver si lleva a alguna parte.
Qué dice exactamente la Recomendación
Conviene leerla. No el resumen ejecutivo, no el folleto bonito que UNESCO publica para periodistas, sino el texto entero. Son 38 páginas. La encuentras en español en unesdoc.unesco.org. Y cuando la lees con calma, lo que encuentras es un documento perfectamente redactado, con genealogía evidente en otros documentos previos de derechos humanos, con vocabulario diplomático cuidadoso y con una estructura interna en cuatro partes: ámbito de aplicación, fines y objetivos, valores y principios, y áreas de acción política.
La parte que se cita en titulares es la de valores y principios. Los cuatro grandes valores: el respeto a la dignidad humana, la prosperidad de los ecosistemas, la diversidad e inclusión, y la paz. Los diez principios operativos: proporcionalidad, seguridad y no-daño, equidad y no discriminación, sostenibilidad, privacidad y protección de datos, supervisión y decisión humana, transparencia y explicabilidad, responsabilidad y rendición de cuentas, sensibilización y educación, y gobernanza adaptativa multilateral.
Léelos uno por uno. ¿Hay alguno que objetes? Difícil. Son enunciados tan generales que el desacuerdo se vuelve imposible. Quien diga «yo estoy contra la equidad y la no discriminación en la IA» queda automáticamente fuera de la conversación. Es lo que en lógica formal se llama una proposición vacía: tan amplia que no excluye nada, y por tanto no informa nada.
Y esa es la primera trampa. Un documento que firman 193 países por unanimidad solo puede tener ese contenido. Si tuviera contenido operativo —si dijera, por ejemplo, «todos los modelos entrenados con más de 10²⁵ operaciones de coma flotante deben someterse a evaluación adversarial obligatoria antes del despliegue»— alguno de los 193 países lo habría bloqueado, porque eso le complicaría la vida a su industria nacional o a sus servicios de inteligencia. La unanimidad solo es posible al precio de la vaguedad. Y la vaguedad es lo que tenemos.
El formato es inservible y conviene decirlo
Los principios universales abstractos no resuelven trade-offs. Y los trade-offs son lo que en la práctica determina si una herramienta de IA es éticamente aceptable o no.
Cuando una empresa quiere desplegar un sistema de reconocimiento facial en el aeropuerto, hay un conflicto inmediato entre «privacidad» y «seguridad». Ambos son principios UNESCO. La Recomendación dice algo así como «hay que ponderar adecuadamente». No dice quién pondera, cómo se pondera, qué pasa si los dos pesos son iguales, qué tribunal resuelve la discrepancia, qué umbral cuantitativo de privacidad justifica qué nivel de seguridad. No lo dice porque no puede decirlo: si lo dijera, dejaría de ser un documento firmable por 193 países y se convertiría en una regulación, con todas las objeciones nacionales que eso genera.
Cuando un sistema médico basado en IA produce un diagnóstico potencialmente útil pero opaco —no se puede explicar cómo lo ha producido—, hay un conflicto entre «transparencia» y «beneficio social». La Recomendación dice que ambos son importantes. No dice qué hacer cuando solo se puede tener uno.
Cuando un modelo se entrena con datos masivos extraídos de internet sin consentimiento individual, hay un conflicto entre «privacidad y protección de datos» y «sostenibilidad económica del sector». No es trivial. La Recomendación no lo resuelve.
La función de un marco ético operativo es exactamente esa: decir qué priorizar cuando los principios chocan, quién decide y bajo qué procedimiento. La Recomendación UNESCO no hace eso. Enumera principios sin jerarquía, sin umbrales, sin procedimientos y sin sanciones. Es un documento estético, no normativo.
El contraste con el AI Act
Comparemos con un texto que sí gobierna: el Reglamento (UE) 2024/1689, también conocido como AI Act, aprobado por la Unión Europea en 2024 y aplicable progresivamente entre febrero de 2025 y agosto de 2026. No es perfecto. Tiene huecos, tiene críticas justificadas, tiene plazos optimistas. Pero es un texto operativo, y conviene ver por qué.
El AI Act clasifica los sistemas de IA en cuatro niveles de riesgo: riesgo inaceptable, alto, limitado y mínimo. La clasificación no es retórica: cada nivel tiene obligaciones distintas y sanciones distintas. Los sistemas de riesgo inaceptable —puntuación social, manipulación subliminal, identificación biométrica remota en tiempo real en espacios públicos con excepciones tasadas— están prohibidos. Punto. No «hay que ponderar adecuadamente». Prohibidos.
Los sistemas de alto riesgo —diagnóstico médico, evaluación crediticia, sistemas de selección laboral, infraestructura crítica— deben cumplir requisitos concretos antes del despliegue: evaluación de conformidad, documentación técnica, transparencia hacia los usuarios, supervisión humana operativa, robustez y ciberseguridad, registro en una base de datos europea.
Los modelos de propósito general —los grandes modelos fundacionales, GPT, Claude, Gemini, Llama, los chinos— tienen un régimen aparte. Obligación de documentación técnica, instrucciones de uso, cumplimiento de la Directiva de Copyright, publicación de un resumen de los datos de entrenamiento. Cuando el modelo se entrena con más de 10²⁵ operaciones de coma flotante (la frontera técnica actual), se considera que presenta «riesgo sistémico» y entonces hay obligaciones adicionales: evaluación del modelo, prueba adversarial, notificación de incidentes graves, protección ciberseguridad reforzada.
Y, sobre todo, hay sanciones. Las infracciones más graves —prácticas prohibidas, incumplimiento del régimen GPAI— pueden alcanzar 35 millones de euros o el 7% de la facturación mundial anual, lo que sea mayor. Otras infracciones, hasta 15 millones o el 3%. Información incorrecta a la autoridad, hasta 7,5 millones o el 1%. Eso ya no es estética. Eso es derecho administrativo con consecuencias económicas reales.
¿Por qué el AI Act no aparece en los primeros puestos de Google cuando un usuario busca «ética de la IA»? Porque no encaja en bullets. Son 113 artículos, 180 considerandos y trece anexos técnicos. Definiciones legales precisas. No se resume en diez principios bonitos. Requiere lectura experta. La UNESCO ofrece diez líneas que cabe poner en una infografía corporativa. El AI Act ofrece un edificio normativo entero que requiere abogados especializados. La SERP elige la infografía.
La función real del documento UNESCO
Aquí conviene preguntarse honestamente para qué sirve la Recomendación, ya que no sirve para gobernar el sector. Porque algo sirve. Si 193 países lo firmaron unánimemente, alguien sacó algo.
Sirve, primero, para legitimación interna. Cualquier Estado firmante puede ahora citar la Recomendación cuando sus ciudadanos preguntan qué hace en materia de ética de la IA. «Hemos firmado la Recomendación UNESCO» es una respuesta administrativamente válida que no implica casi nada operativo pero ofrece la apariencia de actuación. Es marketing institucional aplicado al gobierno. Sustituye una política real por una firma simbólica.
Sirve, segundo, para llenar el hueco discursivo internacional sin tener que comprometerse a nada vinculante. Las grandes potencias tecnológicas —Estados Unidos, China, los miembros de la UE— no querían en 2021 un tratado internacional vinculante sobre IA. Querían poder seguir compitiendo sin restricciones impuestas desde fuera. Una recomendación no vinculante les permite firmar sin perder grados de libertad. Diplomáticamente es perfecto. Sustantivamente no produce nada.
Sirve, tercero, como referencia simbólica en los documentos corporativos. Cuando una empresa SaaS publica su «código ético de IA», puede citar la Recomendación UNESCO como marco de referencia, lo que da apariencia de seriedad sin obligar a la empresa a nada operativo. Es como cuando una marca de moda cita el respeto a los derechos humanos en su web sin explicar nada sobre las condiciones de su cadena de producción.
Sirve, cuarto, para alimentar el ecosistema de consultoría ética. Un sector entero de consultorías ofrece «auditorías éticas de IA» basadas en los principios UNESCO. Esas auditorías producen informes, los informes producen facturas, las facturas producen empleo, el empleo produce defensores del marco. Es un ecosistema autosostenido alrededor de un documento sin contenido operativo.
Lo que no sirve es para impedir que un sistema concreto se despliegue de manera dañina, para sancionar a quien lo despliega, para resolver un conflicto real entre principios, para dar al ciudadano afectado herramientas de defensa, o para forzar al desarrollador a hacer algo que no quiere hacer. Nada de eso está en la Recomendación. Y como nada de eso está, la Recomendación tampoco produce nada de eso.
Lo que sí movería el debate
Imaginemos cómo sería un texto de gobernanza ética de la IA que sí funcionara. No tiene que ser perfecto. Solo tiene que ser operativo. Algunos rasgos identificables.
Tendría jerarquía explícita de principios. Cuando «privacidad» y «seguridad» chocan, el texto diría cuál prevalece, en qué condiciones, con qué excepciones tasadas y con qué procedimiento de revisión. No diría «hay que ponderar adecuadamente». Diría algo más feo y más útil.
Tendría umbrales numéricos. «Un modelo entrenado con más de X FLOPs debe someterse a evaluación de seguridad antes del despliegue». «Un sistema de reconocimiento facial con una tasa de error superior a Y por ciento en categorías demográficas Z no puede usarse en ámbito W». Los números son lo que separa la regulación operativa del discurso ético genérico.
Tendría sanciones definidas y proporcionadas. Sanción administrativa, sanción económica, suspensión de despliegue, prohibición de mercado. Sin sanciones, ningún principio se cumple. Con sanciones, los principios producen comportamiento.
Tendría procedimientos de queja y defensa accesibles al ciudadano. Cuando un ciudadano cree que un sistema de IA le ha perjudicado —se le ha denegado un crédito, una visa, un empleo, un tratamiento—, debería tener un procedimiento administrativo claro para reclamar, con plazos, con cargas de prueba definidas, con autoridad competente nombrada.
Y tendría revisión periódica obligatoria con datos. Cada dos años, los Estados firmantes tendrían que presentar un informe con métricas concretas sobre cumplimiento. Si las métricas no mejoran, hay consecuencias. La revisión por pares es lo que mantiene vivo cualquier marco normativo.
Nada de esto está en la Recomendación UNESCO. Está, parcialmente, en el AI Act —que, no por casualidad, es muchísimo más impopular en la SERP española—. Y está, en formato más maduro, en los regímenes regulatorios nacionales que están emergiendo en Estados Unidos, Reino Unido, Brasil, Singapur. Esos textos importan operativamente. La Recomendación importa simbólicamente. La diferencia entre ambas cosas, en política pública, es el todo.
Por qué no hay debate real sobre gobernanza ética
Conviene cerrar especulando por qué la conversación pública sobre gobernanza ética de la IA se queda en la Recomendación UNESCO en lugar de discutir el AI Act, la regulación estadounidense, los modelos chinos de gobernanza, las propuestas africanas y latinoamericanas. Hay varias hipótesis.
Una: la Recomendación está disponible, está traducida a múltiples idiomas, está promovida activamente por su organismo emisor. Los textos operativos están menos accesibles, peor traducidos, más enterrados.
Dos: la Recomendación es lo que las empresas SaaS pueden citar sin riesgo. El AI Act, en cambio, las obliga. Una empresa prefiere que el debate público se centre en el documento que la elogia (al firmarlo se siente buena ciudadana) en lugar del documento que la multa.
Tres: los Estados firmantes prefieren que sus ciudadanos crean que el problema está resuelto por la Recomendación, para no tener que hacer regulación nacional dura. La inacción se ampara en la firma.
Cuatro: el ecosistema de consultoría ética vive de la Recomendación. No tiene interés en una regulación operativa que reduciría su mercado a auditorías técnicas medibles, donde su valor añadido sería menor.
Cinco: la conversación pública sobre IA en español, como vimos, está rota en el origen. Quien debería traducir el AI Act, comentarlo, explicarlo, criticarlo, hacer divulgación rigurosa —el periodismo especializado— no tiene capacidad. Quien sí tiene capacidad —los gabinetes corporativos— prefiere hablar de UNESCO.
El resultado es un escenario donde el lector hispanohablante que busca «ética de la IA» se encuentra con bullets sobre dignidad, autonomía y diversidad. Sale convencido de que ha entendido el debate. Y se pierde la conversación real, que ocurre en otro idioma, en otro registro y con otras consecuencias.
La Recomendación UNESCO no es un fraude. Es un documento honesto dentro de lo que la diplomacia internacional permite producir. El fraude es presentarla como gobernanza cuando es estética. Saber leer la diferencia es el primer paso para no confundir buenas intenciones con regulación. Y, sin regulación operativa, las buenas intenciones de la UNESCO van a llegar tan lejos como llegaron sus recomendaciones anteriores sobre patrimonio cultural, educación o ciencia: a producir un bonito documento que cita todo el mundo sin que cambie casi nada.
Definiciones rápidas
- Recomendación UNESCO sobre Ética de la IA (2021): documento aprobado por los 193 Estados miembros que enuncia cuatro valores y diez principios para el desarrollo y uso ético de la IA. No vinculante, sin sanciones, sin umbrales operativos.
- AI Act (Reglamento UE 2024/1689): regulación europea, operativa entre 2025 y 2026, que clasifica los sistemas de IA en cuatro niveles de riesgo con obligaciones y sanciones específicas. Aplicable directamente en los 27 Estados miembros. Sanciones de hasta 35 millones de euros o el 7% de la facturación mundial.
- GPAI (General Purpose AI): categoría introducida por el AI Act para los grandes modelos fundacionales. Tienen un régimen específico, más estricto cuando superan 10²⁵ FLOPs de cómputo de entrenamiento.
- Documento blando vs documento duro: en derecho internacional, soft law (recomendaciones, declaraciones, principios) frente a hard law (tratados vinculantes, reglamentos, leyes). La Recomendación UNESCO es soft law. El AI Act es hard law. La diferencia entre ambos es la diferencia entre la estética y el gobierno.
Referencias
- UNESCO (2021). Recommendation on the Ethics of Artificial Intelligence. Adoptada por los 193 Estados miembros en noviembre de 2021. https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence
- Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial. Texto consolidado (113 artículos, 180 considerandos) en el Diario Oficial de la UE. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
- AI Act, artículo 99 (sanciones). Tramos de 35 M €/7%, 15 M €/3% y 7,5 M €/1% de la facturación mundial anual. https://artificialintelligenceact.eu/article/99/
- Stanford HAI (2026). AI Index Report 2026, capítulo sobre regulación global.
- Floridi, L. (2023). The Ethics of Artificial Intelligence. Oxford University Press.
- Wallach, W. & Allen, C. (2009). Moral Machines. Oxford University Press.
- Bostrom, N. (2014). Superintelligence. Oxford University Press.
También te interesa
- Por qué las críticas a la IA no las hacen verdaderos expertos
- ¿Cómo se rompió la conversación pública sobre IA?
- Por qué leer a IBM sobre IA es perder el tiempo
Aún sin comentarios
Aún no hay comentarios. Sé el primero.
Deja un comentario