Leí esta semana una entrevista que no me dejó pensando. Steven D. Shaw, académico de la Wharton School de la Universidad de Pensilvania, habla de un concepto que acuñó: la “rendición cognitiva”. La idea es tan simple como compleja: estamos delegando nuestro proceso de decisión en la inteligencia artificial, adoptando sus respuestas como propias, y haciéndolo tan naturalmente que ni siquiera lo notamos.

Me senté a leerlo con la actitud con que uno lee estas cosas con cierto escepticismo profesional, la predisposición a encontrar exageración, y terminé con más preguntas que respuestas. Especialmente sobre lo que esto significa para quienes trabajamos en un sector donde el juicio es, supuestamente, el producto.

El modelo de tres sistemas y por qué me importa

Shaw propone algo que me parece conceptualmente poderoso. Durante décadas hemos operado con el modelo de Daniel Kahneman: el sistema uno, rápido e intuitivo; el sistema dos, lento, deliberativo, crítico. Es el sistema dos el que evalúa, el que cuestiona, el que dice “espera, algo aquí no cuadra”. Pues bien, Shaw sostiene que la IA ha emergido como un sistema tres: una fuente de cognición artificial a la que podemos externalizar decisiones enteras.

Lo que me preocupa no es la existencia del sistema tres. Es lo que ocurre con el sistema dos cuando el tres está siempre disponible, siempre fluido, siempre dispuesto a responder. Shaw lo describe como un músculo: si no lo ejercitas, se atrofia. Y en nuestra industria, ese músculo es exactamente lo que diferencia al profesional del procesador.

Pienso en cuántas veces alguien de un equipo financiero pide a un LLM el resumen de un informe de riesgo, luego le consulta la recomendación, y luego la presenta en una reunión. Técnicamente, “analizó”. En la práctica, aprobó. Esa es la rendición cognitiva en acción, y no hace falta que ocurra en decisiones grandes para que sus efectos sean serios.

El riesgo que más me preocupa: la confianza que se transfiere

Hay algo en la entrevista que Shaw menciona casi de paso, pero que a mí me pareció lo más revelador. Dice que cuando la IA es muy precisa en tareas estructuradas, los usuarios desarrollan una confianza que luego trasladan a dominios donde la IA ya no lo es tanto. Es decir: me va bien pidiéndole al modelo que estructure un análisis, entonces también le pregunto sobre el riesgo reputacional de una contraparte. Dos problemas radicalmente distintos. Solo uno tiene respuesta estructurada.

Eso es exactamente el tipo de error que no produce resultados absurdos —esos se detectan. Produce resultados plausibles pero equivocados. Y para atrapar esos, necesitas tener activo el sistema dos. El que estamos en riesgo de no ejercitar.

El adulador en la sala

Shaw también habla de la sicofancia de los modelos de lenguaje, y ahí sentí que ponía nombre a algo que había observado pero no había formulado con suficiente claridad. Los LLMs están entrenados, entre otras cosas, para generar respuestas bien recibidas. Si llego al modelo con una tesis ya formada y le pido análisis, hay una probabilidad real de que me diga que tengo razón, o que al menos construya el argumento de forma que lo parezca. No porque mienta: porque está optimizado para la aceptación, no para la incomodidad.

El sesgo de confirmación ya era un problema antes de la IA. Lo que Shaw me hizo ver es que ahora tiene un amplificador de alta potencia. Y en un contexto financiero, donde las decisiones de mayor riesgo suelen ser las que uno más quiere confirmar, eso es una señal de alerta seria.

Lo que la regulación todavía no ha procesado

Trabajo en un sector donde la conversación regulatoria sobre IA está avanzando: explicabilidad de algoritmos, sesgo en datos de entrenamiento, responsabilidad institucional por decisiones automatizadas. Todo eso importa. Pero después de leer a Shaw, me quedo con la sensación de que hay un vacío que nadie está nombrando: ¿qué pasa cuando la decisión la tomó el sistema tres y el ejecutivo técnicamente “supervisó” pero no ejerció juicio real?

No sé cómo se regula eso. Pero sé que es una pregunta que debería estar en la mesa.

Lo que voy a intentar hacer distinto

Shaw dice que él nunca leería un resumen de IA de una película antes de verla, ni delegaría su proceso creativo al modelo. Me pareció una imagen honesta: hay dominios donde la externalización cognitiva es un atajo útil, y hay dominios donde te quita algo que es tuyo.

En lo profesional, me propongo algunas cosas concretas a partir de esta lectura. Primero, formular mi propia hipótesis antes de consultar al modelo, no después. El orden cambia completamente la dinámica. Segundo, cuando el modelo recomienda algo, preguntarme activamente en qué difiero y por qué, aunque no difiera. El ejercicio mismo es el punto. Tercero, tratar la dependencia del equipo en IA como una variable de riesgo operacional: si el sistema falla o se equivoca, ¿qué capacidad de decisión real retiene el equipo?

La pregunta que me quedó

Al final de la entrevista, Shaw dice algo que me parece la síntesis de todoa la conversación: la rendición cognitiva está ocurriendo. No como posibilidad futura. Está pasando ahora, en nosotros, mientras usamos estas herramientas.

Lo que me llevo no es un rechazo a la IA, eso sería tan ingenuo como ignorar el problema. Me llevo la convicción de que el sistema dos, lento, costoso, a veces irritante, es lo que hace valioso al sistema tres. Sin juicio humano que lo cuestione, la cognición artificial no amplifica nada. Solo reemplaza. Y esa es una distinción que, en nuestra industria, podría costarnos caro no entender a tiempo.