El CEO que sospecha de sí mismo: IA, Simon y Mill en la fractura global
En tiempos de cambios geopolíticos trascendentales -realineamiento de bloques, crisis energéticas, reconfiguración de cadenas de suministro- los tomadores de decisiones enfrentan una tentación creciente: delegar el juicio estratégico en la inteligencia artificial. Es comprensible. La IA promete procesar volúmenes ingentes de datos, eliminar sesgos emocionales y ofrecer predicciones racionales. Pero hay una pregunta incómoda que ningún board ha formulado en voz alta: ¿puede una máquina sospechar de sí misma? Y si no puede, ¿qué significa eso para quienes confían en ella?
Para abordarlo, recuperemos dos tradiciones de racionalidad que han moldeado Occidente.
Por un lado, Herbert Simon nos enseñó que los seres humanos operan con racionalidad limitada: no tenemos acceso a toda la información ni capacidad computacional infinita, así que satisfacemos -buscamos soluciones suficientemente buenas, no óptimas-. Es una visión humilde, realista, compatible con la incertidumbre geopolítica actual. Simon sabía que el directivo inteligente no maximiza; se detiene cuando encuentra una opción viable.
Por otro lado, John Stuart Mill y el utilitarismo clásico nos legaron una aspiración opuesta: calcular los placeres y dolores de todos los afectados para elegir la acción que maximice el bienestar total. Esa racionalidad optimizadora asume que podemos ponderar consecuencias lejanas, asignarles valores cardinales y decidir sin contradicciones internas. Es la matriz intelectual de Silicon Valley, de los algoritmos de recomendación y, en buena medida, de los modelos de IA actuales.
Pero la IA no es ni simoniana ni milliana. Su racionalidad es correlacional generativa: predice la siguiente palabra más probable según patrones estadísticos. No satisface (no tiene meta propia). No maximiza utilidad (no tiene preferencias). Simplemente, continúa secuencias. Y aquí aparece el problema central: ese tipo de racionalidad es incompatible con la sospecha de uno mismo que Vaclav Havel consideraba esencial para el intelectual y el gobernante en sistemas opacos.
Sospechar de uno mismo es dudar de las propias certezas, examinar los propios motivos, reconocer que uno puede estar siendo cómplice de un sesgo o de una estructura de poder. Es la antítesis del optimizador confiado que Mill parecía presuponer. Havel sabía que quien no sospecha de sí mismo termina sirviendo a ideologías que dice combatir.
Un modelo de IA no puede sospechar de sí mismo. No tiene un «yo» estable, ni memoria biográfica, ni vergüenza, ni proyecto ético. Puede simular autocrítica («quizás estoy sesgado»), pero esa simulación es un patrón aprendido, no un acto de conciencia. Cuando un CEO le pide a un LLM que evalúe una fusión en un contexto de tensiones entre Occidente y el Sur Global, la máquina no se pregunta: ¿Estaré reproduciendo supuestos geopolíticos del corpus anglosajón? ¿Estaré ignorando racionalidades no utilitaristas (confucianas, por ejemplo) que podrían ser relevantes?.
No puede hacerlo. No porque sea maliciosa, sino porque su arquitectura no incluye la duda existencial.
Esto nos coloca ante una paradoja en tiempos de fractura global. Las decisiones estratégicas más importantes -dónde ubicar una fábrica, con qué socios aliarse, cómo gestionar un family office multigeneracional- requieren algo que la IA no posee: la capacidad de no fiarse de los propios datos, de cuestionar el marco mismo con el que se formula el problema.
Mill asumía que podíamos ponernos en el lugar de todos los afectados; hoy sabemos que hay afectados (futuras generaciones, culturas no occidentales, ecosistemas) cuya voz no está codificada en los conjuntos de entrenamiento. Simon, en cambio, nos ofrecía modestia: aceptamos nuestra ignorancia y actuamos localmente. Pero incluso esa modestia es, para un líder, una decisión ética, no un mero límite computacional.
¿Qué hacer entonces? No rechazar la IA, sino usarla con una conciencia simoniana del límite y una alerta haveliana de la sospecha. Delegue en los modelos las tareas de agregación y proyección estadística. Pero reserve para usted y su equipo el ejercicio sistemático de la duda: ¿qué supuesto no estamos revisando? ¿qué voz no está siendo escuchada? ¿en qué medida nuestra «racionalidad» es solo la del discurso dominante?
En un mundo donde los mapas geopolíticos se reescriben cada trimestre, la ventaja competitiva no estará en quien tenga el modelo más grande, sino en quien cultive la incómoda virtud de sospechar de sí mismo. La IA puede calcular rutas. Usted debe elegir el destino, sabiendo que quizás esté equivocado. Esa es la libertad y la carga del directivo en el siglo XXI.
Gonzalo Jiménez Seminario
CEO de Proteus Management & Governance y profesor adjunto de Ingeniería UC, MBA UC y Centro de Gobierno Corporativo UC
