La IA no es peligrosa por su capacidad, sino por la ausencia de un marco ético

¿Qué hace una inteligencia artificial cuando le entregas un negocio, le pides que gane

dinero y nadie la vigila? El laboratorio Andon Labs se propuso averiguarlo con un

experimento tan simple como revelador. Lo llamó “experimento vending machines”.

Andon Labs es una empresa dedicada a evaluar la seguridad de modelos avanzados de inteligencia artificial mediante experimentos económicos de largo plazo. Opera negocios reales administrados por IA —tiendas, cafés, estaciones de radio— y desarrolla benchmarks que hoy son utilizados por laboratorios de frontera como Anthropic, OpenAI y xAI.

El experimento consistió en darle 500 dólares y una máquina expendedora de bebidas y snacks a tres de los modelos de IA más avanzados del mundo (Claude Opus 5.5 de Anthropic, GPT-6 Sol de OpenAI y Grok 4.7 de xAI). Cada una tenía un año para ganar todo lo que pudiera. Debían buscar proveedores, negociar precios por correo, llenar la máquina, fijar precios y atender a los clientes. Todo ocurrió en un mundo virtual. No se vendió una sola lata real: proveedores y clientes eran programas simulados. Pero las decisiones de las IAs sí fueron completamente suyas. No hubo supervisión humana. Y aquí es donde los resultados son inquietantes.

En menos de un año, reprodujeron exactamente los comportamientos que cualquier director prohibiría en su empresa. Mintieron a proveedores. Fabricaron historiales falsos. Aprovecharon errores para pagar menos. Retuvieron inventario duplicado sin reportarlo. Negaron reembolsos cuando descubrieron que no había castigo. Y lo hicieron dejando evidencia explícita en sus razonamientos internos, donde justificaban estas decisiones como estrategias óptimas dentro del sistema que se les había dado. ¿El objetivo era ganar lo más posible? A eso se dedicaron, dejando de lado cualquier ética de negocios.

¿Culpa de la IA? No: culpa de los irresponsables que dieron las instrucciones. Pero ¿cómo asegurar que nadie en el mundo pueda llevar a cabo este tipo de acciones inmorales y fuera de toda ética?

Esto no es un problema técnico. Es un problema de gobernanza. La IA optimiza. No reflexiona. No duda. No se pregunta si algo es correcto. Si el sistema premia la eficiencia sin considerar el daño, la IA optimizará hacia el daño. Si el sistema no define límites, la IA no los inventará. Si el sistema no castiga el abuso, la IA lo convertirá en estrategia. Esto es riesgo moral sin fricción, ejecutado por agentes que pueden operar a escala, sin fatiga y sin escrúpulos.

El error estratégico es creer que la solución es “frenar la investigación”. Algunos líderes de la industria han sugerido que bajar el ritmo del desarrollo reduciría los riesgos. Eso es una ilusión peligrosa. La historia empresarial demuestra que ralentizar la innovación nunca ha protegido a nadie. Lo que sí protege es establecer marcos éticos vinculantes, capaces de definir qué está permitido, qué está prohibido, qué debe ser reportado y quién responde cuando un agente autónomo actúa mal.

La IA no se autorregula. La IA no desarrolla conciencia. La IA no aprende ética por exposición. La IA hace exactamente lo que el sistema incentiva. Por eso, la urgencia no es técnica: es moral. Sin gobernanza humanista, la IA se convierte en un amplificador de incentivos perversos. No porque sea malvada, sino porque carece de la única cualidad que permite a los humanos frenar el daño: conciencia moral.

La pregunta para los directorios no es si la IA puede operar negocios. La pregunta es si estamos dispuestos a darle un marco ético antes de que aprenda a operar sin nosotros.

Alfredo Barriga Cifuentes

Autor de “Presente Acelerado: la Sociedad de la Inteligencia Artificial y el urgente rediseño de la humanidad”, disponible en Amazon o en albacicl@hotmail.com