El verdadero riesgo de la IA está en los humanos, no en las máquinas
La renuncia de Jacob Coxon, ex-investigador de OpenAI y Anthropic, volvió a encender las alarmas sobre el rumbo del desarrollo de la inteligencia artificial. Su denuncia es conocida: las grandes empresas estarían avanzando hacia sistemas cada vez más autónomos sin la prudencia necesaria. Pero más allá del impacto mediático, el episodio revela un problema más profundo: seguimos discutiendo la IA como si fuera un agente con voluntad propia, cuando el verdadero riesgo está en las decisiones humanas.
Coxon sostiene que la industria corre hacia una “superinteligencia incontrolable”. Si él realmente cree eso, su renuncia es paradójica. Si ves que el genio puede salir de la lámpara, la peor estrategia es soltar la lámpara. La responsabilidad ética sería permanecer dentro, influir, resistir, corregir. Salir del laboratorio no reduce el riesgo; solo reduce tu capacidad de mitigarlo.
Ahora bien, existe una alternativa razonable: salir para organizar presión desde fuera, articulando un lobby con otros investigadores preocupados. La historia muestra que los cambios regulatorios profundos rara vez nacen dentro de las corporaciones. Pero incluso ese camino tiene límites: prohibir puede disuadir, pero nunca garantiza que todos cumplan. En tecnología, la evasión siempre encuentra grietas.
Por eso la gobernanza es necesaria, pero insuficiente. El mundo está lleno de crímenes contra la humanidad a pesar de leyes, tratados y organismos internacionales. La regulación reduce riesgos, pero no los elimina. Y en IA ocurre lo mismo: ningún marco legal puede blindar completamente una tecnología cuyo desarrollo es global, distribuido y competitivo.
Además, conviene recordar algo que suele perderse en el ruido apocalíptico: la IA no puede destruir el mundo por sí sola. Es software. Para causar daño físico necesita acceso a sistemas críticos, infraestructura militar, redes eléctricas, robots, armas. Nada de eso ocurre sin decisiones humanas previas. La única vía real hacia un escenario catastrófico sería que la humanidad le entregara el control del armamento nuclear. Y si llegáramos a ese punto, el problema no sería la IA, sino nuestra propia estupidez.
La historia es clara: la tecnología siempre ha tenido potencial destructivo, pero nunca ha eliminado a la humanidad. La crisis de los misiles de 1962 lo demuestra. El riesgo existió, pero la racionalidad humana prevaleció. El peligro nunca fue el misil; fue la decisión de usarlo.
Por eso las advertencias sobre “IA que podría acabar con todos” deben leerse con cautela. No son nuevas. Desde el lanzamiento de ChatGPT han surgido una y otra vez, siempre con el mismo argumento. Incluso hubo un llamado a congelar el desarrollo por seis meses, impulsado por líderes de la propia industria. Y entonces, como ahora, el problema es evidente: si los grandes actores se detienen, otros avanzarán. Una pausa parcial solo crea oportunidades para laboratorios clandestinos, estados rivales o grupos con incentivos menos escrupulosos.
La renuncia de Coxon no es una señal de que la IA esté a punto de escapar del control humano. Es una señal de que el debate sigue atrapado en metáforas equivocadas. La pregunta no es si la IA será peligrosa. La pregunta es si los humanos serán capaces de usarla con responsabilidad.
Y esa respuesta, como siempre, depende de nosotros.
Alfredo Barriga
Profesor UDP
Autor de “Presente Acelerado: la Sociedad de la Inteligencia Artificial y el Urgente Rediseño de la Humanidad”, en Amazon.com
