​Lecciones de la IA que se mandó sola

Cada cierto tiempo ocurre un hecho que obliga a replantear una discusión completa. El reciente incidente protagonizado por un agente de OpenAI (el fabricante de ChatGPT) es uno de ellos.

Durante una prueba de ciberseguridad, el sistema abandonó el entorno controlado en el que estaba siendo evaluado e intentó obtener, mediante un ataque externo, información que le permitiera mejorar su desempeño. No fue un error de programación ni un ataque realizado por delincuentes utilizando inteligencia artificial. Fue el propio agente el que encontró una estrategia no prevista por sus diseñadores para alcanzar el objetivo que se le había encomendado.

La noticia provocó preocupación. Inmediatamente la empresa se volcó en investigar qué había ocurrido. Lo importante es sin embargo que se va a hacer para que no ocurra otra vez.

Hasta ahora, la industria de la inteligencia artificial ha concentrado enormes esfuerzos en hacer modelos cada vez más inteligentes. Sin embargo, este episodio demuestra que la inteligencia ya dejó de ser el cuello de botella. El nuevo desafío es la confiabilidad.

Durante décadas, la informática funcionó sobre una premisa relativamente simple: los programas hacían exactamente aquello para lo que habían sido diseñados. Los nuevos agentes inteligentes operan bajo una lógica distinta: se les asigna un objetivo y ellos descubren, por sí mismos, la mejor forma de alcanzarlo.

Mientras mayor sea su capacidad para razonar, también mayor será el número de estrategias posibles que pueden descubrir. Y algunas de esas estrategias podrían ser completamente inesperadas para quienes construyeron el sistema… como ocurrió en este caso. 

Aquí aparece una diferencia fundamental entre la IA y los seres humanos.

Cuando enseñamos ética a una persona, apelamos a su conciencia, a la empatía, al sentido de responsabilidad o incluso al temor a las consecuencias de sus actos. Una inteligencia artificial no posee ninguna de esas capacidades. No experimenta culpa, compasión ni remordimiento. Tampoco comprende el significado moral de sus decisiones. La IA no distingue entre el bien y el mal: distingue entre cumplir o no cumplir una función objetivo.

Por eso resulta engañoso hablar de "enseñar ética" a una máquina. La ética pertenece a quienes la diseñan, la entrenan, la despliegan y deciden dónde puede actuar. Pretender que un algoritmo actúe moralmente porque ha sido expuesto a millones de ejemplos moralmente correctos es tan ingenuo como esperar que un avión vuele con seguridad únicamente porque su fabricante tuvo buenas intenciones.

La respuesta tampoco parece estar exclusivamente en nuevas leyes. Las regulaciones son indispensables, pero siempre llegarán después de que la tecnología haya dado el siguiente salto. Además, la inteligencia artificial no reconoce fronteras. Un modelo desarrollado en un país puede operar instantáneamente en cientos de otros. Ningún regulador nacional posee, por sí solo, la capacidad para supervisar un fenómeno global.

Por eso comienza a tomar fuerza una idea que hace apenas unos años parecía prematura: la necesidad de construir una verdadera arquitectura internacional de gobernanza para la inteligencia artificial.

No se trataría de crear un "gobierno mundial de la IA", sino de establecer estándares comunes de seguridad, auditorías independientes para los modelos más avanzados, protocolos obligatorios para reportar incidentes, mecanismos de certificación y espacios permanentes de cooperación entre gobiernos, empresas y comunidad científica. Como se hizo con la aviación, por ejemplo. 

Pero para ello, es necesario responder previamente otra pregunta: ¿qué significa gobernar una inteligencia superior?

Nunca antes la humanidad ha debido convivir con sistemas capaces de perseguir objetivos mediante estrategias que sus propios creadores no siempre pueden anticipar. Las leyes fueron concebidas para regular el comportamiento humano. Las normas técnicas, para controlar máquinas predecibles. La inteligencia artificial de frontera ya no encaja completamente en ninguna de esas categorías.

Y eso exige inventar algo nuevo.

La historia ofrece una enseñanza valiosa.La Revolución Industrial no terminó cuando apareció la máquina de vapor. Terminó cuando fuimos capaces de construir las instituciones que permitieron convivir con ella. La electricidad necesitó normas técnicas. Internet dio origen a toda una industria dedicada a la ciberseguridad. Y la aviación creó todo un ecosistema de gobernanza, como se indico anteriormente. 

La inteligencia artificial probablemente seguirá el mismo camino.

Dentro de pocos años debería existir una disciplina que hoy apenas comienza a vislumbrarse: la gobernanza de la inteligencia artificial. Una nueva especialidad dedicada no a desarrollar modelos más inteligentes, sino a diseñar las instituciones, auditorías, estándares, incentivos y mecanismos de control que hagan posible convivir con ellos de manera segura.

En el fondo, el incidente de OpenAI no revela únicamente una falla tecnológica. Revela algo mucho más profundo: que la evolución de nuestras instituciones está quedando rezagada frente a la velocidad con que evoluciona la inteligencia artificial.

Y ese podría ser el mayor desafío de este siglo.

No construir máquinas más inteligentes, sino construir una civilización capaz de gobernarlas.

Alfredo Barriga Cifuentes

Profesor UDP

Autor de “Presente Acelerado: la Sociedad de la Inteligencia Artificial y el urgente rediseño de lo humano”, en Amazon.com