​ La inteligencia que viene

A lo largo de la historia, la humanidad ha demostrado una extraordinaria capacidad para crear herramientas más poderosas de lo que inicialmente imaginó. El fuego permitió cocinar alimentos y construir civilizaciones, pero también incendiar ciudades. La pólvora conectó imperios y abrió rutas comerciales, pero llenó de guerras continentes enteros. La energía nuclear prometió electricidad abundante y dio origen, al mismo tiempo, a la posibilidad de una destrucción global.

Ahora enfrentamos una tecnología distinta. Por primera vez no estamos construyendo una herramienta destinada a ampliar nuestra fuerza física, sino una capaz de competir con nuestra inteligencia.

Los expertos llaman Superinteligencia Artificial (SIA) a una inteligencia que supere al ser humano en todas las tareas cognitivas. Subrayo la palabra cognitivas. Porque el ser humano no se agota en su capacidad de razonar. También ama, cree, se equivoca, tiene conciencia moral, sentido de trascendencia y una dignidad que no depende de su coeficiente intelectual.

Por ahora, la SIA pertenece más al campo de la especulación que al de la realidad. Habita principalmente en la ciencia ficción, desde Her hasta The Matrix. Sin embargo, ya está generando un debate que trasciende la tecnología y entra de lleno en la filosofía, la economía, la política y la religión. Es notable que el Papa León XIV haya decidido abordar estos asuntos en la encíclica Magnificat Humanitas, adelantándose a una conversación que probablemente definirá buena parte de este siglo.

El primer gran dilema es el control.

¿Cómo garantizamos que una inteligencia superior actúe en beneficio de la humanidad? Los especialistas llaman a esto el problema de la alineación. La imagen más gráfica es la del genio de la lámpara: una vez liberado, resulta imposible volver a encerrarlo. Una SIA podría obedecer literalmente objetivos mal formulados y provocar consecuencias devastadoras sin que exista mala intención alguna.

La historia ofrece paralelos interesantes. Cuando Gutenberg introdujo la imprenta en Europa durante el siglo XV, nadie imaginó que aquella innovación tecnológica contribuiría a la Reforma Protestante, a las guerras religiosas y a una profunda transformación política y cultural. La imprenta no tenía ideología propia; simplemente amplificó las ideas de quienes la utilizaban. Una superinteligencia podría amplificar nuestras capacidades —y nuestros errores— en una escala mucho mayor.

El segundo problema es la comprensión.

Ya hoy existen sistemas de inteligencia artificial cuyas decisiones son difíciles de interpretar. Los especialistas hablan del problema de la “caja negra”. Si una futura SIA llegara a formular conclusiones que ningún ser humano pudiera entender, se produciría una situación inédita: dependeríamos de una inteligencia superior sin comprender su razonamiento.

La tercera cuestión es el poder.

¿Quién controla una superinteligencia? Si una empresa, un gobierno o una alianza internacional lograra desarrollarla antes que los demás, obtendría una ventaja histórica incomparable. Basta recordar lo que ocurrió en 1945, cuando Estados Unidos fue la única potencia con armas nucleares. Aquellos pocos años modificaron completamente el equilibrio geopolítico mundial. Una SIA podría generar una concentración de poder todavía mayor, dando origen a nuevas formas de dominación económica, política y cultural.

No es casual que la encíclica dedique una atención especial a este riesgo. La tecnología puede ser un instrumento de liberación, pero también de control.

El cuarto dilema es económico.

¿Qué ocurre si la inteligencia artificial llega a realizar prácticamente todo el trabajo productivo? La pregunta recuerda, en cierta medida, a los temores de la Revolución Industrial. En la Inglaterra del siglo XIX, muchos trabajadores destruían máquinas textiles convencidos de que éstas los condenarían al desempleo. Dos siglos después, el trabajo no desapareció, aunque sí cambió radicalmente.

La diferencia ahora es que las máquinas no sólo competirían con nuestros músculos, sino también con nuestras capacidades intelectuales. Si la producción de riqueza se automatiza completamente, surge una pregunta elemental: ¿cómo se reparte esa riqueza? Si nadie trabaja, ¿cómo se distribuye la torta?

Podría ser el comienzo de una época de abundancia sin precedentes. O de una desigualdad igualmente inédita.

El quinto dilema es existencial.

¿Cómo ve una superinteligencia a los seres humanos? ¿Como socios? ¿Como beneficiarios? ¿Como obstáculos? Los escenarios más pesimistas imaginan que nuestros intereses entren en conflicto con los suyos.

Aquí conviene introducir cierta perspectiva histórica. Recuerdo la crisis de los misiles de Cuba. Yo tenía ocho años. El temor a una guerra nuclear era auténtico. Había quienes creían que el mundo podía terminar en cuestión de horas. Sin embargo, el botón nunca fue presionado.

A pesar de todos nuestros defectos, la humanidad ha desarrollado mecanismos de prudencia, negociación y supervivencia. Nuestra historia no es sólo una historia de errores; también es una historia de resiliencia.

Y es precisamente esa resiliencia la que me permite mirar el futuro con cautela, pero no con fatalismo.

El sexto dilema se refiere a los valores.

¿Qué valores debe adoptar una inteligencia superior? La moral humana está lejos de ser uniforme. Existen desacuerdos profundos sobre cuestiones fundamentales. Lo que algunos consideran un derecho, otros lo consideran una falta moral. ¿Qué principios deben programarse entonces? ¿Quién los define? ¿Con qué legitimidad?

La idea de una inteligencia completamente neutral parece cada vez menos plausible. Toda tecnología refleja, explícita o implícitamente, una determinada visión del ser humano.

Y allí la reflexión del Papa resulta particularmente pertinente. La cuestión no es solamente qué puede hacer la inteligencia artificial, sino qué debe hacer. La tecnología puede optimizar decisiones, pero no puede responder por sí sola qué es el bien, qué es la justicia o qué significa vivir una vida digna.

Finalmente, está el problema de los efectos no intencionados.

Incluso si una SIA fuera diseñada con las mejores intenciones, ¿cómo anticipar todas las consecuencias de sus acciones? La complejidad del mundo real supera cualquier capacidad de modelamiento. La historia está llena de innovaciones creadas para resolver problemas que terminaron generando otros nuevos.

Por eso, la discusión sobre la superinteligencia artificial no es, en el fondo, una discusión tecnológica.

Es una discusión sobre el ser humano.

Desde la Torre de Babel hasta la energía nuclear, la pregunta siempre ha sido la misma: ¿qué ocurre cuando nuestra capacidad para hacer cosas crece más rápido que nuestra sabiduría para usarlas?

Tal vez esa sea la verdadera advertencia de León XIV. El mayor riesgo no es que las máquinas lleguen a ser demasiado inteligentes. El mayor riesgo es que nosotros no seamos lo suficientemente sabios para gobernar el poder que estamos creando.

Porque la bomba atómica amenazaba nuestros cuerpos. La superinteligencia artificial podría desafiar algo aún más profundo: nuestra condición de inteligencia dominante del planeta.

Y ése es un debate que no podemos seguir dejando para mañana.

Alfredo Barriga Cifuentes

Consultor en Transformación Digital e Innovación

Autor "Futuro Presente: cómo la nueva revolución digital afectará mi vida"

Profesor