Los máximos responsables de las principales firmas de IA, Sam Altman (OpenAI) y Dario Amodei (Anthropic), alertaron en la última reunión del Consejo de Seguridad de Naciones Unidas (ONU) sobre los riesgos que la inteligencia artificial puede suponer a la humanidad, al tiempo que pidieron frenar el desarrollo de esta tecnología para controlar sus potenciales peligros y que nadie se haga con el poder total de los modelos.
"La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva Revolución Industrial marcada por la agitación y el caos. El Renacimiento fue una época en la que nuevas herramientas, ideas e instituciones ampliaron los límites de lo que las personas creían posible. La IA puede desempeñar ese mismo papel en nuestra época", señaló Sam Altman.
Altman quiso poner en el centro del desarrollo de la IA a las personas, argumentando que esta herramienta no debe convertir a toda la sociedad en autómatas, sino que deben ser los seres humanos quienes tomen las decisiones.
"La historia continua del progreso humano no trata sobre herramientas que reemplazan la capacidad de acción humana, sino sobre cómo las herramientas adecuadas potencian las capacidades de las personas; y creo que esto llegará mucho más lejos de lo que hoy consideramos posible", destacó.
El consejero delegado de OpenAI tampoco quiso abogar por el catastrofismo, considerándolo una "trampa" y subrayando que "dejarse arrastrar por los extremos no nos ayudará a resolver con éxito los desafíos que tenemos por delante".
En esta misma línea intervino Dario Amodei, consejero delegado de Anthropic, quien centró los riesgos en dos categorías: uso indebido de los modelos de IA --terrorismo o creación de armas biológicas-- y la pérdida de control. "Estas cuestiones tienen un alcance global y conciernen a toda la humanidad. Son lo suficientemente graves como para considerar que constituyen temas importantes para este Consejo", afirmó.
Del mismo modo, Amodei mantiene su apuesta por un desarrollo consciente de la IA que permita navegar entre los riesgos y beneficiarse del avance de esta tecnología "a un ritmo que garantice que la seguridad evoluciona a la par de las capacidades tecnológicas para todos los actores del sector".
El CEO de Anthropic ha instado a las empresas de IA y a los gobiernos, así como al propio Consejo de Seguridad de la ONU --quien tiene la capacidad de tomar decisiones vinculantes-- a comprometerse en tres niveles: integrar evaluadores externos, establecer estándares dentro de la industria y fijar normas internacionales para todos los países.
"Considero que este es el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día. Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar la oportunidad y la amenaza globales que se nos presentan simultáneamente", ha rematado.
Durante la sesión, el secretario general de la ONU, António Guterres, indico que "el peligro no reside en la nueva tecnología. El peligro reside en la tecnología sin rendición de cuentas. Las decisiones de vida o muerte jamás deben confiarse a las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro".
CHINA Y EEUU
Los representantes de China y Estados Unidos también exhibieron las posturas de sus países que no iban en las misma dirección, una muestra de la falta de entendimiento entre las dos potencias económicas más importantes.
A pesar del rápido avance de la IA, el asistente presidencial y director de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca, Michael Kratsios, declaró que esto "no es motivo para detener su desarrollo ulterior ni para restringirla mediante nuevas estructuras de gobernanza mundial".
Igualmente, Kratsios en línea con ya expresado por Donald Trump destacó que Estados Unidos "rechaza totalmente cualquier intento de establecer un esquema globalista de control de la superinteligencia".
Por su parte, Fu Cong, representante permanente de China, instó a las grandes empresas a asumir su papel de responsabilidad y pidió a la comunidad internacional reforzar la cooperación. "La IA es un patrimonio compartido de toda la humanidad y no debe convertirse en un juego de países y personas ricos", ha resaltado.
