“The Millennium Project”: Se necesita urgentemente cooperación global para controlar los riesgos de la IA avanzada
Un nuevo Informe del Proyecto Milenio advierte que los sistemas avanzados de inteligencia artificial podrían surgir antes de lo esperado, lo que plantea riesgos sin precedentes a menos que se establezcan rápidamente marcos de gobernanza prudentes.
El informe, titulado: Cuestiones de gobernanza internacional de la transición de la inteligencia artificial estrecha a la inteligencia artificial general (AGI) es una síntesis de entrevistas y opiniones recopilados de 55 expertos en IA de Estados Unidos, China, el Reino Unido, Canadá, la Unión Europea y Rusia, sobre cómo regular la AGI, que puede manejar nuevas situaciones novedosas tan bien o mejor que los humanos.
La AGI podría ser realidad en los próximos años, lo que representaría una “explosión de inteligencia” que crearía una IA que supere las capacidades humanas, afirma el informe. La falta de gobernanza podría conducir a resultados catastróficos, incluidas amenazas existenciales a la humanidad, si dichos sistemas no están alineados con los valores e intereses humanos. El informe concluye que ningún modelo de gobernanza existente está preparado adecuadamente para gestionar los riesgos y oportunidades que plantea la inteligencia artificial general (AGI). Requiere el rápido desarrollo de un nuevo tipo de gobernanza flexible que pueda igualar y anticipar el ritmo del cambio de la IA y proporcionar las salvaguardias necesarias sin sofocar las promesas y el avance de la IA.
"AGI está más cerca que nunca: el próximo avance podría superar la inteligencia humana", cita el informe a Ilya Sutskever, cofundador de OpenAI. "La alineación con los valores humanos es fundamental pero desafiante". Ben Goertzel, autor de AGI Revolution, añadió: "Se trata más de que la OMS controle el desarrollo y el uso de AGI que de una lista de éticas".
"Estamos todos juntos en este barco; si las cosas van mal, estamos todos condenados", cita en el informe al profesor de Oxford Nick Bostrom.
El Proyecto Milenio pide medidas urgentes para crear gobernanza y alineación de AGI a nivel nacional e internacional antes de que la IA avanzada supere la capacidad de la humanidad para controlarla de forma segura. "Si no logramos una Convención de la ONU sobre AGI y una Agencia de AGI de la ONU para hacer cumplir las reglas, barreras de seguridad, auditoría y verificación, entonces podrían surgir varias formas de Superinteligencia Artificial fuera de nuestro control y no de nuestro agrado", dice Jerome. Glenn, director ejecutivo del Proyecto Milenio.
Dado que lo que está en juego puede incluir la extinción humana, el informe advierte que no podemos permitirnos demoras en la movilización de la cooperación global.
El Secretario General de la ONU está organizando un órgano asesor global de múltiples partes interesadas para crear el marco de la ONU para la gobernanza internacional de la IA. Jerome Glenn, director ejecutivo del Proyecto Milenio, acaba de ser invitado a participar en "un evento sobre la gobernanza internacional de la inteligencia artificial que se celebrará el 20 de septiembre de 2023 al margen del 77º período de sesiones de la Asamblea General de las Naciones Unidas en Nueva York".
