Carta abierta al presidente de la 79ª Asamblea General de las Naciones Unidas sobre desarrollo, seguridad y gobernanza de la IA
Su Excelencia,
Esta carta expresa nuestra profunda preocupación por la seguridad de los desarrollos actuales y potenciales aplicaciones de la Inteligencia Artificial y sus posibles consecuencias para la humanidad. Como usted afirmó con razón con ocasión de su elección como Presidente de la 79ª Asamblea General de las Naciones Unidas “En esta era digital, la inteligencia artificial ha aumentado las oportunidades, pero también desafíos. El más mínimo error puede borrarnos de la faz de la Tierra”.
Somos una comunidad global de prospectiva y estrategia formada por cientos de científicos, académicos, intelectuales, artistas, empresarios, diplomáticos y parlamentarios. En nuestras actividades estamos en contacto permanente con tomadores de decisiones, tanto del sector público como del privado, y de la sociedad civil, que cuentan con el apoyo de personalidades relevantes de diferentes estados miembros de las Naciones Unidas.
Apoyamos firmemente el acuerdo general sobre la necesidad de contar con un grupo de múltiples partes interesadas y sistema multilateral de gobernanza de la Inteligencia Artificial para guiar su desarrollo, regular sus aplicaciones, y monitorear permanentemente su coherencia con los derechos humanos y bienestar de las personas.
En este sentido, recientemente se han producido acontecimientos importantes, como la sesión del Consejo de Seguridad de la ONU, las audiencias en el Senado de los EE.UU., las tres cumbres sobre la seguridad de la Inteligencia Artificial (Londres, Seúl y Seattle), un “Informe Científico Internacional Sobre la Seguridad de la IA Avanzada” que se presentará en la próxima cumbre en Francia en 2025, la Declaración del Papa Francisco en el G-7, así como sesiones dedicadas en la UNESCO, la OCDE, la CEPAL, las regulaciones de la Unión Europea, China y la evolución legislativa en curso en distintos estados miembros. De manera similar, existen posiciones críticas bien conocidas de los propios desarrolladores de la IA y de científicos y técnicos de la comunidad de la TI. Todos ellos apuntan en la misma dirección: seguridad, gobernanza y coherencia con los derechos humanos.
Reconocemos el gran avance que significó la aprobación unánime de la Resolución de la Asamblea General “Aprovechando las oportunidades de sistemas de inteligencia artificial seguros, protegidos y confiables para Desarrollo Sostenible” dentro de las Naciones Unidas, así como el trabajo realizado por los grupos ad-hoc de expertos promovidos por la Secretaría General, “El Informe del Órgano Asesor de Alto Nivel sobre la Inteligencia Artificial: Gobernando la IA para la Humanidad”, y el consenso sobre este tema expresado en los documentos preparatorios del Pacto para el Futuro y el Pacto Digital Mundial. Estos son pasos e iniciativas muy importantes que van en el sentido y dirección correctos, y que, en nuestra opinión, requieren un fuerte apoyo político e institucional para continuar avanzando en un desarrollo de la IA seguro y acorde con los derechos humanos.
Sin embargo, creemos que es imprescindible ir más allá, recogiendo las opiniones y posiciones expresadas en los eventos antes mencionados, para abordar la Inteligencia Artificial en todas sus dimensiones y posibilidades, como la Inteligencia Artificial Estrecha y Generativa, la Inteligencia Artificial de propósito general, la Inteligencia Artificial General más avanzada, y los riesgos potenciales de los desarrollos que podrían conducir a una Súper Inteligencia Artificial.
Para lograrlo, una Agencia multilateral especializada en Inteligencia Artificial vinculada a la Secretaría General, debe estar equipada con personal, recursos y competencias, para estudiar, orientar, coordinar y proponer a los estados miembros las medidas y acciones necesarias.
Sin duda, Naciones Unidas es el espacio institucional clave para seguir avanzando en este sentido.
Las próximas sesiones sobre “La Cumbre del Futuro” y el “Pacto para el Futuro” deberían representar el comienzo de una nueva era de paz y seguridad para la humanidad, un compromiso ético y político de los Estados miembros con un futuro social, económico y ambientalmente sostenible. Esto no será posible si existen riesgos y amenazas existenciales, como una Inteligencia Artificial fuera de control, que no se aborda oportunamente.
Apelamos a Ud., señor Presidente, porque somos conscientes de su sensibilidad y comprensión de esta materia, y porque creemos que con su influencia y posición, puede impulsar un acuerdo en este sentido por parte de las Naciones Unidas en la próxima reunión de septiembre, para adoptar una Resolución para crear un comité dispuesto a redactar una Convención de las Naciones Unidas sobre IA con dos secciones, una sobre IAE y otra sobre IAG, que podría conducir a la creación de una Agencia especializada para la gobernanza y el desarrollo seguro de la Inteligencia Artificial en todas sus formas.
Para respaldar dicha decisión, le proporcionamos los estudios e investigaciones más recientes sobre la gobernanza de la IAG, (https://www.millennium-project.org/transition-from-artificial-narrow-to-artificialgeneral-intelligence-gobernanza/) que el Millennium Project ha llevado a cabo con la participación de los más altos representantes de la industria, la ciencia, la tecnología, la academia y la política, que sustentan nuestra preocupación y propuesta, así como un Documento resumen sobre Inteligencia Artificial General preparado para el Senado de los Estados Unidos, que refleja las principales preocupaciones de los firmantes de esta carta.
Firmamos esta carta abierta como representantes de The Millennium Project (TMP), la Federación Mundial de Estudios del Futuro (WFSF), la Asociación de Futuristas Profesionales (APF) y la Academia Mundial de Arte y Ciencias (WAAS), con el apoyo de los 71 Nodos del MP, personas e instituciones que se señalan en el anexo.
Atentamente,
Jerome Glenn, Director General, The Millennium Project
Erik Overland, President, World Future Studies Federation
Garry Jacobs, President & CEO World Academy of Art and Science
Junta Directiva
Elizabeth Florescu
Jerome Glenn, presidente interino
Concepción Olavarrieta
Carlos Perrottet
Pablo Safo
Ibón Zugasti
De oficio
José Cordeiro, RIBER
Nicolás Balcom Raleigh, FEN
Comité de Planificación
Asanga Abeyagoonasekera
Verónica Ágreda
Rosa Alegría
Mohsen Bahrami
Clem Bezold
Beatriz Bechara de Borge
Mara Di Berardo
Héctor Casanueva
Tamar Chachibai
Puruesh Chaudhary
Epaminondas Christophilopoulos
José Luis Cordeiro
Martín Kruse
Shermon Cruz
Cornelia Daheim
Francisco Dalmeier
Philippe Destatte
Mara Di Berardo
Pedro Miguel Diegues
Tihomir Divjak
Pablo Epping
Revista Jelel
Karl Friðriksson Nadezhda Gaponenko
lidia garrido Blaz Golob
Miguel A. Gutiérrez
Sirkka Heinonen
Brock Hinzmann
Arnoldo José de Hoyos
Reyhan Huseynova
Pramod Jaiswal
Zhouying Jin
Ivan Klinec
Hayato Kobayashi
Norberto Kolos
Rasigan Maharajh
Kamal Zaki Mahmoud
Stavros Mantzanakis
Carlos Marshall
Muhammad Al-Mheiri
Francisco José Mojica
Kate McCallum
Pavel Novaček
Concepción Olavarrieta
Fernando Ortega
Parque Youngsook
Carlos Perrottet
Cristina Pfeiffer
Adrián Pop
Estefanía Orgullo
David Rejeski
Saphia Richou
Stanley G.Rosen
Pablo Safo
Karl Schröder
Yair Sharan
Mihaly Simai
Nhokovedzo Simbarashe
Yarim Sosa
Rohit Talwar
Mariana Todorova
Pablo Werbos
David Madera Simone Di Zio
Ibón Zugasti
Nodos
Ámsterdam, Países Bajos
Arte/Medios, Global
Baku, Azerbaiyán
Beijing, China
Belgrado, Serbia
Berlín/Essen, Alemania
Bogota Colombia
Área de Bruselas, Bélgica
Budapest, Hungría
Bucarest, Rumania
Buenos Aires, Argentina
C. Europa: Checa, Polonia, Eslovaquia
El Cairo, Egipto
Caracas, Venezuela
Nodo Caribe
Colombo, Sri Lanka
Copenhague, Dinamarca
Nodo Cibernético, Internet
Dubai, Emiratos Arabes Unidos
África Oriental: Kenia, Tanzania, Uganda Helsinki, Finlandia
Harare, Zimbabue
Islamabad, Pakistán
Istanbul, Turquía
Katmandú, Nepal
Ciudad de Kuwait, Kuwait
Lima, Perú
Lisboa, Portugal
Liubliana, Eslovenia
Londres, Reino Unido
Manila, Filipinas
Melbourne, Australia
Ciudad de México, México
Montevideo, Uruguay
Moscú, Rusia
Nueva Delhi, India
Ciudad de Panamá, Panamá
París, Francia
Penang, Malasia
Pretoria/Johannesburgo, Sudáfrica
Pristina, Kosovo
Quebec/Toronto, Canadá
Reikiavik, Islandia
Roma/Pescara, Italia
San José, Costa Rica
San Sebastián y Madrid, España
Santa Cruz/La Paz, Bolivia
San Salvador, El Salvador
Santiago, Chile
Santo Domingo, República Dominicana
São Paulo y Curitiba, Brasil
Sudeste de Europa: Croacia, Montenegro, Eslovenia, Serbia
Seúl, República de Corea
Valle del Silicio, Estados Unidos
Sofía, Bulgaria
Tbilisi, Georgia
Teherán, Irán
Tel Aviv, Israel
Salónica y Atenas, Grecia
Tokio, Japón
Túnez, Túnez
Varsovia, Polonia
Wellington, Nueva Zelanda
El Proyecto Milenio Investigación de futuros globales 4421 Garrison Street, N.W. Washington, DC 20016 EE.UU. +1.202.686.5179
correo electrónico info@millennium-project.org www.estadodelfuturo.org
