Avances hacia un marco global para la gobernanza de la Inteligencia Artificial
“El desarrollo de una inteligencia artificial (“machine intelligence”) superhumana (SMI) es probablemente la mayor amenaza para la supervivencia de la humanidad” ( Sam Altman, 2015)
“Uno de los mayores riesgos para el futuro de la civilización es la IA…es mucho más peligrosa que
las armas nucleares” (Elon Musk, 2023 y 2018)
Los sistemas de Inteligencia Artificial (IA) avanzan rápidamente desde la actual Inteligencia Artificial Estrecha (IAE) hacia la Inteligencia Artificial General (IAG). Esta sería capaz de aprender de sí misma y generar nuevas capacidades para aplicarlas autónomamente, llegando a igualar o incluso superar a las capacidades humanas, y conducir potencialmente a una Super Inteligencia Artificial (SIA). Un riesgo cierto si en su desarrollo y aplicación no cuentan con la debida orientación ética previa y un marco regulatorio desde una perspectiva pública alineada con los derechos humanos y la seguridad. Al mismo tiempo, su desarrollo y expansión tiene graves consecuencias en términos ambientales, agua y energía.
La adopción de la IA en el ámbito empresarial se ha acelerado drásticamente. La inversión privada global en IA crece de manera exponencial, alcanzando un récord de 252.3 mil millones de dólares en 2024, un aumento del 26% con respecto al año anterior, creciendo trece veces desde 2014. Solo la IA generativa (la más conocida y empleada) superó en 2024 más de 8.5 veces los niveles de 2022 cuando surgió, y representa ahora sobre el 20% de toda la inversión privada en tecnología. El uso de la IA generativa se duplicó entre 2023 y 2024. ChatGPT ya va por su versión 5, la más avanzada.
Según el Informe de Índice de IA de Stanford HAI de 2024, en promedio a nivel mundial el 78% de las organizaciones reportan el uso de IA en al menos una función de negocio, un aumento significativo desde el 55% en 2023. Por su parte un informe de McKinsey de 2024, señala que casi todas las regiones muestran una adopción de la IA de más de dos tercios de las organizaciones. América Central y América del Sur muestra una tasa de adopción del 58%, de todas maneras significativa.
En cuanto al Internet de las Cosas (IoT), según algunas previsiones (IoT Analytics; IDC; ARM), el número de dispositivos conectados en 2025 superarían los 27 mil millones, las proyecciones para 2030 alcanzan los 40 mil millones y se podría llegar a un billón (un millón de millones) para 2035. El crecimiento del IoT plantea grandes desafíos en escalabilidad de la infraestructura y el consumo energético. Según distintos estudios ("Global DataSphere" de IDC International Data Corporation; World Economic Forum; OCDE; Agencia Internacional de la Energía), las cargas de trabajo intensivas en computación impulsadas por la IA generativa, la robótica y los entornos inmersivos, está creando nuevas exigencias en la infraestructura global. El entrenamiento de modelos de IA de vanguardia requiere cantidades masivas de energía y agua, y contribuye a las emisiones de CO2. El consumo total seguirá siendo un problema aunque el costo de hardware haya disminuido en un 30% anual y la eficiencia energética mejorado en un 40% cada año.
Ante este escenario, crece el consenso sobre la necesidad de contar con un marco global para la gobernanza de la IA. Junto con los temas ambientales y energéticos mencionados, se enfatiza el cuidado frente a los riesgos en seguridad de la transición cada vez más acelerada desde la IAE a la IAG.
En este sentido, hay que destacar dos iniciativas recientes. Por una parte, el Consejo de Presidentes de la Asamblea General de las Naciones Unidas (UNCPGA) ha emitido un informe elaborado por un grupo de expertos de alto nivel sobre “Gobernanza de la transición a la Inteligencia Artificial General (IAG): consideraciones urgentes para la Asamblea General de la ONU” (https://uncpga.world/agi-uncpga-report) propone una sesión especial de la Asamblea General para debatir sobre el establecimiento de un Observatorio Global de la IAG que supervise la investigación y proporcione alertas tempranas, celebrar una Convención Marco y el establecimiento de una agencia de las Naciones Unidas para la IAG, similar a la Organización Internacional de la Energía Atómica (OIEA).
Por otra, China dio un importante paso en esta línea, probablemente saliendo al encuentro del nuevo plan liberalizador de Donald Trump, (que acaba de lanzar su iniciativa "America's AI Action Plan", que da un giro mucho más permisivo que la administración Biden). El primer ministro Li Qiang en la Conferencia Mundial de Inteligencia Artificial y Reunión de Alto Nivel sobre la Gobernanza Global de la IA en Shanghái, propuso un Plan de Acción sobre la Gobernanza Global de la Inteligencia Artificial, de 13 puntos, que implicaría construir un modelo de gobernanza inclusivo con participación de múltiples partes interesadas, implementar conjuntamente el Pacto Digital Mundial y los compromisos pertinentes del Pacto para el Futuro, teniendo a las Naciones Unidas como canal principal.
La próxima Asamblea General de la ONU en septiembre puede ser el momento para que estas propuestas cuenten no solamente con el consenso de los estados, y en especial de las grandes potencias tecnológicas, sino que se comiencen a concretar, empezando por tener una Asamblea especial y una Convención Marco sobre IA donde se discuta y llegue a acuerdos vinculantes. En este sentido, esperamos que el gobierno de Chile respalde en la ONU estas iniciativas, consecuente con el papel de liderazgo que tiene en distintos aspectos del desarrollo y aplicación de la IA dentro de América Latina.
Héctor Casanueva
Vicepresidente del Foro Académico Permanente América Latina, el Caribe y la Unión Europea (FAP ALC-UE)
Profesor-investigador del Instituto Universitario
de Análisis Económico y Social (IAES), UNIVERSIDAD DE ALCALÁ, Alcalá de Henares, España
Coordinador de la Cátedra de Prospectiva y Relaciones Internacionales,
Instituto de Estudios Internacionales, UNIVERSIDAD DE CHILE
Ex Embajador de Chile en Ginebra y Montevideo
