Inteligencia Artificial y la singularidad
Un estudio desarrollado por el Centro de Investigación Avanzada en Educación de la Universidad de Chile arroja un resultado muy preocupante. Con una muestra de más de cien estudiantes se concluye que quienes interactuaron con ChatGPT sobreestimaron cuánto habían aprendido y elaboraron respuestas de menor calidad que quienes recibieron la misma información sólo leyendo fuentes tradicionales. El experimento, además, hizo una investigación adicional: se le dió a leer a la muestra de estudiantes ciertos textos: el grupo que usó GPT mostró un mucho menor vocabulario que el grupo que solamente leyó los textos en forma tradicional. Esto pone de relieve la pregunta de si acaso es “malo” usar IA; la respuesta que sugiere la investigación no es ciertamente negativa y no induce a creer que prohibir instrumentos de IA en educación es el camino. Pero, para evitar la sensación de comprensión y confianza es necesario un “cable a tierra”, poniendo las soluciones en perspectiva. Aquí se revela el insustituible rol del profesor y del aula para las respuestas en perspectiva, analizar las soluciones por sus contenidos e implicancias y comparar con otros puntos de vista: no basta con repetir las fórmulas que se desprenden de un programa de IA. Pero estos hallazgos también insinúan el peligro que envuelve la expansión casi ilimitada del uso de la IA.
El debate es si acaso es posible conseguir una regulación limitante para los desarrollos de la IA. La revista TIME destacó recientemente las crecientes alertas sobre el avance de la inteligencia artificial: Investigadores de OpenAI y Anthropic han advertido que los modelos adquieren capacidades más rápidamente que los mecanismos diseñados para supervisarlos y controlarlos. Esto abre un debate acerca de cuán cerca estamos del punto de no retorno: cuándo la IA empiece a ”autocontrolarse” y con ello produzca un giro impensado en el desarrollo de la sociedad humana. Esto es lo que se denominó ya hace algunos años como “singularidad”, el punto de no retorno. Lo expresó el matemático Vine “Nosotros tendremos el desarrollo tecnológico para crear un superhombre inteligente; un poco después será el final del ser humano” (citado en Carrasco & Riveros (2020): “Automatización y la Inteligencia Artificial”).
Durante los primeros años de su auge, el foco estuvo puesto en todo lo que podía la IA podía hacer: escribir, programar, crear imágenes, investigar y, así, aumentar la productividad humana. Ahora, la pregunta comienza a ser diferente: la singularidad ocurre cuando los sistemas de IA pueden realizar acciones que sus propios controladores no han podido anticipar. Esto constituye una cierta ingobernabilidad de la IA, que más bien se estaría “autoregulando”. Con ello se cambiará el curso de la historia humana de forma irreversible. No es claro cómo prevenir esto, para poder así reducir las múltiples consecuencias en cuanto a la sociedad humana y su desarrollo. Lo que sí es claro es que, en medio de este gran desafío, la política y los políticos no serán posiblemente quienes puedan desarrollar una compleja y productiva regulación preventiva.
Las advertencias sobre una IA capaz de escapar del control humano existen hace tiempo, en un debate más bien académico y de especialistas en seguridad. Lo distinto ahora es que esas preocupaciones comenzaron a ser expresadas públicamente por personas que trabajan o trabajaron directamente en las compañías que desarrollan los modelos de inteligencia artificial más avanzados. Como lo plantea TIME, el problema principal es que ninguna empresa quiere frenar sus desarrollos mientras sus competidores avanzan, así como los EEEUU tampoco quiere desacelerar mientras China siga desarrollando su propia industria.
Prof. Luis A. Riveros
IEIPP - Universidad del Alba
