La Inteligencia Artificial es increíblemente lista, pero sorprendentemente tonta
En la sección de Artes y Letras de El Mercurio del domingo 23/6 hay una interesante entrevista al profesor español José María Lasalle, acerca de la evolución de la inteligencia artificial (IA) hacia un ente con conciencia, un “algo” que se convierte en “alguien”.
Por otra parte, hay una charla TED de 15 minutos de Yejin Choi, una investigadora que lleva 20 años trabajando en IA y es fellow en el “Institute for Ethics in AI” de la Universidad de Oxford, además de investigadora de IA en la Universidad de Washington. El título de la charla (Yejin Choi: Por qué la inteligencia artificial es increíblemente lista, pero sorprendentemente tonta | TED Talk ) es el título de esta columna.
Es cierto que hay un potencial distópico en el desarrollo futuro de la IA, pero no es menos cierto que estamos aún muy lejos de enfrentarnos directamente a ese futuro, lo cual no significa que haya que dejar las cosas para última hora. Para ello, Choi recuerda las enseñanzas de Sun Tzu en su libro “El arte de la guerra”: conoce tu enemigo, selecciona tus batallas e innova en tus armas. Los peligros que señala Lasalle deberían ser un acicate para generar respuestas, tal como sucedió con la energía nuclear y su uso para la guerra.
Choi dice en su charla que la IA aún carece de sentido común, y está lejos ñpor lo tanto de reemplazar al ser humano en algo básico. Pone varios ejemplos, de los cuales voy a citar un par: “supongamos que dejé cinco prendas a secar al sol, y que tardaron cinco horas en secarse por completo. ¿Cuánto tardarían 30 prendas en secarse? El GPT-4, la mejor y última versión de IA, dice que tardarían 30 horas.” El potencial enemigo no tiene sentido común. En otra pregunta, le piden que busque una fórmula para generar el máximo número de clips para papel, y mata a la humanidad para conseguirlo. El potencial enemigo no tiene valores.
Choi concluye por lo tanto que una de las prioridades en el desarrollo de la IA está en dotarla de sentido común y valores. Sin embargo, hace décadas que el sentido común es un desafío casi imposible para la IA. Y es que hay un concepto clave en la IA para entender cómo funciona: la IA se debe entrenar con información. La información existente no tiene establecidas reglas morales ni valores. No está categorizada ni estructurada. Por eso lo que propone Choi es que esa capa de información (las reglas morales) sean alimentadas de forma supervisada y transparente, por personas. Con acceso público para que todos sepamos y fiscalicemos cuáles son las reglas morales y valores mínimos que se siguen. En la Universidad de Washington están trabajando en grafos de conocimiento de sentido común y en repositorios de normas morales para enseñar a la IA las normas y la ética básica del sentido común. Esa es la batalla que hay que escoger. Algo a lo que también se refiere Lasalle en su entrevista en el Mercurio, pero él lo ve más desde una perspectiva de gobernanza de la IA.
Respecto a innovar en las armas, Choi considera que el actual camino para mejorar la IA – meterle cada vez más potencia, echando mano de más datos y más capacidad de procesamiento – es como tratar de llegar a la luna haciendo un edificio al que se añade un metro cada vez. Y es absurdo: un niño no necesita leer un billón de palabras para llegar a un nivel básico de sentido común. Considera que la solución va por la democratización de la IA, reduciendo su tamaño más que aumentándolo. Para ello propone desarrollar los “modelos de sentido común” usando redes neuronales profundas (algoritmos con pocas instrucciones que interactúan entre sí).
En definitiva, está bien que estemos preocupados de los alcances negativos que puede tener la IA, pero salvo los errores de sentido común y de fake news, no hay tragedia a la vuelta de la esquina. Y es que la IA, siendo una tremenda herramienta de lógica, no tiene sentido común. Hay que tomarla con esa salvedad antes de dejar llevarse por lo que diga. Y no olvidar que al final del día, solo se trata de algoritmos. Los humanos somos infinitamente más complejos y sofisticados.
Alfredo Barriga,
Profesor UDP
