Sharon Li y los avances en la protección de sistemas de Inteligencia Artificial

Una mujer ha destacado como pionera en una función de seguridad que apoya a los modelos de inteligencia artificial, en la determinación de cuándo deben abstenerse de actuar; especialmente, cuando se enfrentan a situaciones para las cuales no han sido entrenados. Nos referimos a Sharon Li, profesora adjunta de la Universidad de Wisconsin, Madison (EE. UU.), quien fue reconocida como la Innovadora del Año 2023 por el MIT Technology Review.

“En particular, mi investigación se centra en fundamentos algorítmicos y teóricos para permitir que los modelos de aprendizaje automático funcionen de manera confiable en el mundo abierto”, describe quien desarrolló los primeros algoritmos de OOD, más conocida como “detección fuera de distribución”. Una capacidad que permite contener y evitar acciones para las cuales los sistemas no tienen indicación, entrenamiento ni registro.

La iniciativa fue distinguida en 2023 por NeurIPS, una de las conferencias de IA más prestigiosas del mundo, y en la actualidad hay empresas como Google que han establecido equipos dedicados a integrar la detección de OOD en sus productos. El MIT señaló que la indagación de Li podría prevenir fallos de los equipos ante escenarios desconocidos e inesperados, replanteando una solución que aborda la incertidumbre bajo el aprendizaje automático y la adaptación con datos. Todo sobre la marcha.

Hablamos de un descubrimiento asombroso para prevenir accidentes. Se me ocurren varios ejemplos. Cuando los coches autónomos se encuentren con objetos desconocidos, o cuando aseguren que la llegada a un destino sea exacta y segura, o cuando busquen efectividad para el descubrimiento de enfermedades, o cuando se enfrenten a información perniciosa para la población, su estructura estará preparada con una respuesta correcta. Y si no la tiene, preferirá la abstención que lo inexacto o incorrecto.

El artículo del MIT que la anunció como la ganadora hizo memoria de un incidente en Moscú, con la noticia de un brazo robótico que fracturó el dedo de un niño de siete años. La herramienta lo capturó mientras movía una pieza de ajedrez. Hubo que ocupar fuerza para dejar libre la extremidad del menor, ya que su programación no dudó en ningún momento que eso era una pieza del juego. Con este avance, eso quedaría en el pasado y ninguna extremidad sería confundida.

El trabajo de Sharon Li en la detección fuera de distribución y en la seguridad de los prototipos de inteligencia artificial es un avance significativo y que puede mejorar considerablemente la fiabilidad y la garantía de las herramientas basadas en ella. Sin embargo, es importante comprender que es parte de una ciencia en constante evolución, siempre con desafíos y riesgos asociados con su uso. Es una solución poderosa que puede mejorar muchas áreas de nuestras vidas, pero también plantea retos éticos, de resguardo y de privacidad que deben tratarse de manera cuidadosa y reflexiva.

¿Cómo lograrlo? En mi opinión, con un compromiso conjunto de la comunidad científica, las empresas de tecnología y los reguladores, para habilitar la innovación continua, la colaboración entre diferentes sectores y la creación de estándares y marcos regulatorios que garanticen la implementación adecuada. Además, es fundamental educar a los usuarios sobre la importancia de la protección personal y la transparencia en los sistemas. El reconocimiento a la investigación de Sharon Li es un buen paso para ello.

Nicolás Vilela

CEO de ZTZ