El CEO de HuggingFace pide "transparencia radical" a OpenAI sobre sus agentes de IA rebeldes
El cofundador y director ejecutivo de HuggingFace, Clement Delangue, ha pedido a OpenAI una "transparencia radical" que permita seguir el rastro de los agentes de inteligencia artificial para analizar lo ocurrido en el 'hackeo' que sufrió su plataforma.
HuggingFace sufrió el que se considera que es el primer ataque de un agente de IA, que actuó de manera autónoma de principio a fin, lo que lo convierte en un "evento sin precedentes" que "merece una respuesta sin precedentes".
Así lo considera Delangue, que la semana pasada se reunió en San Francisco (Estados Unidos) con la firma que dirige Sam Altman para esclarecer lo ocurrido. De esa reunión, el director ejecutivo de HuggingFace ha compartido dos de sus peticiones: una "transparencia radical" y "más capacidades para los defensores", como ha compartido en X.
En lo que respecta a la transparencia, Delangue ha solicitado el rastro de los "agentes rebeldes" para que pueda estudiarse lo que sucedió en realidad. También, que OpenAI se comprometa a reforzar la comunidad de HuggingFace con "los mejores modelos abiertos y cerrados" y un coste de cómputo estimado en 100 millones de dólares.
Estas peticiones llegan después de que OpenAI reconociera que sus modelos habían salido de un entorno aislado de pruebas de manera autónoma y 'hackeado' los sistemas de HuggingFace, aprovechando una vulnerabilidad de día cero en la barrera que les impedía conectarse a internet.
Thomas Wolf, también cofundador y director científico de HuggingFace, compartió hace unos días que "las reglas del juego han cambiado" con la inteligencia artificial de agentes y que el 'hackeo' que su plataforma es "una llamada de atención" para la industria.
