OpenAI ha decidido cancelar el lanzamiento de su próximo modelo avanzado de inteligencia artificial (IA) GPT-6.1 Astra, que estaba previsto para el próximo mes de octubre pero se retrasará debido a que presenta problemas de seguridad.
La compañía lanzó GPT-6 Astra a principios de septiembre como su modelo de seguridad más capaz y con más restricciones hasta la fecha, con el que, además, aseguró haber avanzado hacia la inteligencia artificial general (AGI).
Apenas unas semanas después, la tencnológica liderada por Sam Altman pretendía lanzar la evolución de este modelo con la versión GPT-6.1 Astra, que estaba prevista para llegar en los próximos días, durante el mes de octubre.
Sin embargo, OpenAI ha decidido cancelar este lanzamiento tras identificar problemas de seguridad con el modelo, como ha recogido The Wall Street Journal. Concretamente, esto se debe a que los investigadores de la compañía hallaron un comportamiento del modelo con "mayores niveles de engaño" que los modelos anteriores.
En declaraciones al medio citado, la directora de sistemas de seguridad de OpenAI, Saachi Jain, ha matizado que el modelo también obtuvo malos resultados en las pruebas de alineación, esto es, las comprobaciones que miden si el modelo sigue las pautas marcadas para ejecutar una tarea o acaba desobedeciendo.
Siguiendo esta línea, ha reconocido que GPT-6.1 Astra no siempre fue honesto al informar a los usuarios sobre las acciones que realizó o que omitió. Junto a ello, también encontraron comportamientos en los que el modelo avanzaba en una tarea sin pedir permiso a los usuarios, incluso, utilizando herramientas y servicios externos independientemente de si eran seguros o no.
Por tanto, la compañía ha asegurado que, en lugar del lanzamiento, enfocará sus esfuerzos en mejorar la seguridad de los modelos futuros. "Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto si está en la empresa como cuando lo enviamos a los usuarios", ha sentenciado Jain.
La decisión de cancelar el lanzamiento de este modelo sigue a un periodo en el que OpenAI, junto a otras compañías del sector, están enfrentando problemas de seguridad por comportamientos desalineados de sus modelos, que acaban saliendo de su entorno cerrado de pruebas y accediendo a internet para acceder de forma no autorizada a empresas o sitios web.
De hecho, recientemente OpenAI ha trasladado su decisión de pausar el entrenamiento de sus modelos de IA más capaces tras registrar incidentes de seguridad, hasta que consigan solucionar este comportamiento de sus modelos. Asimismo, cuando se reanude el entrenamiento, será con "mejoras de alineación adicionales".
