OpenAI convierte GPT-Red en un "atacante muy potente" para reforzar la seguridad de sus otros modelos
OpenAI ha desarrollado GPT-Red, un modelo de IA avanzado con la capacidad de romper la seguridad de sus otros modelos para reforzar su seguridad que ha acabado convirtiéndose en un "atacante muy potente", lo que ha llevado a la compañía a mantenerlo alejado del resto para evitar que caiga en malas manos.
OpenAI ha entrenado a nivel interno varios modelos para dar apoyo a su equipo rojo (red team), un grupo especializado en simular ataques cibernéticos realistas contra los sistemas de la organización para identificar vulnerabilidades y fallos con el objetivo de reforzar las defensas.
De ellos, asegura que el mejor es el que han denominado GPT-Red, que ha sido entrenado con "una cantidad de cómputo sin precedentes dedicada exclusivamente a mejorar la seguridad", como detallan en un comunicado compartido en su blog.
Para su entrenamiento, OpenAI ha optado por el aprendizaje de refuerzo basado en el autojuego, en un entorno en el que GPT-Red ha puesto a prueba sus capacidades para insertar inyecciones de código malicioso frente a otros modelos; recibía una recompensa cada vez que conseguía provocar un fallo válido con una inyección de aviso, frente al premio que recibían los otros modelos por resistir el ataque y completar sus tareas originales.
Bajo este enfoque, "a medida que los defensores se vuelven más robustos, GPT-Red se ve obligado a descubrir ataques más fuertes y diversos", lo que, a la postre, significa que "se convierte en un atacante muy potente" con la capacidad de "romper prácticamente todos los modelos a los que se enfrenta, tanto internos como de producción".
GPT-Red se ha utilizado para el entrenamiento de los modelos de producción de OpenAI desde GPT-5.3, incluido GPT-5.6 Sol. En su presentación, la firma tecnológica destacó que este modelo, el más reciente, es "el conjunto de seguridad más robusto hasta la fecha", gracias a refuerzo de las protecciones para actividades de mayor riesgo, para solicitudes cibernéticas sensibles y para usos indebidos reiterados.
Las capacidades de GPT-Red han llevado a OpenAI a mantener este modelo separado del resto, para evitar que las capacidades maliciosas en las que ha sido entrenado caigan en manos de actores maliciosos. Y ha confirmado que aumentarán la capacidad de procesamiento y el volumen de datos, además de mejorar los algoritmos, "para entrenar futuras versiones de GPT-Red que superen al modelo actual".
