Microsoft restringe el acceso a Claude Fable a sus trabajadores por su política de retención de datos

Microsoft ha tomado la decisión de restringir a sus trabajadores el uso de Claude Fable 5, el primer modelo de inteligencia artificial (IA) de clase Mythos que llega al público en general, por el desconcierto que ha generado la nueva política de retención de datos en su equipo legal.

Microsoft ha desactivado temporalmente Claude Fable 5 del selector de modelos al que pueden acceder sus empleados para la versión interna de GitHub Copilot, según ha informado Tom Warren de The Verge a partir de fuentes cercanas a la tecnológica, mientras el resto de modelos de Claude siguen disponibles bajo la política de Retención Cero de Datos (ZDR).

El motivo se encuentra en las dudas que ha generado en el departamento legal de la compañía tecnológica el tratamiento de los datos con la nueva política que ha aplicado Anthropic a su nuevo modelo Claude Fable 5.

Esto se debe, sobre todo, a la importancia que tienen a nivel empresarial los datos de sus clientes y la información confidencial que los trabajadores podrían compartir mientras operan con el nuevo modelo de clase Mythos.

Claude Fable 5 fue lanzado este miércoles como el primer modelo de clase Mythos disponible de forma general, y requiere la retención de datos para que los nuevos clasificadores de Anthropic puedan operar y evitar que se realicen consultas sobre ciertos temas como biología y ciberseguridad.

La tecnológica de IA conserva los 'prompts' y los resultados, y los elimina tras 30 días, aunque puede llegar a almacenarlos hasta por dos años si se detecta que han violado la política de uso de Anthropic, como explica en su web.

Esta medida es nueva, sobre todo, para las cuentas de empresas (Enterprise) que tenían configurados entornos con Retención Cero de Datos (ZDR), así como para quienes acceden a través de plataformas en la nube como AWS Bedrock, Google Cloud o Microsoft Foundry, aunque para los usuarios de los planes gratuito, Pro y Max, los datos ya se guardaban antes y se siguen guardando ahora.

Anthropic explica que, aunque Claude Fable 5 comparte el mismo modelo que Claude Mythos 5, incluye restricciones de seguridad para que cualquier usuario lo pueda utilizar, aunque bajo unas medidas conservadoras que les permitan identificar los patrones de uso indebido en esta clase de modelos.

Anthropic aclara que detectar ciertas amenazas, como el 'jailbreaking' de tipo 'Best-of-N'(que envía cientos de variaciones leves de un 'prompt' con la idea de que alguno funcione), requiere "retener temporalmente las instrucciones y los resultados para que puedan ser analizados en conjunto, en lugar de uno a la vez".

De hecho, las salvaguardas del modelo comercial Fable 5 no están aplicadas en el modelo Claude Mythos 5, anunciado por Anthropic este miércoles, porque solo tiene acceso un grupo muy limitado de organizaciones que están poniendo a prueba la capacidad de Mythos 5 en disciplinas como la ciberseguridad.