​Red Hat Acelera la Confianza y la Seguridad de la IA con la Adquisición de Chatterbox Labs

Red Hat, el proveedor líder mundial de soluciones de código abierto, anunció hoy la adquisición de Chatterbox Labs, pionero en seguridad de IA agnóstica al modelo y medidas de protección (guardrails) de IA generativa (gen AI). Esta adquisición añade capacidades críticas de "seguridad para IA" a la cartera de Red Hat AI, fortaleciendo los esfuerzos de la compañía para ofrecer una plataforma de IA empresarial de código abierto integral y diseñada para la nube híbrida.

Este anuncio se basa en un año de rápida innovación para Red Hat AI, tras la introducción de Red Hat AI Inference Server y el lanzamiento de Red Hat AI 3. Clientes de todo el mundo y de diversas industrias están adoptando Red Hat AI para impulsar la innovación a través de aplicaciones de IA generativa, predictiva y agéntica. A medida que las empresas pasan de la experimentación a la producción, se enfrentan a un desafío complejo: desplegar modelos que no solo sean potentes, sino también demostrables, confiables y seguros. Las capacidades de seguridad y medidas de protección son esenciales para las operaciones de aprendizaje automático (MLOps) modernas. Este enfoque en la seguridad y la confianza refleja el compromiso de Red Hat e IBM de ayudar a los clientes a adoptar una mentalidad de seguridad primero a medida que escalan la IA de manera responsable en entornos de nube híbrida. La integración de la tecnología de Chatterbox Labs crea una plataforma unificada donde la seguridad está integrada, fortaleciendo la capacidad de Red Hat para habilitar cargas de trabajo de IA de producción con cualquier modelo, en cualquier acelerador, en cualquier lugar.

Abordando las consecuencias no deseadas de la IA

Fundada en 2011, Chatterbox Labs aporta tecnología y experiencia críticas en seguridad y transparencia de la IA. Su experiencia en el riesgo cuantitativo de la IA ha sido elogiada por grupos de expertos (think tanks) independientes y formuladores de políticas a nivel mundial, y esta adquisición trae tecnología clave de aprendizaje automático a Red Hat.

Chatterbox Labs ofrece capacidades automatizadas y personalizadas de pruebas de seguridad de IA, proporcionando las métricas de riesgo fácticas que los líderes empresariales necesitan para aprobar el despliegue de IA a producción. La tecnología ofrece un enfoque sólido y agnóstico al modelo para validar datos y modelos a través de:

● AIMI para gen AI: Entrega de métricas de riesgo cuantitativas independientes para modelos de lenguaje de gran tamaño (LLMs).

● AIMI para IA predictiva: Validación de cualquier arquitectura de IA en pilares clave, incluyendo robustez, imparcialidad y explicabilidad.

● Medidas de protección (Guardrails): Identificación y corrección de prompts (indicaciones) inseguros, tóxicos o sesgados antes de poner los modelos en producción.

Asegurando la próxima generación de cargas de trabajo de IA

Esta adquisición se alinea con la visión de Red Hat de soportar diversos modelos y objetivos de despliegue en la nube híbrida. También complementa las capacidades con visión de futuro introducidas en Red Hat AI 3, específicamente para la IA agéntica y el Protocolo de Contexto de Modelo (MCP). A medida que las empresas adoptan la IA agéntica, los modelos confiables y seguros se vuelven aún más críticos, dado el papel complejo y autónomo de los agentes de IA y su impacto potencial en los sistemas centrales del negocio.

Chatterbox Labs ha realizado trabajos de investigación sobre la seguridad agéntica holística, incluyendo el monitoreo de las respuestas de los agentes y la detección de activadores de acción del servidor MCP. Este trabajo se alinea con la hoja de ruta de Red Hat para el Llama Stack y el soporte de MCP, posicionando a Red Hat para asegurar la próxima generación de cargas de trabajo inteligentes y automatizadas sobre una base confiable y lista para la empresa. Al combinar las capacidades de MLOps de Red Hat con las capacidades de medidas de protección de Chatterbox Labs, Red Hat permitirá a las organizaciones operacionalizar sus inversiones en IA con mayor confianza.

Steven Huels, vicepresidente de Ingeniería de IA y Estrategia de Productos, Red Hat

“Las empresas están llevando la IA del laboratorio a la producción con gran velocidad, lo que eleva la urgencia de despliegues de IA confiables, seguros y transparentes. La innovadora tecnología de pruebas de seguridad y medidas de protección agnósticas al modelo de Chatterbox Labs es la capa crítica de ‘seguridad para IA’ que la industria necesita. Al integrar Chatterbox Labs en la cartera de Red Hat AI, fortalecemos nuestra promesa a los clientes de proporcionar una plataforma de código abierto integral que no solo les permite ejecutar cualquier modelo, en cualquier lugar, sino hacerlo con la confianza de que la seguridad está integrada desde el principio. Esta adquisición ayudará a habilitar una IA verdaderamente responsable y de grado de producción a escala.”

Stuart Battersby, Ph.D., cofundador y Director de Tecnología, Chatterbox Labs

“A medida que los sistemas de IA proliferan en cada aspecto de los negocios y la sociedad, no podemos permitir que la seguridad se convierta en una caja negra propietaria. Es crítico que las medidas de protección de la IA no solo se desplieguen; deben ser rigurosamente probadas y respaldadas por métricas demostrables. Chatterbox Labs ha sido pionero en esta disciplina desde los primeros días de la IA predictiva hasta los sistemas agénticos del mañana. Al unirnos a Red Hat, podemos llevar estas métricas de seguridad validadas e independientes a la comunidad de código abierto. Esta transparencia permite a las empresas verificar la seguridad sin dependencia de un proveedor, lo que permite un futuro en el que todos podamos beneficiarnos de una IA segura, escalable y abierta.”