California busca profundizar en la regulación de la inteligencia artificial (IA) y para ello ha propuesto incorporar auditores independientes en los laboratorios tecnológicos que desarrollan esta tecnología e incorporar un botón de apagado en los modelos de frontera.
El gobernador de California, Gavin Newsom, ha abogado por aumentar la supervisión de la inteligencia artificial con un mecanismo de seguridad integral, para lo que ha solicitado la colaboración de externos nacionales, quienes deberán entregar recomendaciones en un plazo de dos meses, como recoge en una orden ejecutiva (N-9-26).
En esta orden propone que los laboratorios de IA, como Anthropic, OpenAI y Google, incorporen de manera obligatoria personal de verificación independiente que realice de manera periódica evaluaciones y auditorías. También contempla que los marcos de trabajo, los informes de transparencia y las evaluaciones de riegos sean auditados y validados de manera independiente.
A ello se une la creación de un mecanismo de apagado de emergencia para los modelos de frontera, cuya eficacia debe ser verificada continuamente por entidades independientes.
Newsom, asimismo, ha propuesto ampliar la definición de 'incidentes de seguridad críticos', que las empresas están obligadas a reportar, para incluir situaciones de pérdida de control de los sistemas de IA, como el de Hugging Face y otros protagonizados por agentes de IA de Anthropic, Google y OpenAI recientemente.
Con estas propuestas, Newsom busca afianzar el papel de California no solo como centro de la innovación en inteligencia artificial -- alberga 32 de las 50 principales empresas privadas de IA del mundo--, sino también impulsor de una legislación que equilibre el crecimiento económico con la seguridad y la privacidad del consumidor.
La propuesta de Newsom sobre un botón de apagado sigue a los trabajos que ya ha empezado a hacer OpenAI al respecto, como se conoció a principios de septiembre.
