El creador de Signal lanza un 'chatbot' de IA privado

Moxie Marlinspike ha replicado la privacidad que ofrece en la aplicación Signal en un nuevo 'chatbot' de inteligencia artificial (IA) llamado Confer, con el que las conversaciones solo están al alcance del usuario.

Confer está diseñado para que las conversaciones que mantienen los usuarios con una IA sean privadas, al igual que lo son las conversaciones que tienen con otras personas cara a cara.

Se trata de una respuesta a los modelos de lenguaje de gran tamaño (LLM) y la forma en que las personas se comunican con ellos, mediante conversaciones que dan la impresión de generar intimidad, y que acaban convirtiéndose en algo parecido a un diario personal.

A los 'chatbots' de IA se les cuenta de todo, como si fuesen amigos o confidentes, pero en realidad son "un punto final de API a un lago de datos diseñado específicamente para extraer significado y contexto".

Al igual que hizo al crear Signal, Marlinspike ha desarrollado un 'chatbot' privado, protegido con encriptación de extremo a extremo, al que puede accederse desde la web en cualquier sistema opertivo con el uso de las claves de acceso o 'passkeys' gracias a la extensión WebAuthn PRF para Chrome, Safari y Firefox -aunque todavía no tiene soporte en todas las plataformas y en algunas requiere un gestor de contraseñas-.

De esta forma, Confer protege el historial de chat con una clave privada que nunca abandona el dispositivo del usuario, y para que la interacción sea segura, la conversación se desarrolla en un entorno de ejecución de confianza (TEE).

La inferencia, "el momento en que tu solicitud llega a un LLM y recibes una respuesta", como explica Marlinspike, se ejecuta dentro de una máquina virtual confidencial. Las indicaciones de los usuarios se cifran en el TEE desde el dispositivo, se procesan allí y las respuestas se devuelven a los usuarios también encriptadas.

Aunque el proceso en realidad incluye más protocolos de seguridad, también en el procesamiento, en general, ello significa que el servidor nunca tiene acceso a la conversación de los usuarios con el 'chatbot', y tampoco las empresas que lo gestionan, porque nunca se guardará en texto plano.

Marlinspike también incide en que las conversaciones no se usan para entrenar ningún modelo de IA, ni se venden a terceros ni se comparten con nadie. E insiste en que solo los usuarios pueden acceder a sus datos.