Snapchat introduce un filtro en My AI para ofrecer respuestas apropiadas a los usuarios según su edad

Snap ha anunciado que ha incorporado un filtro de edad que le permite a la inteligencia artificial (IA) integrada en su red social, My AI, conocer la edad de los usuarios y ofrecerles respuestas apropiadas a su edad.

A finales del pasado mes de febrero, la compañía introdujo en su plataforma el 'chatbot' My AI, que ejecuta la tecnología ChatGPT, desarrollada por OpenAI, en una versión personalizada para Snapchat.

Esta herramienta, disponible para suscriptores de Snapchat+, es capaz de "recomendar ideas de regalos, planear una excursión de senderismo o sugerir recetas para cenar", según comentó la red social en un comunicado.

Un periodista de The Washington Post ha llevado a cabo unas pruebas con esta característica y ha determinado que aunque Snapchat "intenó crear una IA segura", algunas conversaciones con My AI "pueden volverse tremendamente inapropiadas", haciendo mención a temas como el alcohol y el sexo.

Para solucionar este problema, la compañía ha anunciado nuevas herramientas que fomentan la experiencia de uso segura e incluyen un filtro apropiado para la edad de los usuarios que la utilizan. Ete permite a la IA saber la fecha de nacimiento de los usuarios para elegir respuestas acordes a sus necesidades.

La plataforma ha reconocido que ha analizado "las consultas y respuestas de My AI que contienen lenguaje no adecuado", es decir, "cualquier texto que incluya referencias a la violencia, términos sexualmente explícitos, consumo de drogas ilícitas, abuso sexual infantil, acoso, incitación al odio, declaraciones despectivas, racismo, misoginia o marginación de grupos infrarrepresentados".

Si bien ha admitido que "solo el 0,01 por ciento de las respuestas se consideraron 'no conformes', también ha insistido en que se toma "muy en serio" la responsabilidad que tiene en el momento "de diseñar productos y experiencias que prioricen la seguridad y la adecuación a la edad", según su último comunicado.

Por eso, ha tomado la decisión de añadir la tecnología de moderación de OpenAI a sus herramientas, lo que le permitirá "evaluar la gravedad del contenido potencialmente dañino y restringir temporalmente" el acceso de los usuarios a My AI "si hacen un mal uso del servicio".

Una de las nuevas herramientas permite a la IA saber la fecha de nacimiento de los usuarios y les proporciona respuestas apropiadas para su edad y la tendrá en cuenta "constantemente" para ofrecer el mejor contenido a los usuarios.

Por otra parte, la plataforma ha anunciado que en las próximas semanas dará más información a los adultos sobre el uso que le dan los menores a My AI a través de la herramienta Centro familiar, integrado en la aplicación.