Las normas de Meta sobre el etiquetado de 'deepfakes' son deficientes, según el Consejo Asesor
Las normas de Meta sobre el etiquetado de contenidos generados por inteligencia artificial (IA) presenta deficiencias, especialmente en los de 'alto riesgo', que el Consejo Asesor de Contenido considera que deberían solucionarse con una modificación que incluya la desmonetización y que registre las etiquetas en una biblioteca de metadatos.
El Consejo ha revocado la decisión de Meta de mantener un vídeo en Facebook, en el que se mostraba la imagen de una concejala del Partido Laborista en Escocia dando un discurso generado por IA contrario a su ideología, pese a haber sido denunciado, que la compañía descargó para revisión por humanos.
A criterio del Consejo, el vídeo infringió las normas de Meta sobre desinformación y conducta de odio. Por la primera, considera que no es suficiente para justificar su eliminación, sino que debería haber recibido la etiqueta de 'IA de alto riesgo'. En lo que respecta a las políticas de delito de odio, el Consejo ha revocado al decisión de Meta de mantener publicado el vídeo y exigido su eliminación, como recoge en un comunicado.
Además, señala la necesidad de que Meta refuerce sus políticas sobre 'deepfakes' --los contenidos generados o manipulados con IA de resultado hiperrealista--. En este sentido, ampliar el alcance de la etiqueta de 'Alto riesgo' e incluso incluir un elemento que obligue a hacer clic en el contenido etiquetado para poder verlo.
Defiende que el contenido etiquetado como de 'Alto riesgo' debe ser desmonetizado, degradado y desaparecer de las recomendaciones, así como que Meta sea transparente con el número de veces que se aplican las etiquetas de IA a contenidos de o sobre políticos.
A ello añade la necesidad de que las etiquetas de la política de desinformación (que incluyen 'Información sobre IA', 'Alto riesgo' e 'IA de alto riesgo') sean visibles en la biblioteca de metadatos y que el contenido pueda buscarse mediante filtros.
