Las empresas de redes sociales y servicios de contenido en 'streaming' han abierto a los usuarios un pequeño reducto de control para ajustar los contenidos que el algoritmo de recomendación les muestra, pero que no resuelve la efectividad con la que se ajusta a sus intereses reales ni el problema más de fondo de su funcionamiento.
El algoritmo de recomendación es un sistema automatizado que usa la inteligencia artificial para ofrecer nuevos contenidos a los usuarios, habitualmente a partir del análisis de los datos de su actividad en la plataforma social: dónde hacen clic, cuánto tiempo se paran a ver un vídeo o a escuchar una canción, en qué fotografía han marcado un 'Me gusta', entre otros factores.
Está presente en servicios como Instagram, Netflix, TikTok, Spotify y YouTube, por citar algunos, como una forma de atrapar la atención de los usuarios con vídeos, fotografías o canciones que encajen con sus intereses y que les mantengan en la plataforma o les hagan querer regresar a ella.
Por lo general, la gente no tiene control sobre lo que se muestra en las recomendaciones. Sí pueden eliminar búsquedas o el historial al completo, o indicar que un contenido les gusta o no les interesa para intentar modificar la frecuencia con la que aparecen.
Sin embargo, ello no impide que el algoritmo muestre recomendaciones que no siempre encajan con las preferencias de los usuarios. Es más, ocurre que incluso cuando se ha intentado modificar el algoritmo a través de los contenidos que se consumen (procurando centrarse exclusivamente en aquellos de los que sí se quieren recibir otros similares), un solo clic o un segundo de más en una foto o vídeo diferente ha echado por tierra el esfuerzo.
En los últimos meses, Pinterest, TikTok, Instagram, Threads y Spotify han anunciado una nueva herramienta de configuración, ya implementada o en pruebas, con la que los usuarios pueden pedir si quieren ver más o menos cantidad sobre determinados temas en las recomendaciones.
En el caso de Pinterest, este ajuste se limita a los contenidos generados por IA y permite activar o desactivar una serie de categorías propuestas por la red social. TikTok, por su parte, ya incluía una barra con la que gestionar los temas, que puede moverse a la izquierda para ver menos contenidos o a la derecha para ver más, que ahora también permite modificar la frecuencia con la que aparecen los contenidos generados por IA.
Instagram permitirá elegir los temas --algunos sugeridos por la IA, otros introducidos manualmente por los usuarios-- sobre los que quieren ver más vídeos cortos ('reels'), para que aparezcan con más frecuencia, o eliminarlos, para reducirla. En el caso de Threads, la compañía tecnológica apuesta por un enfoque diferente: pedirle directamente al algoritmo que muestra más o menos contenidos de temas concretos, mediante el comando 'Dear Algo' (Querido algoritmo).
A esta pequeña apertura de personalización se ha unido Spotify con la prueba de una nueva lista de reproducción en la que, mediante instrucciones, los usuarios pueden ajustar el tipo de canciones que quieren escuchar. Para el resto de recomendaciones, ofrece lo que llama el 'perfil de gusto', con el que los usuarios pueden eliminar canciones individuales y listas de reproducción que no sean de su interés.
UN ALGORITMO QUE ATRAPA A LOS USUARIOS
La falta de control sobre el algoritmo de recomendación es una de las principales críticas que recibe este elemento central de redes sociales y servicios de 'streaming', diseñado para suministrar contenido de manera continua y retener a los usuarios.
Algunas plataformas muestran unos pocos contenidos sobre los que se puede hacer clic, que se actualizan constantemente, mientras que otras muestran las recomendaciones en una sucesión de contenidos sin fin que obliga a desplazarse por la pantalla de abajo a arriba para seguir viendo.
su diseño ha provocado la aparición de lo que se conoce como 'doom scrolling', el fenómeno por el que los usuarios avanzan entre las recomendaciones de manera compulsiva, que puede tener efectos adversos en su salud, como cansancio, ansiedad o culpa por dedicarle demasiado tiempo.
Estas consecuencias con más notables entre los adolescentes, que han protagonizado numerosas noticias por los problemas de adicción a las redes sociales y los problemas de salud mental, como los trastornos de imagen, incluida la dismorfia corporal, la pérdida de concentración, de capacidad crítica y de habilidades sociales.
Según un estudio reciente de OnePlus, los españoles llegan a perder de media casi dos días al mes haciendo 'scroll' en redes sociales, y caen en el 'scroll absurdo' en todos los ámbitos, aunque con mayor frecuencia mientras están tumbados en la cama, viendo una película o serie o en el baño.
Para mitigar en cierta forma este impacto negativo, las redes sociales han introducido notificaciones y limitaciones sobre el tiempo de uso, dirigidas sobre todo a los usuarios más jóvenes, con la forma de controles parentales y cuentas específicas para adolescentes, para implicar a los adutos en su relación con estos servicios digitales.
Asimismo, algunos estudios han señalado que las recomendaciones en ocasiones incluyen contenidos que vulneran las propias políticas de las plataformas, como la desinformación o la apología al odio, que los usuarios pueden consumir de manera intensa, mientras hacen 'scroll', sin percatarse de ello.
Por la cantidad de datos que manejan y el impacto que tienen en las personas, una de las peticiones a las firmas tecnológicas desde hace años es que sean más transparentes con su algoritmo de recomendación y con su entrenamiento, sobre todo con los factores que realmente influyen en los resultados que ofrece y su funcionamiento.
La denuncia de sesgos, ya sean raciales, ideológicos o de otra índole, también han sido una constante, fruto de los prejuicios presentes en los datos de entrenamiento.
