IA, educación digital y familias ante el reto de proteger a los menores en las redes sociales

Las redes sociales se presentan como un espacio en el que los menores requieren medidas de seguridad específicas para evitar riesgos como el acoso, la visualización de contenido explícito o la promoción de comportamientos de riesgo, frente a lo que la inteligencia artificial (IA), la educación digital y el apoyo familiar se vuelven herramientas de protección esenciales, según Funditec Research.

El uso y la presencia de los menores de edad en las redes sociales representa un complejo debate abierto en la actualidad, con países que optan por la regulación de estas plataformas e, incluso, por prohibir el acceso de los menores a este tipo de servicios, como es el caso de Australia y Reino Unido.

Sin embargo, desde Funditec Research consideran que adoptar esta postura de prohibición frente a las redes sociales no frena el problema de base, dejando abierta la posibilidad de que los menores "encuentren atajos para llegar a ellas" y provocando que los padres "tengan la falsa sensación de que alguien se está encargando del problema".

Con motivo del Día Mundial de las Redes sociales, que se celebra cada 30 de junio, la organización ha puesto sobre la mesa cómo el uso de herramientas de IA, la educación digital y el apoyo familiar pueden servir de apoyo para detectar riesgos y proporcionar protección a los menores en estas plataformas, en lugar de apostar por la prohibición.

Como ha expresado al respecto el director de Funditec Research y experto en IA y ciberseguridad, Gonzalo Álvarez Marañón, en un comunicado, prohibir es "la respuesta más fácil a un problema complejo, que nos debería hacer desconfiar".

En su lugar, el experto ha matizado que impulsar otras estrategias a largo plazo es más útil, como es el caso de la alfabetización digital. Es decir, enseñar a los menores cómo funcionan los algoritmos, qué hacen las plataformas con sus datos y cómo identificar situaciones de manipulación. Esta perspectiva "produce ciudadanos más resilientes que cualquier prohibición de acceso", ha apostillado.

Siguiendo esta línea, Álvarez Marañón también ha apuntado a la función esencial de los padres en lo que a redes sociales respecta, que resulta igual de necesaria que el aprendizaje porque "ninguna ley sustituye la conversación entre padres e hijos", como ha valorado.

En este caso, el directivo ha asegurado que los menores que se desarrollan con referencias claras de tecnología proporcionadas por adultos, resultan ser "más resilientes" que los solo están "bajo protección legal", porque realmente el menor no comprende lo ocurrido y aprende a "eludir".

Junto a todo ello, Álvarez Marañón también ha apuntado al uso de herramientas impulsadas por IA como una opción de apoyo para detectar posibles riesgos en las redes sociales y, al mismo tiempo, proporcionar protección a los menores.

En este sentido, ha indicado que la IA se puede utilizar para "detectar patrones de acoso, contenido explícito o comportamiento de riesgos con bastante eficacia" en las redes sociales. Un ejemplo de ello es Meta, que utiliza sistemas de IA avanzados para aplicar de manera proactiva sus normas de contenido e identificar el contenido ilegal y más grave en sus plataformas. Además de estas herramientas de IA también se están aplicando en servicios de supervisión parental, como ha recordado Funditec.

A pesar de ser una tecnología de gran utilidad, se ha de tener en cuenta que, en ocasiones, también actúa como parte del problema, por ejemplo, impulsando el contenido falso distribuido en redes sociales y generado con IA como los 'deepfakes'.

Además, Álvarez Marañón ha apuntado igualmente que las herramientas de IA también pueden convertirse en "vigilancia generalizada si quien las opera no es la familia sino el Estado".

Por tanto, como especialista en ciberseguridad, el director de Funditec Research, ha abogado por "regular el diseño de las plataformas sin construir infraestructuras de identificación que pongan en riesgo la privacidad de todos los ciudadanos", dado que la vigilancia de los menores, no debe llevar implícita la de todas las personas.

Así, ha recordado su experiencia previa en proyectos europeos de I+D y ha hecho referencia a propuestas de la Unión Europea como la EUDI Wallet, una cartera de identificación digital que llegará a todos los ciudadanos europeos en este año, diseñada para "demostrar la mayoría de edad sin revelar nombre, fecha de nacimiento ni DNI".

Por otra parte, desde Funditec también han hecho hincapié en el diseño de las propias redes sociales, que está pensado para atrapar a los usuarios sin que se den cuenta, especialmente a los perfiles de menores.

Este punto de vista está respaldado por el último informe 'Impacto de la Tecnología en la Infancia y Adolescencia', elaborado por Unicef, que señala que alrededor de un 9 por ciento de los menores a nivel global entre 10 y 20 años dedican más de cinco horas diarias a las redes sociales.

Álvarez Marañón ha explicado que esto se debe, en parte, a que el cerebro de los adolescentes se encuentra en pleno desarrollo, especialmente la parte dedicada a regular el impulso y evaluar los riesgos. Por tanto, las redes sociales se aprovechan de esta situación y diseñan sus sistemas siendo conocedores de esa vulnerabilidad neurológica.

Esto se consigue mediante algunas amenazas principales como el diseño adictivo, la exposición al contenido dañino y sin filtros y "el acoso entre compañeros amplificado por la visibilidad pública", como ha valorado el experto.

"El 'scroll' infinito, las notificaciones, los sistemas de recompensa variable y los algoritmos que priorizan el contenido que provocan emociones intensas son fruto del diseño deliberado y no accidentes tecnológicos", ha sentenciado Marañón al respecto.

Además, aunque se trata de una amenaza menos visible, el director de Funditec Research también ha subrayado la explotación comercial de los datos de los menores por parte de las redes sociales y plataformas, una práctica que comienza desde el momento en el que se abre la cuenta del usuario en cuestión.

Como resultado, Álvarez Marañón ha recordado que las plataformas de redes sociales controlan cuestiones como las emociones inferidas por el tiempo de pausa ante cada contenido, las relaciones sociales, la localización y "patrones de comportamiento que revelan más que un diario secreto".

"El problema no es la tecnología en sí sino el modelo de negocio de las grandes plataformas que convierte la atención infantil en mercancía", ha sentenciado el director de Funditec Research.