Amazon ha detectado material de abuso sexual infantil en una base de datos que planeaba utilizar para entrenar sus modelos de inteligencia artificial, aunque lo eliminó antes y lo notificó a las autoridades, como parte de una tendencia cada vez mayor en la industria.
Amazon es una de las grandes tecnológicas que desarrolla inteligencia artificial y para su entrenamiento requiere de grandes cantidades de datos, lo que le lleva a recurrir a conjuntos de datos ya disponibles en internet.
En uno de esos conjuntos, la compañía encontró material de abuso sexual infantil y lo denunció al National Center for Missing and Exploited Children (NCMEC), como recoge Bloomberg.
Amazon asegura que eliminó ese material del conjunto de datos antes de utilizarlo en el entrenamiento de su IA. Esto ocurrió el año pasado y es solo uno de los más de un millón de casos que se reportaron al NCMEC en 2025.
Según el medio citado, la mayor parte de esos informes los ha presentado Amazon. "Adoptamos un enfoque deliberadamente cauteloso al escanear los datos de capacitación del modelo básico, incluidos los datos de la web pública, para identificar y eliminar [material de abuso sexual infantil] conocido y proteger a nuestros clientes", ha explicado un portavoz a Bloomberg.
La cifra, además, muestra una tendencia ascendente frente a los 67.000 informes relacionados con la IA que la industria tecnológica envió al NCMEC en 2024 y los 4.700 de 2023.
Estos informes pueden incluir desde fotografías y vídeos generados por IA hasta conversaciones sexualmente explícitas con 'chatbots' e incluso fotografías de víctimas reales. Al respecto, el portavoz ha asegurado que hasta ahora ninguno de los informes que han presentado contenía material generado por IA.
Sin embargos, estos informes relacionados con la IA son una pequeña parte de los que el NCMEC recibe. La categoría más grande incluye material de abuso sexual infantil intercambiado en mensajería privada o cargado en las redes sociales y la nube.
