Apple ha actualizado las Directrices de revisión de aplicaciones de la App Store para prohibir de forma más explícita las 'apps' que generan imágenes de desnudez con inteligencia artificial (IA) no consensuadas, con lo que los desarrolladores deberán eliminar proactivamente este contenido.
El material pornográfico está prohibido en la App Store desde hace tiempo, incluyendo aplicaciones que generan desnudez o imágenes sexualmente explícitas, así como 'apps' que crean este tipo de contenido de personas reales sin su consentimiento, sobre todo, actualmente mediante herramientas impulsadas por IA.
Sin embargo, la tecnológica ha sido objeto de críticas por permitir aplicaciones que generan este tipo de contenido en la App Store. Es el caso de X y la IA de Grok, que colmaron la red social con alrededor de tres millones de imágenes sexualizadas en enero de este año, incluidas 23.000 que representaban a niños y cerca de 1,8 millones en las que aparecían mujeres.
En este caso, los usuarios utilizaron la IA de Elon Musk para generar imágenes de desnudez con 'deepfakes' sexuales no consentidos y, a pesar de que Apple amenazó a xAI con retirar la aplicación del asistente de IA de la App Store, esta permaneció disponible en todo momento en la tienda.
De cara a revertir este tipo de situaciones, Apple ha anunciado ahora actualizaciones en sus Directrices de Revisión de Apps para "mantener la confianza tanto de usuarios como de desarrolladores", que refuerzan y amplían las protecciones existentes en la App Store, como ha detallado en un comunicado.
Concretamente, se han incluido de forma explícita en los requisitos de moderación de contenido las imágenes íntimas no consensuadas, incluidas las generadas con herramientas de IA. Por lo tanto, los desarrolladores deberán "prevenir y eliminar" de forma proactiva este contenido de sus 'apps'.
En caso de que los desarrolladores no implementen estas medidas de seguridad o que no corrijan las infracciones tras recibir una notificación, estarán expuestos a la infracción del Código de Conducta para Desarrolladores y, por tanto, podrán ser expulsados de la App Store.
Igualmente, Apple también ha subrayado en sus pautas que se prohíben las aplicaciones falsean su funcionamiento durante el proceso de revisión, es decir, aplicaciones que añaden o cambian funciones una vez aprobadas. Esto se traduce en que, si una aplicación se ha revisado y aprobado y, posteriormente, incluye funciones para generar contenido de desnudez, también serán prohibidas.
Finalmente, las pautas actualizadas aclaran que cualquier aplicación que permita "la trata de personas o la explotación de menores" se retirará de la App Store y permanecerá bloqueada para distribución alternativa.
"Nos comprometemos a impedir que los usuarios malintencionados accedan a la App Store, y contamos con procesos establecidos para revisar y sancionar las aplicaciones que infringen nuestras directrices", ha apostillado Apple.
Asimismo, ha detallado que, el pasado año, impidió que más de 150.000 aplicaciones con problemas de seguridad llegaran a los usuarios, además de cancelar más de 193.000 cuentas de desarrolladores por participar en fraudes y abusos de este estilo.
