OpenAI presenta un nuevo plan estratégico para prevenir y detectar el uso de la IA en la explotación sexual infantil
OpenAI ha presentado un nuevo plan estratégico de actuación para combatir la explotación sexual infantil facilita por la inteligencia artificial, con el que busca detectar con mayor rapidez el material de generado y alterado con esta tecnología y reforzar la seguridad de los modelos de IA.
El nuevo plan estratégico se ha establecido con las opiniones de organizaciones y expertos, y pretende fortalecer los marcos de protección infantil en Estados Unidos, como se informa en un comunicado compartido en su blog.
Establece tres prioridades, empezando por la necesidad de modernizar las leyes para poder abordar el material de abuso sexual infantil que se genera y modifica con herramientas de inteligencia artificial generativa.
También pretende mejorar la investigación de los casos detectados, mediante informes y la coordinación entre los proveedores de servicios de IA, así como incorporar medidas de seguridad desde el diseño directamente en los sistemas de inteligencia artificial.
El objetivo es prevenir y detectar el uso indebido de esta tecnología para poder actuar con rapidez. "Este marco integra enfoques legales, operativos y técnicos para identificar mejor los riesgos, acelerar las respuestas y fomentar la rendición de cuentas, al tiempo que garantiza que las autoridades encargadas de hacer cumplir la ley se mantengan sólidas a medida que evoluciona la tecnología", asegura la compañía.
