Empleados de OpenAI, Anthropic y Google piden al Gobierno de EEUU que regule el ritmo de desarrollo de la IA

Más de mil empleados de las empresas de inteligencia artificial OpenAI, Anthropic y Google han solicitado al Gobierno de Estados Unidos que respalde las medidas y herramientas que ayuden a "marcar el ritmo de forma deliberada" para evitar que el desarrollo de esta tecnología acelere hasta un punto en el que ya no se pueda controlar.

Empleados de las principales empresas de modelos de inteligencia artificial de frontera han firmado una carta abierta en la que piden reducir el ritmo de desarrollo, porque consideran que las capacidades de esta tecnología alcanzarán un punto en el que ya se pueda "comprender ni controlar los sistemas resultantes".

En su manifiesto, aunque recogen los potenciales beneficios que la IA puede tener para la sociedad, ya no lo hacen como una afirmación sino con un tiempo condicional al señalar que "podría contribuir a crear un futuro mucho mejor", pero reconocen que "este resultado no está garantizado".

Ante la proximidad de alcanzar la automatización de la investigación, y que el impacto de este avance puede llevar a perder el control de esta tecnología, los firmantes --1.178 en el momento de escribir esta noticia-- se han dirigido al Gobierno de Estados Unidos con la petición de que se involucre en la desaceleración de los trabajos sobre la inteligencia artificial.

Defienden que se necesita "regular de forma deliberada el progreso en este campo", ya que ademas de los beneficios que se han prometido desde el principio para la industria, el gobierno y la sociedad, también hay que abordar los riesgos emergentes que se derivan de la inteligencia artificial.

Para ello, para "ganar tiempo" que permita investigar estos riesgos, reclaman que hay que "desarrollar medidas de seguridad y fortalecer la supervisión", pero también entienden que es un trabajo conjunto y solicitan al Gobierno que "apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo de forma deliberada del desarrollo de la IA automatizada".

Este manifiesto, titulado 'Pacing the Frontier', está respaldado por el cofundador y director científico de Anthropic, Jared Kaplan; el director ejecutivo de Anthropic, Dario Amodei; el director de Investigación de OpenAI, Mark Chen;y el vicepresidente de Seguridad y Alineación de la IA en Google, Anca Dragan, entre otros.

El documento no cuenta con la firma del director ejecutivo de OpenAI, Sam Altman, quien recientemente ha hablado sobre la seguridad de la IA en el pódcast 'Invest Like the Best', presentado por Patrick O'Shaughnessy.

En él, Altman concedió que "quizás tengamos que moderar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad para que se adapte a algunos de estos nuevos niveles de capacidad", pero cree que hay que hacerlo sin que "parezca una captura regulatoria para todos y que tampoco parezca una colusión entre los laboratorios de vanguardia".

"Me aterra un mundo donde los temores reales sobre la IA se utilicen para decir: 'Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa, y solo ellos la entienden, pero no se preocupen, tomarán las decisiones correctas para todos nosotros'. No creo en eso", ha apostillado.