En un movimiento sin precedentes, OpenAI y Anthropic colaborarán con el Instituto de Seguridad de IA de EE.UU. para asegurar un desarrollo seguro y responsable de la inteligencia artificial.
OpenAI y Anthropic, dos de las startups más influyentes en el campo de la inteligencia artificial, han firmado acuerdos con el gobierno de Estados Unidos para la investigación, prueba y evaluación de sus modelos de IA, según anunció el Instituto de Seguridad de IA de EE.UU.
Estos acuerdos, los primeros de su tipo, surgen en un momento crítico en el que las empresas enfrentan un creciente escrutinio regulatorio sobre el uso seguro y ético de las tecnologías de IA.
En California, los legisladores se preparan para votar sobre un proyecto de ley que busca regular de manera amplia el desarrollo y despliegue de la IA en el estado.
Jack Clark, cofundador y jefe de políticas en Anthropic, respaldada por gigantes como Amazon y Alphabet, comentó: «La IA segura y confiable es crucial para el impacto positivo de la tecnología. Nuestra colaboración con el Instituto de Seguridad de IA de EE.UU. aprovecha su amplia experiencia para probar rigurosamente nuestros modelos antes de su despliegue masivo».
En virtud de estos acuerdos, el Instituto de Seguridad de IA de EE.UU. tendrá acceso a los nuevos modelos principales de OpenAI y Anthropic antes y después de su lanzamiento público.
Esto permitirá una investigación colaborativa para evaluar las capacidades de los modelos de IA y los riesgos asociados con ellos.
Jason Kwon, director de estrategia en OpenAI, destacó la importancia de la colaboración: «Creemos que el instituto tiene un papel crítico en definir el liderazgo de EE.UU. en el desarrollo responsable de la inteligencia artificial y esperamos que nuestro trabajo conjunto ofrezca un marco que el resto del mundo pueda seguir».
Elizabeth Kelly, directora del Instituto de Seguridad de IA de EE.UU., afirmó: «Estos acuerdos son solo el comienzo, pero son un hito importante mientras trabajamos para ayudar a gestionar de manera responsable el futuro de la IA».
El Instituto de Seguridad de IA de EE.UU., que forma parte del Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE.UU., también colaborará con el Instituto de Seguridad de IA del Reino Unido y proporcionará retroalimentación a las empresas sobre posibles mejoras de seguridad.
El instituto fue lanzado el año pasado como parte de una orden ejecutiva de la administración del presidente Joe Biden para evaluar los riesgos conocidos y emergentes de los modelos de inteligencia artificial.