Google, OpenAI, Microsoft, Amazon y otros se están uniendo a la Coalición para una IA Segura (CoSAI) para compartir información sobre cómo crear una IA «segura por diseño».
Google, OpenAI, Microsoft, Amazon, Nvidia, Intel y otros grandes nombres de la IA se están uniendo para formar la Coalición para una IA Segura (CoSAI), según un anuncio del jueves.
La iniciativa tiene como objetivo abordar un «panorama fragmentado de la seguridad de la IA» proporcionando acceso a metodologías, marcos y herramientas de código abierto.
No sabemos qué impacto tendrá CoSAI en la industria de la IA, pero las preocupaciones sobre la filtración de información confidencial y la discriminación automatizada vienen a la mente como ejemplos de preguntas sobre la seguridad, la privacidad y la protección de la tecnología de IA generativa.
Otras empresas que se unirán a CoSAI son IBM, PayPal, Cisco y Anthropic. CoSAI existirá dentro de la Organización para el Avance de Estándares de Información Estructurada (OASIS), un grupo sin fines de lucro que promueve el desarrollo de estándares abiertos.
CoSAI trabajará en tres objetivos para comenzar: desarrollar las mejores prácticas para la seguridad de la IA; abordar los desafíos en la IA; y proteger las aplicaciones de IA.
“Hemos estado utilizando la IA durante muchos años y vemos el potencial que tiene para los defensores, pero también reconocemos sus oportunidades para los adversarios”, afirma Heather Adkins, vicepresidenta de seguridad de Google, en un comunicado.
“CoSAI ayudará a las organizaciones, grandes y pequeñas, a integrar la IA de forma segura y responsable, ayudándolas a aprovechar sus beneficios y a mitigar los riesgos”.
Por Emma Roth para The Verge