Los demócratas del Senado y un legislador independiente enviaron una carta al director ejecutivo de OpenAI, Sam Altman, con respecto a los estándares de seguridad de la empresa y las prácticas de empleo hacia los denunciantes.
Tal vez la parte más significativa de la carta , obtenida por primera vez por The Washington Post, fue el punto 9, que decía: «¿OpenAI se comprometerá a poner su próximo modelo base a disposición de las agencias del gobierno de EE.UU. para pruebas, revisión, análisis y evaluación previas a la implementación?»
La carta describió 11 puntos adicionales que deben abordarse, incluido el de asegurar el compromiso de OpenAI de dedicar el 20% de su poder computacional a impulsar la investigación y los protocolos de seguridad para evitar que un actor malintencionado o un adversario extranjero robe productos de IA de OpenAI.
Examen regulatorio
Si bien el escrutinio regulatorio no es nada nuevo para OpenAI y el sector de inteligencia artificial que lo abarca, la carta de los legisladores demócratas fue motivada por informes de denunciantes sobre estándares de seguridad laxos para GPT-4 Omni para garantizar que el lanzamiento del producto al mercado no se retrasara.
Los denunciantes de OpenAI también afirmaron que los esfuerzos por comunicar preocupaciones de seguridad a la gerencia fueron respondidos con represalias y acuerdos de confidencialidad supuestamente ilegales, lo que llevó a los denunciantes a presentar una queja ante la Comisión de Bolsa y Valores de Estados Unidos en junio de 2024.
Poco después, en julio, los gigantes tecnológicos Microsoft y Apple renunciaron a su membresía en la junta directiva de OpenAI debido al mayor escrutinio regulatorio. La decisión de no ocupar un puesto en la junta se produjo a pesar de la inversión de 13 mil millones de dólares de Microsoft en OpenAI en 2023.
Los temores existenciales persisten
El ex empleado de OpenAI, William Saunders, reveló recientemente que renunció a la empresa porque sintió que la investigación en curso en OpenAI podría representar una amenaza existencial para la humanidad , comparando la trayectoria potencial de OpenAI con el infame accidente del RMS Titanic en 1912.
Saunders aclaró que no estaba preocupado por la iteración actual del modelo de lenguaje grande ChatGPT de OpenAI, sino que estaba más preocupado por las versiones futuras de ChatGPT y el posible desarrollo de una inteligencia superhumana avanzada.
El denunciante argumentó que los empleados que trabajan en el sector de la inteligencia artificial tienen derecho a advertir al público sobre las capacidades potencialmente peligrosas que exhibe el rápido desarrollo de la inteligencia sintética.