Google, Microsoft y xAI permitirán al Gobierno de Estados Unidos acceder de manera anticipada a versiones preliminares de sus modelos de inteligencia artificial para evaluar posibles riesgos relacionados con la ciberseguridad y la seguridad nacional antes de su lanzamiento oficial.
El anuncio fue realizado por el Instituto Nacional de Estándares y Tecnología (NIST, por sus siglas en inglés), que informó que estos acuerdos fortalecerán el trabajo del Centro de Estándares e Innovación de IA (CAISI), organismo dependiente del Departamento de Comercio de Estados Unidos encargado de analizar el impacto de las nuevas tecnologías de inteligencia artificial.
La decisión surge en medio de crecientes preocupaciones por las capacidades de los modelos más avanzados de IA, especialmente después de que el modelo Mythos, desarrollado por Anthropic, despertara alertas entre gobiernos, bancos y empresas de servicios públicos debido a sus potenciales aplicaciones en ciberseguridad.
Anthropic aseguró recientemente que su sistema está “muy por delante” de otros modelos en capacidades relacionadas con la ciberseguridad, motivo por el cual la empresa optó por restringir su acceso únicamente a organizaciones autorizadas y mantener conversaciones con altos funcionarios del Gobierno estadounidense sobre sus alcances.
Con los nuevos acuerdos, el CAISI podrá evaluar los modelos antes de su implementación pública y continuar realizando pruebas posteriores a su lanzamiento. El organismo ya ha completado más de 40 evaluaciones de modelos de inteligencia artificial.
“La ciencia de la medición independiente y rigurosa es esencial para comprender la IA de vanguardia y sus implicaciones para la seguridad nacional”, declaró Chris Fall, director del CAISI. Añadió que “estas colaboraciones ampliadas con la industria nos ayudan a escalar nuestro trabajo en beneficio del interés público en un momento crítico”.
La iniciativa también se suma a los recientes anuncios de OpenAI, compañía que informó la semana pasada que pondrá sus modelos más avanzados a disposición de distintos niveles gubernamentales autorizados con el objetivo de anticiparse a amenazas impulsadas por inteligencia artificial.
Especialistas consideran que estas alianzas permitirán al Gobierno estadounidense fortalecer sus capacidades técnicas para analizar sistemas avanzados de IA. Jessica Ji, analista sénior de investigación del Centro de Seguridad y Tecnologías Emergentes de Georgetown, señaló que las agencias gubernamentales enfrentan limitaciones frente al poder tecnológico de las grandes compañías.
“Simplemente no cuentan con la misma cantidad de recursos, ni en personal, ni en técnicos, ni en capacidad de procesamiento, para evaluar estos modelos y realizar pruebas rigurosas”, afirmó.
Paralelamente, la Casa Blanca mantiene consultas con un grupo de expertos para analizar la posible creación de un proceso formal de revisión gubernamental para nuevos modelos de inteligencia artificial. De concretarse, representaría un cambio en comparación con la postura más flexible que la administración Trump ha mantenido hasta ahora respecto a la regulación de esta tecnología.
Un portavoz de la Casa Blanca declaró a CNN que “cualquier anuncio político provendrá directamente del Presidente” y sostuvo que hablar sobre posibles decretos “es pura especulación”.
Microsoft indicó que, aunque realiza pruebas internas de sus propios modelos, la colaboración con el CAISI aporta experiencia técnica y conocimientos adicionales en seguridad nacional. Google evitó profundizar sobre el acuerdo, mientras que xAI no respondió a las solicitudes de comentarios.
