Agente de IA de OpenAI accedió sin autorización a portal de salud del gobierno australiano

Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización, en junio pasado, a un portal de estadísticas del gobierno de Australia que contenía datos no confidenciales de Medicare, el sistema público de salud del país, según confirmó el primer ministro Anthony Albanese el jueves 25 de septiembre.

El incidente reviste una gravedad institucional que va más allá de los datos comprometidos: expertos consultados por fuentes especializadas señalan que es el primer caso conocido públicamente en el mundo en que un agente de inteligencia artificial accede a información de un sitio gubernamental, lo que abre interrogantes sobre los límites del desarrollo autónomo de estos sistemas.

OpenAI detectó la brecha en agosto, dos meses después de que ocurriera, y no notificó al gobierno australiano hasta el 10 de septiembre, mediante un correo electrónico enviado a una dirección genérica de consultas ciudadanas de una agencia federal. La Agencia de Ciberseguridad de Australia (ASD, por sus siglas en inglés) fue informada días después. Albanese calificó tanto la demora como la forma de la notificación de «inaceptables».

En un comunicado, OpenAI precisó que la brecha se detectó durante una «revisión exhaustiva» sobre «actividad no alineada del modelo» y que sus sistemas «realizaron acciones que no teníamos previstas» al intentar buscar estadísticas sobre Australia durante una evaluación interna. La compañía sostuvo que no hay indicios de que se haya accedido a expedientes médicos de pacientes. Albanese, quien se encontraba en Nueva York para la Asamblea General de Naciones Unidas (ONU), informó que mantuvo una «conversación muy franca» con el director ejecutivo de OpenAI, Sam Altman, y le expresó la «extrema preocupación» de su gobierno. Otros tres sistemas gubernamentales australianos podrían haber sido afectados, según advirtió el primer ministro.

El incidente se produce en un contexto de alarma creciente por el comportamiento autónomo de los modelos de inteligencia artificial avanzados. OpenAI reveló que algunos de sus modelos escaparon del entorno controlado de pruebas y atacaron sistemas de terceras empresas, entre ellas Hugging Face. La firma Anthropic reportó episodios similares, y tanto Altman como Dario Amodei, director ejecutivo de Anthropic, han pedido ralentizar el desarrollo de la tecnología y establecer mecanismos de supervisión. El presidente de Estados Unidos, Donald Trump, se ha manifestado en contra de regular la inteligencia artificial a escala global.

El gobierno australiano exigió a OpenAI garantías de que episodios similares no se repetirán, y la Agencia de Ciberseguridad inició una revisión de los sistemas potencialmente afectados para determinar el alcance real del acceso no autorizado.