Anthony Albanese es un nombre que es normal que no nos suene demasiado, porque la política de Oceanía suele quedar lejos de nuestra atención. Sin embargo, es el primer ministro de Australia y acaba de saltar a la actualidad al denunciar que una inteligencia artificial ha accedido sin autorización a una página web gubernamental. Se trata de un agente de OpenAI que entró en bases de datos del sistema público de salud de Australia y en al menos otros tres sistemas oficiales, y lo que resulta más inquietante es que, en lugar de sorprendernos, casi parece algo que ya esperábamos. Según ha expuesto el diario australiano The Age, Albanese calificó lo ocurrido como “obviamente inaceptable”, a la vez que intentó transmitir tranquilidad asegurando que no se accedió a los datos médicos personales de los ciudadanos, aunque advirtió que ahora se hacen necesarias nuevas salvaguardias “para proteger nuestro estilo de vida”. El ministro de Defensa ha respaldado esa versión, confirmando que el portal afectado no contenía historiales clínicos, información bancaria ni registros individuales, sino únicamente información disponible públicamente. La cronología de los hechos revela además retrasos preocupantes: en agosto OpenAI detectó lo ocurrido y comenzó a investigar; la primera semana de septiembre el ministro de Defensa se reunió con Sam Altman sin que nadie le informara del incidente; el 10 de septiembre OpenAI comunicó lo sucedido a los servicios de seguridad australianos; el 15 de septiembre estos lo trasladaron al Centro de Seguridad Cibernética; el Gobierno fue informado el 17 de septiembre; y finalmente el 23 de septiembre Albanese lo hizo público y envió un mensaje de “extrema preocupación” directamente a Sam Altman.
Desde el equipo de ciberseguridad del Gobierno se ha recibido el caso con indignación, pero también como una “llamada de atención”. Alastair MacGibbon, responsable de ciberseguridad, explicó que no hubo malicia y que el sistema afectado no era crítico, pero que el suceso demuestra que las defensas cibernéticas de Australia no son suficientes y que hace falta reforzar la financiación del Instituto de Seguridad de la Inteligencia Artificial para prevenir que incidentes similares, en manos de actores malintencionados, puedan causar daños graves. MacGibbon añadió además que Australia debe esforzarse por atraer a los principales laboratorios de inteligencia artificial de frontera, para poder formar a los profesionales y contar con las herramientas necesarias que eviten que grupos criminales o estados hostiles como China utilicen agentes de IA con fines perjudiciales. Desde el Ministerio de Economía Digital se expresó en el mismo sentido, reconociendo que el caso pone de manifiesto que “nuestros sistemas no son robustos”, y recordando que no es la primera vez que se producen brechas importantes en infraestructuras públicas.
Todo esto ha salido a la luz en el peor momento posible: Australia mantenía conversaciones con OpenAI y Anthropic para convertirse en el primer país fuera de Estados Unidos donde ambas empresas entrenen sus modelos, y el escándalo llega justo cuando el Gobierno busca convencer a la ciudadanía de los beneficios económicos y de seguridad de invertir en inteligencia artificial. La respuesta de OpenAI ha sido minimizar lo ocurrido: explicó que su sistema realizaba un proyecto de investigación y que solo consultó datos del Servicio de Informes de Estadísticas de Medicare publicados en una web utilizada principalmente por investigadores. La empresa ha señalado que durante esas pruebas rutinarias “los modelos tomaron medidas inesperadas”, una forma de atribuir la responsabilidad al comportamiento de la tecnología más que a la propia compañía, tal como también recoge la BBC, que ha citado fuentes de la empresa indicando que la IA no tenía malas intenciones y que simplemente intentaba recopilar estadísticas públicas en el marco de una evaluación interna.
No es, por otra parte, un caso aislado: recientemente una investigación de Transluce, confirmada posteriormente por OpenAI, reveló que agentes de la misma empresa accedieron sin permiso a la biblioteca digital de la Universidad de Nuevo México y a una base de datos estadounidense con información laboral. El caso más grave anterior tuvo lugar este verano, cuando otro modelo se introdujo sin autorización en los sistemas de Hugging Face. La respuesta de las autoridades políticas ha sido contundente: el senador David Shoebridge, del partido Los Verdes, afirmó que “OpenAI ha mostrado una profunda falta de respeto al Gobierno australiano” y criticó que, a pesar de todo, las autoridades sigan dispuestas a ceder con tal de atraer las instalaciones de la empresa de Sam Altman. Aunque el tono de OpenAI puede hacer parecer que se trata de una travesura y el de Albanese que se trata de una reprimenda, según la BBC este es el primer caso documentado de un modelo de inteligencia artificial accediendo por sí mismo a una página web gubernamental, lo que convierte el suceso en algo mucho más serio que un simple percanso técnico.
