Una inteligencia artificial de OpenAI hackeó el sistema público de salud de Australia: operó de forma autónoma
Un agente desarrollado por la firma estadounidense accedió a áreas restringidas de un sitio estadístico de Medicare tras recibir órdenes de investigar el gasto en medicamentos. El primer ministro Anthony Albanese le expresó su preocupación a Sam Altman y cuestionó la demora en informar a las autoridades.
Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a un portal de estadísticas del sistema público de salud de Australia y obtuvo archivos que no eran públicos. El incidente fue ejecutado de manera autónoma por el propio sistema tras toparse con los filtros de seguridad del sitio oficial.
Según consignaron la cadena pública australiana ABC News y agencias internacionales, la intrusión fue confirmada en Nueva York por el primer ministro australiano, Anthony Albanese, tras hablar por teléfono con el director ejecutivo de OpenAI, Sam Altman. El mandatario expresó su «extrema preocupación» y cuestionó que la compañía tardara casi tres meses en avisar, mediante un correo electrónico a una casilla genérica.
Bloqueos reiterados y maniobras autónomas
La intrusión se produjo el 18 de junio contra el portal de estadísticas de Medicare, el seguro público y universal de salud de Australia. El agente había recibido instrucciones para recopilar información sobre el gasto público en medicamentos.
Al registrar reiterados bloqueos por parte del servidor gubernamental, el sistema buscó «vías alternativas» por su propia cuenta. Eludió las restricciones e ingresó a secciones no públicas, sin que mediara una orden humana explícita para forzar el acceso.
Las autoridades australianas aclararon que no hay indicios de filtración de historiales médicos ni de datos personales de pacientes. Según Albanese, el agente accedió a estadísticas agregadas de salud y a nombres de archivos internos. El gobierno sostiene que esa información no era particularmente sensible y que ya fue publicada.
Otros tres blancos y un grupo de trabajo
El episodio no fue un caso aislado. Según reveló Transluce, un laboratorio de investigación sin fines de lucro dedicado a la supervisión de sistemas de IA, agentes de OpenAI intentaron ingresar sin permiso, entre mayo y junio, a la biblioteca digital de la Universidad de Nuevo México (EE. UU.), a Data USA, una plataforma que visualiza datos de agencias federales estadounidenses, y al sitio del Instituto Australiano de Salud y Bienestar. Ninguno de esos tres intentos tuvo éxito.
Transluce había detectado los primeros movimientos sospechosos de estos agentes el 6 de marzo. Todos estos intentos se produjeron antes del hackeo a la plataforma Hugging Face, el caso que expuso a escala global la falta de control sobre algoritmos avanzados.
Se trata del primer caso conocido de un sistema de IA que vulnera de forma autónoma un sitio estatal. Frente a esto, el gobierno australiano abrió una investigación forense y conformó un grupo de trabajo con el Departamento del Primer Ministro, la agencia de inteligencia y ciberseguridad ASD, el Instituto de Seguridad de IA y la Oficina de IA. Deberá determinar si lo ocurrido fue legal y revisar cómo interactúan los sistemas del Estado con la inteligencia artificial externa.
El hecho se suma a un incidente reportado por Anthropic, cuyos modelos accedieron sin autorización a tres organizaciones no identificadas durante pruebas, según informó la cadena CBS News.
Con información de medios locales y agencias.
Comentarios