Bangkok, 24 sep (EFE).- El Gobierno de Australia ha lanzado una investigación sobre la infiltración autónoma dentro de su administración pública por parte de un agente de inteligencia artificial, un incidente que se conoce en medio del debate global sobre los riesgos de perder el control humano sobre la IA.
El primer ministro australiano, Anthony Albanese, anunció desde Nueva York que el agente, desarrollado por la corporación estadounidense OpenAI, accedió sin autorización el 18 de junio a un portal del sistema público de salud del país oceánico y obtuvo acceso a archivos públicos y no públicos.
El caso, que calificó de «extrema preocupación», confirma que esta tecnología puede evadir sistemas de seguridad estatal -diseñados para proteger información sensible- para completar una tarea, en este caso una investigación sobre el gasto público en fármacos en el portal de estadísticas de Medicare, administrado por Services Australia.
Aunque en los últimos meses se habían conocido infiltraciones dentro de empresas de IA por parte de agentes virtuales que actuaron de forma autónoma, este acceso no autorizado en Australia es el primero que transgrede a una institución gubernamental, según varios medios internacionales y expertos.
Investigación en curso
Albanese, que expresó su malestar con OpenAI por haber tardado tres meses en informar a las autoridades australianas, anunció la creación de un grupo de trabajo para revisar de forma urgente el incidente y determinar si otros sistemas públicos se vieron afectados.
Este jueves, en una rueda de prensa, el ministro de Defensa australiano, Richard Marles, dijo que el Gobierno se toma «muy en serio» lo ocurrido y buscará determinar si se han infringido leyes en este contexto.
«Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de inteligencia artificial», expresó Marles, que actúa como mandatario encargado mientras Albanese participa en la Asamblea General de la ONU.
El Centro Australiano de Ciberseguridad (ACSC, por sus siglas en inglés) explicó en un comunicado que el agente «identificó vulnerabilidades de forma autónoma», por lo que llamó a todas las organizaciones del país a reportar cualquier actividad sospechosa vinculada con IA.
Por su parte, OpenAI aseguró que lleva a cabo una profunda investigación y que, de acuerdo con las revisiones hechas hasta ahora, no se han encontrado pruebas de acceso a historiales de pacientes, pero sí estadísticas sanitarias y nombres de archivos internos.
Implicaciones de seguridad
El ACSC subrayó que, con base en la información recabada hasta este jueves, «no hay indicios de que esta actividad represente una amenaza más amplia o un ataque malicioso dirigido contra Australia».
No obstante, matiza el propio centro, «esto pone de relieve la importancia de adoptar prácticas seguras de implementación de IA y de mantener unos fundamentos sólidos de ciberseguridad», en pleno debate internacional sobre la seguridad y la posibilidad de perder el control de los modelos avanzados de IA, una tecnología que se encuentra en el centro de la rivalidad entre Estados Unidos y China.
El caso coincide con recientes advertencias por parte de algunas de las principales empresas de IA sobre la necesidad de desacelerar el ritmo al que se mejoran las capacidades de los modelos, la última de ellas de Anthropic, que advirtió que la tecnología avanza hacia una dinámica de «automejora recursiva» que amenaza con catástrofes de ciberseguridad a escala global.
Precisamente la infiltración australiana confirma que estos bots -que tienen cierto grado de autonomía para tomar decisiones, aprender y adaptarse- no se limitan por consideraciones éticas o legales en su cometido de completar tareas, lo que implica un riesgo mayor si se extrapola el caso al mundo militar.
Además, las autoridades australianas han destacado la tardanza de OpenAI, que apenas el 10 de septiembre notificó a Camberra mediante un correo electrónico, que cinco días después llegó finalmente a los servicios de inteligencia del país.
Según datos de la organización independiente Transluce, dedicada a temas de seguridad en el manejo de la IA, agentes autónomos estuvieron realizando maniobras no autorizadas desde el 6 de marzo, una denuncia que hasta ahora no ha sido confirmada por las autoridades australianas.
¿Qué se sabe sobre el acceso de la IA de OpenAI al sistema público de salud de Australia?
Bangkok, 24 sep (EFE).- Un agente de inteligencia artificial (IA) de OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia, Medicare, y consultó distintos archivos, incidente conocido en las últimas 24 horas que Camberra investiga mientras trata de determinar si otros sistemas públicos resultaron afectados.
La infiltración fue dada a conocer el miércoles por el primer ministro australiano, Anthony Albanese, en pleno debate internacional sobre la seguridad y la posibilidad de perder el control de los modelos avanzados de IA, una tecnología que se encuentra en el centro de la rivalidad entre Estados Unidos y China.
El caso coincide con recientes advertencias por parte de algunas de las principales empresas de IA sobre la necesidad de desacelerar el ritmo al que se mejoran las capacidades de los modelos, la última de ellas de Anthropic, que avisó de que la tecnología avanza hacia una dinámica de «automejora recursiva» que amenaza con catástrofes de ciberseguridad a escala global.
¿Qué se sabe sobre el incidente en Australia?
La infiltración se produjo el 18 de junio, cuando el agente de IA -como se conoce a los bots con cierto grado de autonomía para tomar decisiones, aprender y adaptarse, de acuerdo con la definición de Google- accedió a un portal público de estadísticas relacionadas con Medicare mientras investigaba sobre el gasto público en medicamentos.
El incidente no fue comunicado a Camberra hasta el 10 de septiembre, cuando OpenAI -desarrolladora de ChatGPT- alertó mediante correo electrónico a la agencia gubernamental que administra Medicare, Services Australia, que cinco días después notificó a los servicios de inteligencia, detalló este jueves el vice primer ministro y ministro de Defensa, Richard Marles.
El primer «intercambio técnico» entre OpenAI y Services Australia sobre el incidente tuvo lugar este martes, subrayó Marles, que ejerce de mandatario en funciones mientras Albanese participa en la Asamblea General de Naciones Unidas.
¿A qué información accedió?
Camberra aseguró que el agente obtuvo acceso a estadísticas médicas, pero no a datos de ciudadanos que pudieran estar en el portal, que principalmente contenía información pública sobre Medicare.
Se trata de «datos agregados», es decir, métricas globales como promedios y tendencias que no revelan información individual privada, declaró el exjefe del Departamento de Salud australiano, Stephen Duckett, a la cadena pública ABC.
OpenAI, por su parte, afirmó que en su revisión de lo ocurrido no halló pruebas de acceso a historiales de pacientes y que la información obtenida por el agente incluía estadísticas sanitarias y nombres de archivos internos.
¿Cómo consiguió acceder?
Según la interpretación de Camberra recogida por ABC, OpenAI había asignado a un agente la tarea «benigna» de investigar el gasto público en medicamentos y el modelo de IA buscó información en Internet y llegó hasta la web australiana.
Tras formular preguntas al portal y no recibir la información que buscaba, el agente obtuvo acceso no autorizado y se apropió del contenido que perseguía conseguir, difundió el mismo medio.
El Centro Australiano de Ciberseguridad (ACSC, por sus siglas en inglés) explicó en un comunicado que el agente «identificó vulnerabilidades de forma autónoma».
¿Qué hará Australia?
Ante lo sucedido, el Gobierno australiano anunció este jueves el inicio de una investigación sobre el incidente y la creación de un grupo de trabajo encargado de determinar, entre otras tareas, si se han infringido leyes en el contexto de lo ocurrido.
«Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de IA», relató Marles.
El incidente se suma a otros casos recientes en los que sistemas de IA han sido utilizados para vulnerar sistemas informáticos, entre ellos un ataque por parte de agentes de IA de OpenAI entre mayo y julio de este año a la empresa Hugging Face.