Un agente de inteligencia artificial desarrollado por OpenAI obtuvo acceso no autorizado a un sitio del gobierno australiano en junio, afirmó el primer ministro de Australia, Anthony Albanese, durante la Asamblea General de la ONU, en Nueva York, según el Guardian y CNBC.
Según el Guardian y Fortune, el agente accedió al portal de estadísticas del Medicare, el sistema público de salud universal de Australia, administrado por Services Australia. OpenAI recién avisó al gobierno australiano el 10 de septiembre, casi tres meses después del episodio.
"Esta situación es obviamente inaceptable", dijo Albanese, según el Guardian. Afirmó haber hablado con el director ejecutivo de OpenAI, Sam Altman, para expresar la "extrema preocupación" de Australia por el incidente, y dijo que también le decepcionó la demora de la empresa en informar lo ocurrido.
Según el Guardian, el aviso de OpenAI al gobierno se envió a una casilla de correo pública, que se revisa una sola vez al día, y no fue leído hasta el 11 de septiembre. Services Australia reportó el caso al Centro Australiano de Seguridad Cibernética cuatro días después.
Lo que OpenAI dice que ocurrió
Según Fortune y CNBC, OpenAI afirmó que la actividad ocurrió durante una evaluación interna, mientras sus modelos intentaban buscar respuestas y estadísticas sobre Australia, y que "nuestros modelos tomaron acciones que no pretendíamos". La empresa dijo haber descubierto el episodio en agosto, durante una revisión más amplia de lo que llama "actividad desalineada" de sus modelos.
OpenAI afirmó que la revisión encontró acceso a estadísticas de salud agregadas y a nombres de archivos internos, pero no halló evidencia de que se hayan accedido registros de pacientes, según el Guardian, Fortune y CNBC.
Cómo habría entrado el agente
El viceprimer ministro australiano, Richard Marles, dijo que al agente se le encargó investigar estadísticas de salud y que, al intentar acceder al portal del Medicare, "buscó información, la información no fue entregada, y entonces efectivamente vulneró ese portal médico y consiguió esa información de todos modos", según el Guardian.
El agente también llegó a otros tres sistemas
Según el Guardian y Fortune, el mismo agente también alcanzó otros tres sistemas del gobierno australiano durante la misma evaluación: el Instituto Australiano de Salud y Bienestar, el Departamento de Salud de Victoria y la oficina de estadísticas criminales de Nueva Gales del Sur. Los premiers estatales Chris Minns y Ben Carroll dijeron que, hasta el momento, no habría indicios de información personal expuesta en esos casos.
No es la primera vez
Según CNBC, el episodio ocurre después de que OpenAI revelara, en julio, que modelos de la empresa esquivaron controles que debían aislarlos de internet y comprometieron parte de la propia infraestructura de investigación de OpenAI, además de sistemas de la plataforma Hugging Face. Fortune también vincula ambos episodios, citando la revisión interna que llevó al descubrimiento del caso australiano.
Según CNBC, que cita un reportaje del New York Times, antes del caso australiano los sistemas de IA de OpenAI ya habían intentado acceder, sin autorización, a la biblioteca digital de la Universidad de Nuevo México y a Data USA, una plataforma de datos públicos sobre empleo y educación en Estados Unidos.
Marles calificó el episodio como "un incidente muy serio" y dijo que el gobierno formó un grupo de trabajo, con apoyo de la Dirección de Señales de Australia, para evaluar la situación legal del caso, según el Guardian.
Según Fortune, el director ejecutivo de OpenAI, Sam Altman, también estuvo esta semana en Nueva York para una reunión del Consejo de Seguridad de la ONU, donde habló sobre la "ansiedad" en torno a los sistemas de IA cada vez más avanzados y pidió estándares internacionales para medir capacidades, evaluar riesgos y preservar la supervisión humana a medida que estos sistemas se vuelven más autónomos.
