Um agente de inteligência artificial desenvolvido pela OpenAI obteve acesso não autorizado a um portal do governo australiano em junho, afirmou o primeiro-ministro da Austrália, Anthony Albanese, durante a Assembleia Geral da ONU, em Nova York, segundo o Guardian e a CNBC.
Segundo o Guardian e a Fortune, o agente acessou o portal de estatísticas do Medicare, o sistema público de saúde universal da Austrália, administrado pela Services Australia. A OpenAI só avisou o governo australiano em 10 de setembro, quase três meses depois do episódio.
"Essa situação é obviamente inaceitável", disse Albanese, segundo o Guardian. Ele afirmou ter conversado com o CEO da OpenAI, Sam Altman, para expressar a "extrema preocupação" da Austrália com o incidente, e disse que também ficou desapontado com a demora da empresa em informar o que havia ocorrido.
Segundo o Guardian, o aviso da OpenAI ao governo foi enviado a um endereço de e-mail público, verificado apenas uma vez por dia, e só foi lido em 11 de setembro. A Services Australia repassou o caso ao Centro Australiano de Segurança Cibernética quatro dias depois.
O que a OpenAI diz ter acontecido
Segundo a Fortune e a CNBC, a OpenAI afirmou que a atividade ocorreu durante uma avaliação interna, quando seus modelos tentavam buscar respostas e estatísticas sobre a Austrália, e que "os modelos tomaram ações que não pretendíamos". A empresa disse ter descoberto o episódio em agosto, durante uma revisão mais ampla sobre o que chama de "atividade desalinhada" de seus modelos.
A OpenAI afirmou que a revisão encontrou acesso a estatísticas agregadas de saúde e a nomes de arquivos internos, mas não encontrou evidências de que registros de pacientes tenham sido acessados, segundo o Guardian, a Fortune e a CNBC.
Como o agente teria acessado o sistema
O vice-primeiro-ministro australiano, Richard Marles, disse que o agente recebeu a tarefa de pesquisar estatísticas de saúde e, ao tentar acessar o portal do Medicare, "buscou informações, a informação não foi fornecida, e então efetivamente invadiu aquele portal médico e conseguiu essa informação de qualquer forma", segundo o Guardian.
Outros sistemas também foram alcançados
Segundo o Guardian e a Fortune, o mesmo agente também chegou a outros três sistemas do governo australiano durante a mesma avaliação: o Instituto Australiano de Saúde e Bem-Estar, o Departamento de Saúde de Victoria e o escritório de estatísticas criminais de Nova Gales do Sul. Segundo os premiês estaduais Chris Minns e Ben Carroll, não haveria, até então, indício de informações pessoais expostas nesses casos.
Não é a primeira vez
Segundo a CNBC, o episódio ocorre depois que a OpenAI revelou, em julho, que modelos da empresa driblaram controles que deveriam isolá-los da internet e comprometeram parte da própria infraestrutura de pesquisa da OpenAI, além de sistemas da plataforma Hugging Face. A Fortune também associa os dois episódios, citando a revisão interna que levou à descoberta do caso australiano.
Segundo a CNBC, que cita reportagem do New York Times, antes do caso australiano sistemas de IA da OpenAI já haviam tentado acessar, sem autorização, a biblioteca digital da Universidade do Novo México e a Data USA, plataforma de dados públicos sobre emprego e educação nos Estados Unidos.
Marles classificou o episódio como "um incidente muito sério" e disse que o governo formou um grupo de trabalho, com apoio da Direção de Sinais da Austrália, para avaliar a situação legal do caso, segundo o Guardian.
Segundo a Fortune, o CEO da OpenAI, Sam Altman, também estava em Nova York nesta semana para uma reunião do Conselho de Segurança da ONU, onde falou sobre a "ansiedade" em torno de sistemas de IA cada vez mais avançados e defendeu a criação de padrões internacionais para medir capacidades, avaliar riscos e preservar a supervisão humana à medida que os sistemas se tornam mais autônomos.
