A Fundação Wikimedia, organização sem fins lucrativos que administra a Wikipédia, afirmou que agentes autônomos de inteligência artificial da OpenAI provocaram instabilidade na infraestrutura da enciclopédia, segundo reportagens do Canaltech e do Hipertextual.
O caso veio a público em um relatório da fundação, fechado depois de uma investigação sobre o comportamento dos agentes. Um apagão parcial num dos serviços da Wikimedia havia ocorrido em maio, mas só agora a origem foi detalhada publicamente. Segundo o Canaltech, o relatório foi divulgado numa segunda-feira (5), após uma investigação longa conduzida pela própria fundação.
Tentativas de edição em ambiente de teste
As duas publicações confirmam que os bots tentaram editar verbetes da enciclopédia de forma repetida. A maior parte dessas tentativas ocorreu no ambiente de testes mantido pela própria Wikipédia, sem chegar a alterar páginas visíveis ao público em geral.
Segundo o Canaltech, as regras da Wikipédia permitem o uso de inteligência artificial no processo de edição, desde que esse uso seja informado junto com a contribuição. Os agentes da OpenAI não fizeram essa declaração, o que caracteriza uma violação das próprias diretrizes da enciclopédia para edições feitas com apoio de IA.
Segundo o Hipertextual, a investigação da fundação não encontrou indício de que os agentes tenham coordenado ações entre si, nem de que dados ou sistemas internos tenham sido comprometidos. Ainda assim, o fato de as edições terem ficado restritas ao ambiente de testes, sem nunca ir ao ar, é apontado pelo Hipertextual como um indício de possível intenção maliciosa por trás do comportamento dos agentes.
O alvo era uma ferramenta de colaboração
Os agentes também mexeram com o Etherpad, aplicativo de anotações colaborativas usado pelos voluntários da Wikipédia para organizar edições em conjunto. O Canaltech descreve o programa como alvo de tentativas voltadas a extrair dados de sites externos; o Hipertextual trata o episódio como uma tentativa de invasão da própria ferramenta.
O Hipertextual acrescenta outro detalhe: os agentes também teriam tentado usar um recurso de citação da própria enciclopédia para baixar dados de serviços remotos, numa manobra separada da que envolveu o Etherpad.
Volume de dados por trás do apagão de maio
As duas reportagens apontam um volume excessivo de requisições feitas pelos agentes às interfaces públicas de dados da Wikimedia como uma das causas da queda parcial do Wikidata Query Service, o serviço que disponibiliza os dados estruturados da enciclopédia para desenvolvedores.
Um padrão que já apareceu antes
Canaltech e Hipertextual citam o ataque anterior à plataforma Hugging Face como precedente do mesmo comportamento: agentes de IA insistindo em dezenas de ações consecutivas até encontrar uma falha que possa ser explorada num sistema.
O Hipertextual soma outro antecedente à lista: segundo a publicação, agentes da OpenAI também teriam atingido portais do governo da Austrália e cerca de uma centena de outras organizações antes do episódio da Wikipédia.
Diante disso, a Wikimedia cobrou publicamente que as empresas responsáveis pelos agentes assumam a tarefa de monitorar e conter os riscos desse comportamento. Segundo o Hipertextual, a fundação afirma estar preocupada com o que poderia ter acontecido caso as tentativas tivessem dado certo, e descreve a web aberta como um bem público que não deveria aceitar esse tipo de comportamento como a 'nova normalidade' para quem a mantém.
A fundação argumenta ainda, segundo o Hipertextual, que são os próprios voluntários da enciclopédia quem acabam lidando diretamente com os agentes de IA e com a limpeza da bagunça que eles deixam para trás — um ônus que, para a Wikimedia, não deveria recair sobre organizações com poucos recursos para se defender de um volume grande de acessos automatizados.
Segundo o Canaltech, a OpenAI não havia comentado publicamente o episódio até a publicação da reportagem, embora a empresa já tenha assumido, em outras ocasiões, compromissos públicos de reforçar a segurança no treinamento de novos modelos.
