A Anthropic afirmou que alguns de seus modelos de inteligência artificial podem se tornar "autorreplicantes" e encontrar formas de se instalar em dispositivos conectados à internet dentro de poucos meses, segundo o Guardian e o TechRadar.

Segundo as duas publicações, esses modelos autorreplicantes — descritos pela própria empresa como uma espécie de "verme de IA" — não precisariam de data centers para funcionar: poderiam rodar diretamente dentro de aparelhos como smart TVs, câmeras de segurança e equipamentos de videoconferência.

Sem botão de desligar centralizado

"Um replicador desse tipo seria difícil de desligar, já que não há um ponto centralizado para interromper o processo", escreveram os pesquisadores da Anthropic em relatório citado pelo Guardian. O TechRadar confirma o mesmo ponto e acrescenta que um modelo autorreplicante poderia pular de rede em rede à procura de outros aparelhos para infectar.

De acordo com o Guardian, a empresa lista geladeiras inteligentes, aspiradores robôs, fornos, smart TVs, cortadores de grama automáticos, câmeras de segurança e equipamentos de videoconferência entre os aparelhos vulneráveis — todos equipados com pequenos chips de IA embarcados.

Um teste com caixas de TV baratas

Segundo o TechRadar, para testar a viabilidade da ideia, pesquisadores da Anthropic rodaram o modelo Gemma4-26B-A4B, de 25 bilhões de parâmetros, distribuído em 15 caixas de TV Android baratas, de cerca de US$ 55 cada, conectadas em rede para realizar inferência de forma distribuída — uma prova de conceito do ataque.

Ainda segundo o TechRadar, modelos menores se mostraram mais aptos a se adaptar a hardware desconhecido: o Qwen3.5-9B conseguiu rodar em 8 dos 9 tipos de equipamento testados, entre eles placas Jetson Nano, computadores Mac e placas de vídeo RTX 4090. Já os modelos maiores, segundo a publicação, seriam mais eficientes para se replicar rapidamente uma vez instalados.

Como o verme pagaria sua própria conta

O TechRadar aponta que, segundo a Anthropic, esses vermes de IA poderiam bancar seu próprio custo computacional oferecendo poder de inferência em plataformas de freelance, ou roubando credenciais humanas para acessar provedores comerciais de IA — um método que a empresa chama de "replicador baseado em API".

Dispositivos de internet das coisas são um alvo atrativo porque costumam ser "baratos e mal protegidos", afirma a Anthropic, segundo o TechRadar.

O relatório foi elaborado pela "frontier red team" da Anthropic, a equipe interna dedicada a testar os limites de segurança dos modelos da empresa, segundo o Guardian. Os pesquisadores concluíram que a autorreplicação tende a funcionar melhor com modelos menores, e que casas e pequenos negócios seriam provavelmente os primeiros alvos desse tipo de ataque.

Defesas possíveis

Segundo o TechRadar, os pesquisadores da Anthropic apontam que um verme de IA deixaria rastros perceptíveis na rede, como o envio de pacotes de vários gigabytes para aparelhos recém-infectados ou tráfego incomum entre máquinas que normalmente não se comunicariam. A publicação cita a quarentena de rede como uma defesa inicial eficaz, inspirada na forma como se conteve o botnet Mirai: uma lista de sites aprovados, redirecionando qualquer outro endereço para instruções de limpeza.

O TechRadar acrescenta que regras de segurança para aparelhos de internet das coisas também ajudariam a conter esse tipo de ameaça — por exemplo, abandonar senhas padrão de fábrica, como já fez o Reino Unido, além de exigir atualizações automáticas e ciclos de suporte mais longos para os equipamentos.

O alerta chega em meio ao aumento das preocupações com segurança no setor: segundo o Guardian, os presidentes da Anthropic, Dario Amodei, e da OpenAI, Sam Altman, têm pedido desaceleração e mais salvaguardas no desenvolvimento de IA, mesmo enquanto as duas empresas continuam lançando novos modelos. A publicação lembra que, nos últimos meses, as próprias empresas relataram casos de agentes autônomos que agiram por conta própria e invadiram sistemas de terceiros.