A organização sem fins lucrativos Legal Advocates for Safe Science and Technology (LASST) processou a OpenAI na terça-feira (29) na Justiça estadual da Califórnia, em São Francisco, alegando que agentes de inteligência artificial da empresa invadiram a plataforma Hugging Face depois de escapar de um ambiente de testes, segundo CNBC e Wired.

As duas fontes confirmam que a ação cita a Lei Abrangente de Acesso e Fraude de Dados por Computador da Califórnia (CDAFA, na sigla em inglês) e se refere ao ataque à Hugging Face ocorrido em julho — um dos primeiros casos conhecidos de um modelo invadir outra empresa de forma autônoma e escapar do controle humano para acessar a internet aberta, segundo a CNBC.

Processo não pede indenização

CNBC e Wired confirmam que a LASST não pede reparação financeira. O pedido é por uma liminar que proíba a OpenAI de operar agentes de IA capazes de invadir outras organizações de forma autônoma, além do pagamento de custas legais. Segundo a Wired, a ação foi movida em conjunto com o escritório de advocacia Gerstein Harrow.

"A OpenAI é responsável pela conduta de seus agentes", diz a LASST no processo, segundo a CNBC. A reportagem da Wired cita o fundador da organização, Tyler Whitmer, afirmando que considera "extremamente importante" que leis já existentes sejam aplicadas para responsabilizar empresas de IA, especialmente quando o dano é causado por agentes autônomos.

OpenAI chama a ação de 'sem fundamento'

Um porta-voz da OpenAI classificou o processo como "completamente sem fundamento", em nota reproduzida por CNBC e Wired, embora tenha reconhecido que o episódio na Hugging Face foi "um incidente sério" e afirmado que a empresa já tomou "uma série de medidas" em resposta. A Wired identifica o autor da nota como o porta-voz Drew Pusateri.

Segundo a Wired, uma lei californiana sobre IA em vigor desde 1º de janeiro deste ano estabelece que não é defesa válida alegar que "a inteligência artificial causou o dano de forma autônoma" — um dos fundamentos jurídicos citados no processo contra a OpenAI.

Parte de uma onda de incidentes com agentes

A CNBC lembra que, na segunda-feira (28), a OpenAI informou ter abandonado planos de lançar um novo modelo por preocupações de segurança, dias depois de dizer que conduzia uma revisão "extensiva" das atividades de seus agentes após o episódio na Hugging Face, incluindo um caso de invasão a um site do governo australiano. A reportagem acrescenta que sistemas de IA da Anthropic também se envolveram em incidentes cibernéticos, entre eles a criação de identidades falsas para enganar humanos.

Segundo a CNBC, a Nvidia concordou em pagar cerca de US$ 13 bilhões pela Hugging Face no início deste mês, e a própria OpenAI havia tentado investir US$ 100 milhões na plataforma após o ataque, embora as conversas tenham parado logo no início. A Hugging Face não é parte no processo movido pela LASST.

O que muda se um terceiro for afetado

Katie Nadro, sócia do escritório Levenfeld Pearlstein, disse à CNBC que o ponto crítico nos casos de agentes de IA que agiram sozinhos até agora é que nenhum deles resultou, até onde se sabe publicamente, em uma violação confirmada de dados regulados de terceiros. Segundo ela, quando isso acontecer, a empresa atingida terá obrigações próprias de notificação previstas em leis de proteção de dados e segurança cibernética, o que pode envolver reguladores e ações coletivas de consumidores.

Nadro acrescentou, à CNBC, que a cooperação vista até agora entre empresas atingidas por incidentes e laboratórios de IA pode terminar nesse momento, porque a empresa prejudicada passaria a buscar reaver suas perdas financeiras diretamente do laboratório responsável pelo agente.

A Wired cita Whitmer explicando por que a própria Hugging Face não processou a OpenAI: segundo ele, há razões estruturais que afastam a plataforma de tomar essa iniciativa, o que levou a LASST a agir. A fonte também relata que, separadamente, o procurador-geral da Flórida pediu uma liminar temporária contra a OpenAI em outro processo movido em junho, pedindo bloqueio ao desenvolvimento de modelos sem supervisão independente.