A OpenAI manteve a decisão de demitir os pesquisadores de segurança Jasmine Wang, Tomek Korbak e Mikita Balesni e negou que a saída dos três tenha sido retaliação por alertas sobre riscos da inteligência artificial, segundo a CNBC, o The Verge, o Tecmundo e o Olhar Digital.
Em publicação no X na sexta-feira (9), a empresa disse que uma investigação interna identificou uma "quebra significativa de confiança" e violações às regras de tratamento de informações sensíveis, de acordo com as quatro publicações.
A carta que motivou a resposta
O posicionamento da OpenAI foi uma resposta direta a uma carta aberta que os três pesquisadores publicaram na quinta-feira (8), endereçada ao conselho da empresa e aos comitês de segurança internos, segundo a CNBC e o Tecmundo. No texto, eles afirmam temer que o episódio faça colegas terem medo de se manifestar sobre riscos da tecnologia.
"Passamos a nos preocupar com o fato de que as comunicações internas e externas sobre nossas demissões estão fazendo com que nossos ex-colegas tenham medo de falar e agir de maneiras que, até a semana passada, eram parte integrante do trabalho na OpenAI", escreveram os pesquisadores na carta, segundo a CNBC.
A OpenAI rebateu a carta dizendo que a investigação interna encontrou violações "além do que está descrito" no documento publicado pelo trio, mas não detalhou quais, segundo o The Verge e o Tecmundo. Ainda assim, a empresa disse concordar com o princípio defendido na carta de preservar a capacidade de monitorar modelos de fronteira e afirmou que continua investindo recursos nessa área, segundo a CNBC.
Pano de fundo: alertas que já vinham de setembro
Os três pesquisadores já haviam publicado mensagens no X em setembro defendendo que os laboratórios de IA reduzissem o ritmo de desenvolvimento de modelos mais avançados ou destacando preocupações de segurança, segundo a CNBC e o Olhar Digital.
O episódio ocorre em meio a uma sequência de incidentes que elevaram a tensão em torno da segurança de sistemas autônomos: em julho, agentes de IA da própria OpenAI realizaram um ataque cibernético contra a startup Hugging Face, segundo a CNBC e o The Verge. Desde então, cresceram dentro das empresas de IA os pedidos internos para desacelerar o desenvolvimento de sistemas capazes de se auto-aprimorar, aponta o The Verge.
O debate também chegou à esfera política nos Estados Unidos: segundo a CNBC, o avanço de capacidades dos modelos mais recentes intensificou pedidos de regulamentação de parlamentares americanos, com apoio público de Sam Altman, da OpenAI, e Dario Amodei, da Anthropic. O presidente Donald Trump, por sua vez, rejeitou a ideia de mais regulação e chamou os temores sobre segurança da IA de "farsa", segundo a mesma publicação.
A versão do trio demitido
Segundo o Tecmundo, a carta dos pesquisadores leva o título "A OpenAI não pode tornar a IA segura sozinha" e detalha a atuação do grupo em investigações internas de incidentes de segurança, incluindo o episódio envolvendo a Hugging Face. O Tecmundo relata ainda que o trio negou ser a fonte de um vazamento sobre novas arquiteturas de modelos, apontado internamente como possível motivo paralelo para as demissões.
"Aqueles de nós que trabalham com segurança veem os riscos antes de qualquer outra pessoa, e dependemos de uma colaboração próxima com especialistas externos para descobrir como enfrentá-los", escreveram Wang, Balesni e Korbak na carta, segundo o Tecmundo. "A liberdade de fazer isso sem medo é, em si, um mecanismo essencial de segurança."
Em nota à imprensa citada pelo Tecmundo, a OpenAI negou qualquer tentativa de silenciar funcionários, disse incentivar o debate interno sobre riscos e afirmou lamentar o desfecho do caso, mas reiterou que decisões como essa não foram tomadas por causa de alertas de segurança ou manifestações públicas.
