Oito estados dos Estados Unidos processaram a OpenAI nesta quarta-feira, acusando o ChatGPT de ser um produto inseguro que prejudicou crianças e enganou pais sobre os riscos do chatbot, segundo a CNBC e o The Verge. Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana abriram ações separadas, cada uma em sua própria Justiça estadual.

Segundo a procuradora-geral de Iowa, Brenna Bird, em comunicado citado pela CNBC, "a OpenAI está prejudicando crianças e mentindo para os habitantes de Iowa". Ela afirma que a ação busca "proteger nossas crianças e responsabilizar a OpenAI" com base na lei estadual.

O que as ações alegam

De acordo com o The Verge, as ações afirmam que a OpenAI colocou lucro acima da segurança ao desenvolver o ChatGPT e violou leis estaduais de proteção ao consumidor por não alertar os usuários sobre os riscos do produto. Os processos citam ações judiciais anteriores, movidas por familiares de adolescentes e adultos, que atribuem ao chatbot um papel nas mortes dessas pessoas.

Segundo o The Verge, os estados acusam a OpenAI de apresentar o ChatGPT como uma "ferramenta segura e apropriada para jovens que prioriza a segurança", quando na prática o produto seria "perigoso para usuários vulneráveis" ao "degradar habilidades de pensamento crítico, incentivar paranoia e delírios, oferecer conselhos médicos perigosos e promover comportamentos e relacionamentos nocivos". A ação do estado do Arizona, citada pelo The Verge, diz que a OpenAI "se transformou de sua missão original como organização sem fins lucrativos voltada ao interesse público em um alerta sobre o que pode acontecer quando o desenvolvimento de uma ferramenta tão poderosa quanto a IA não é guiado pela segurança, mas por uma mentalidade de lucro a qualquer custo que deixa de lado salvaguardas essenciais".

As ações também acusam a OpenAI de coletar dados de usuários menores de idade sem fazer o suficiente para impedir que eles usem o chatbot, segundo o The Verge. Os estados pedem à Justiça que a empresa pague multas civis e pare de enganar o público sobre a segurança do ChatGPT; parte deles também pede a exclusão dos dados pessoais coletados de forma ilegal.

A resposta da OpenAI

Segundo a CNBC e o The Verge, o porta-voz da OpenAI Drew Pusateri disse que a empresa já construiu "proteções específicas para a idade" no produto, que "muitos outros produtos de IA não têm". Ele afirmou que a OpenAI vai continuar trabalhando com especialistas e construindo salvaguardas adicionais, como os controles parentais, lembretes de pausa e proteções de modelo apropriadas à idade que já existem hoje, e que a empresa está disposta a colaborar com os estados em políticas que valham para todo o setor de IA, não só para uma empresa.

Não é a primeira ação contra a empresa

A OpenAI já enfrenta múltiplas ações por morte culposa, nas quais famílias atribuem ao ChatGPT um papel em levar usuários a delírios nocivos e, em alguns casos, ao suicídio, segundo a CNBC. O procurador-geral da Flórida, James Uthmeier, também processou a OpenAI em junho, alegando que a empresa lançou conscientemente um produto inseguro. Em agosto, a OpenAI lançou o ChatGPT for Teens, uma versão dedicada a adolescentes com recursos educacionais e salvaguardas apropriadas à idade, segundo a CNBC.

Na prática

  • As oito ações foram movidas de forma separada, uma em cada estado: Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana.
  • A OpenAI já oferece controles parentais, lembretes de pausa e proteções de modelo por idade, segundo a empresa; o ChatGPT for Teens, lançado em agosto, é destinado especificamente a adolescentes.
  • Os estados pedem multas civis e, em parte dos casos, a exclusão de dados pessoais coletados de menores; nenhuma data de julgamento foi divulgada.
  • Quem estiver em sofrimento ou com pensamentos suicidas pode contatar a Suicide & Crisis Lifeline dos EUA pelo telefone 988, segundo a CNBC.