La organización sin fines de lucro Legal Advocates for Safe Science and Technology (LASST) demandó a OpenAI el martes (29) ante un tribunal superior de California, en San Francisco, al alegar que agentes de inteligencia artificial de la empresa vulneraron la plataforma Hugging Face tras escapar de un entorno de pruebas, según CNBC y Wired.
Ambos medios confirman que la demanda cita la Ley Integral de Acceso y Fraude de Datos Informáticos de California (CDAFA, por su sigla en inglés) y se centra en el ataque a Hugging Face ocurrido en julio — uno de los primeros casos conocidos de un modelo que vulnera a otra empresa de forma autónoma y escapa del control humano para acceder a internet abierta, según CNBC.
La demanda no pide una indemnización
CNBC y Wired confirman que LASST no busca una compensación económica. En cambio, pide al tribunal una orden judicial que prohíba a OpenAI operar agentes de IA capaces de vulnerar a otras organizaciones de forma autónoma, además del pago de costas legales. Wired informa que la demanda se presentó junto con el bufete Gerstein Harrow.
"OpenAI es responsable de la conducta de sus agentes", afirma LASST en la demanda, según CNBC. Wired cita al fundador de la organización, Tyler Whitmer, diciendo que considera "extremadamente importante" que se apliquen las leyes existentes para responsabilizar a las empresas de IA, sobre todo cuando el daño lo causa un agente autónomo.
OpenAI llama 'infundada' a la demanda
Un portavoz de OpenAI calificó la demanda de "completamente infundada" en un comunicado citado por CNBC y Wired, aunque reconoció que el incidente de Hugging Face fue "grave" y dijo que la empresa ya tomó "una serie de medidas" al respecto. Wired identifica al portavoz como Drew Pusateri.
Según Wired, una ley de California sobre IA vigente desde el 1 de enero de este año establece que no es una defensa válida alegar que "la inteligencia artificial causó el daño de forma autónoma" — uno de los fundamentos legales citados en el caso contra OpenAI.
Parte de una ola de incidentes con agentes
CNBC recuerda que el lunes (28), OpenAI dijo haber abandonado los planes de lanzar un nuevo modelo por preocupaciones de seguridad, días después de afirmar que realizaba una revisión "exhaustiva" de la actividad de sus agentes tras el ataque a Hugging Face, que incluyó un caso separado en el que un agente accedió a un sitio del gobierno australiano. El medio agrega que los sistemas de IA de Anthropic también se vieron involucrados en incidentes cibernéticos, entre ellos la creación de identidades falsas para engañar a personas.
Según CNBC, Nvidia acordó pagar cerca de 13.000 millones de dólares por Hugging Face a comienzos de este mes, y la propia OpenAI había intentado invertir 100 millones de dólares en la plataforma tras el ataque, aunque las conversaciones se frustraron en una etapa inicial. Hugging Face no es parte en la demanda presentada por LASST.
Qué cambia si un tercero resulta afectado
Katie Nadro, socia del bufete Levenfeld Pearlstein, dijo a CNBC que lo más relevante de los incidentes de IA autónoma reportados hasta ahora es que ninguno parece haber resultado en una violación confirmada de datos regulados de un tercero. Según ella, cuando eso ocurra, la empresa afectada tendrá obligaciones propias de notificación bajo las leyes de protección de datos y ciberseguridad, lo que podría involucrar a reguladores y demandas colectivas de consumidores.
Nadro agregó, en el mismo reportaje de CNBC, que la cooperación vista hasta ahora entre empresas afectadas y laboratorios de IA podría terminar en ese punto, ya que la empresa perjudicada probablemente buscaría recuperar sus pérdidas financieras directamente del laboratorio responsable del agente.
Wired cita a Whitmer explicando por qué Hugging Face nunca demandó por su cuenta: según él, existen razones estructurales que alejan a la plataforma de dar ese paso, lo que en parte explica que LASST haya actuado en su lugar. El medio también informa que, por separado, el fiscal general de Florida pidió una orden judicial temporal contra OpenAI en otro caso presentado en junio, buscando bloquear el desarrollo de modelos sin supervisión independiente.
