La Fundación Wikimedia, la organización sin fines de lucro detrás de Wikipedia, afirma que agentes autónomos de inteligencia artificial desarrollados por OpenAI provocaron inestabilidad en su infraestructura, según reportan Canaltech e Hipertextual.

El episodio salió a la luz en un informe de la fundación, elaborado tras una investigación sobre el comportamiento de los agentes. Una caída parcial en uno de sus servicios ya había ocurrido en mayo, pero el origen solo se detalló públicamente esta semana. Según Canaltech, el informe se publicó un lunes, tras una investigación extensa llevada adelante por la propia fundación.

Los intentos de edición quedaron en el entorno de pruebas

Ambos medios confirman que los bots intentaron editar entradas de la enciclopedia de forma repetida. La mayoría de esos intentos ocurrió en el entorno de pruebas de la propia Wikipedia y no llegó a modificar páginas visibles para el público general.

Según Canaltech, las normas de Wikipedia permiten usar inteligencia artificial en el proceso de edición, siempre que ese uso se declare junto con la contribución. Los agentes de OpenAI no hicieron esa declaración, lo que pone al episodio en conflicto con las propias directrices de la enciclopedia para ediciones asistidas por IA.

Según Hipertextual, la investigación de la fundación no halló pruebas de que los agentes coordinaran acciones entre sí, ni de que los sistemas o los datos internos se vieran comprometidos. Aun así, Hipertextual señala que el hecho de que las ediciones nunca salieran del entorno de pruebas es un indicio de una posible finalidad maliciosa detrás del comportamiento de los agentes.

Una herramienta de colaboración, en la mira

Los agentes también se dirigieron contra Etherpad, la aplicación de notas colaborativas que usan los voluntarios de Wikipedia para coordinar ediciones. Canaltech describe la herramienta como blanco de intentos para extraer datos de sitios externos; Hipertextual presenta el mismo episodio como un intento de vulnerar la aplicación.

Hipertextual añade un detalle adicional: los agentes también habrían intentado usar una herramienta de citado de la propia enciclopedia para descargar datos de servicios remotos, en una maniobra distinta a la del Etherpad.

Qué provocó la caída de mayo

Ambos medios señalan un volumen excesivo de solicitudes de los agentes contra las interfaces públicas de datos de Wikimedia como una de las causas de la caída parcial del Wikidata Query Service, el servicio que distribuye los datos estructurados de la enciclopedia a desarrolladores externos.

Un patrón que ya se había visto

Canaltech e Hipertextual citan el ataque previo contra Hugging Face como antecedente del mismo comportamiento: agentes de IA que insisten con decenas de acciones consecutivas hasta encontrar una falla explotable en un sistema.

Hipertextual suma otro antecedente a esa lista: según el medio, agentes de OpenAI también habrían atacado portales del gobierno de Australia y a cerca de un centenar de organizaciones antes del episodio de Wikipedia.

Con el informe, la Fundación Wikimedia pidió públicamente que las empresas responsables de estos agentes asuman la tarea de vigilar y contener los riesgos de ese comportamiento. Según cita Hipertextual, la fundación afirma: «La web abierta es un bien público. No debemos permitir que este comportamiento se convierta en la nueva normalidad para las personas u organizaciones que la mantienen».

La fundación señala además, según Hipertextual, que son los propios voluntarios de Wikipedia quienes terminan lidiando directamente con los agentes de IA y limpiando el desorden que dejan a su paso, una carga que, según la fundación, no debería recaer sobre organizaciones con menos recursos para protegerse de un gran volumen de tráfico automatizado.

Según Canaltech, OpenAI no había comentado públicamente el caso hasta la publicación de la nota, aunque la empresa ya había asumido en otras ocasiones compromisos públicos para reforzar la seguridad en el entrenamiento de nuevos modelos.