Anthropic lanzó el jueves Cyber Mission, una iniciativa de largo plazo para aplicar inteligencia artificial a la defensa de sistemas de los que depende la sociedad, según el anuncio de la propia empresa, corroborado por Tecmundo.

El programa arranca en dos frentes: la protección de infraestructura crítica, como redes eléctricas y sistemas de agua, y el triaje de vulnerabilidades en software de código abierto.

Anthropic y Tecmundo describen el mismo contexto detrás del lanzamiento: las herramientas de defensa más avanzadas todavía no llegan a suficientes defensores, mientras los ciberataques se vuelven más sofisticados al usar la propia inteligencia artificial como arma.

Según Anthropic, Cyber Mission nace del trabajo hecho en Project Glasswing, un programa anterior de la empresa para escanear vulnerabilidades. La compañía afirma que esta misma semana fusionó Glasswing en una versión ampliada de su Cyber Verification Program, que ahora da a más defensores acceso a los modelos más capaces de Anthropic.

Infraestructura crítica

El primer frente es el Critical Infrastructure Defense Program. Según Anthropic, suma los modelos Claude, ingenieros presenciales y la investigación de amenazas de la empresa a las compañías que los operadores de infraestructura crítica ya contratan para decidir qué correcciones aplicar en sistemas que no pueden apagarse para actualizarse, un equipamiento que, según la empresa, puede funcionar décadas sin un parche.

Anthropic afirma que once compañías se sumaron como socias fundadoras, divididas por el tipo de trabajo que realizan:

  • Consultoría: Accenture, Booz Allen, Deloitte, PwC
  • Seguridad: CrowdStrike, Dragos, Insane Cyber, Nozomi Networks, Palo Alto Networks
  • Fabricantes de equipamiento: Hitachi, Rockwell Automation

Anthropic y Tecmundo confirman que parte de estos socios ya usa Claude para corregir vulnerabilidades y ayudar a sus propios clientes a hacer lo mismo, y que el grupo de proveedores puede crecer a medida que las estrategias demuestren ser eficaces.

La empresa dice que el frente de infraestructura crítica se apoya en un programa más antiguo: desde junio, según Anthropic, ya ofrece modelos Claude y soporte técnico a gobiernos estatales, locales y tribales de Estados Unidos, con cobertura hoy en más de la mitad de los estados del país y en algunos de los mayores operadores públicos de infraestructura crítica, para escaneo de código, corrección de fallas, respuesta a incidentes y ejercicios de simulación de ataques.

Código abierto

El segundo frente es OSS Scanner, un servicio gratuito y opcional que envía a los proyectos de código abierto inscritos escaneos periódicos realizados por los modelos más avanzados de Anthropic. La empresa dice que el servicio se inspiró en OSS-Fuzz, una herramienta de Google para encontrar fallas en software libre.

Según Anthropic, OSS Scanner surgió de un efecto colateral de Project Glasswing: al recibir los primeros informes privados de vulnerabilidades, algunos mantenedores de proyectos pidieron ver todo lo que los modelos de la empresa habían encontrado, revisado o no. El nuevo servicio convierte ese pedido puntual en una opción permanente para los proyectos inscritos.

Según Anthropic, cada informe de OSS Scanner incluye una demostración de cómo podría explotarse la falla y, cuando es posible, una sugerencia de corrección. La empresa dice que espera una tasa de verdaderos positivos superior al 90% —dato también citado por Tecmundo— y afirma que trabajará para mejorar esa cifra con el tiempo.

Anthropic dice que los informes son generados por el modelo y se envían sin revisión humana, lo que acelera la entrega a los mantenedores de los proyectos, pero también puede traer imprecisiones, como una clasificación de gravedad equivocada. Para los proyectos fuera de OSS Scanner, la empresa dice que seguirá compartiendo solo informes revisados por humanos, mediante el proceso de divulgación coordinada que ya usaba antes.

Anthropic dice además haber financiado organizaciones detrás de código abierto muy usado, como la Python Software Foundation, la Apache Software Foundation y OpenSSF, administrada por la Linux Foundation. Según Tecmundo, la empresa espera que, en dos años, las mejoras de esta iniciativa dejen a la defensa por delante de los ataques que usan inteligencia artificial —una expectativa de la propia Anthropic, no un resultado ya observado.