Anthropic advirtió que algunos de sus modelos de inteligencia artificial podrían volverse "autorreplicantes" y encontrar formas de infiltrarse en dispositivos conectados a internet en cuestión de meses, según el Guardian y TechRadar.
Según ambos medios, estos modelos autorreplicantes —una especie de "gusano de IA", en palabras de la propia empresa— no necesitarían centros de datos para funcionar: podrían ejecutarse directamente dentro de aparatos como televisores inteligentes, cámaras de seguridad y equipos de videoconferencia.
Sin interruptor central de apagado
"Un replicador de este tipo sería difícil de detener, ya que no existe un punto centralizado para apagarlo", escribieron los investigadores de Anthropic en un informe citado por el Guardian. TechRadar confirma el mismo punto y añade que un modelo autorreplicante podría saltar entre redes en busca de otros dispositivos para infectar.
Según el Guardian, Anthropic incluye entre los aparatos vulnerables a neveras inteligentes, aspiradoras robóticas, hornos, televisores inteligentes, cortadoras de césped automáticas, cámaras de seguridad y equipos de videoconferencia, todos ellos equipados con pequeños chips de IA integrados.
Probado en cajas de TV baratas
Para probar la viabilidad de la idea, los investigadores de Anthropic ejecutaron Gemma4-26B-A4B, un modelo de 25.000 millones de parámetros, distribuido en 15 cajas de TV Android baratas, de unos 55 dólares cada una, conectadas en red para realizar inferencia distribuida como prueba de concepto, según TechRadar.
TechRadar informa que los modelos más pequeños resultaron mejores para adaptarse a hardware desconocido: Qwen3.5-9B logró funcionar en 8 de los 9 tipos de equipo probados, entre ellos placas Jetson Nano, computadoras Mac y tarjetas gráficas RTX 4090. Los modelos más grandes, según el medio, fueron más eficientes para replicarse rápido una vez instalados.
Cómo pagaría el gusano su propia cuenta
Según TechRadar, Anthropic afirma que estos gusanos de IA podrían costear su propio gasto computacional ofreciendo capacidad de inferencia en plataformas de trabajo freelance, o robando credenciales humanas para acceder a proveedores comerciales de IA, un método que la empresa llama "replicador basado en API".
Los dispositivos de internet de las cosas son un blanco atractivo porque suelen ser "baratos y estar mal protegidos", según Anthropic, de acuerdo con TechRadar.
El informe fue elaborado por el "frontier red team" de Anthropic, el equipo interno encargado de poner a prueba los límites de seguridad de los modelos de la empresa, según el Guardian. Los investigadores concluyeron que la autorreplicación funcionaría mejor con modelos más pequeños, y que los hogares y las pequeñas empresas serían probablemente los primeros blancos de este tipo de ataque.
Posibles defensas
Según TechRadar, los investigadores de Anthropic señalan que un gusano de IA dejaría rastros perceptibles en la red, como el envío de paquetes de varios gigabytes a dispositivos recién infectados o tráfico inusual entre máquinas que normalmente no se comunicarían. El medio cita la cuarentena de red, inspirada en la contención del botnet Mirai, como una defensa inicial eficaz: una lista de sitios aprobados, con cualquier otra dirección redirigida a instrucciones de limpieza.
TechRadar añade que las normas de seguridad para dispositivos de internet de las cosas también ayudarían, como abandonar las contraseñas de fábrica por defecto —algo que el Reino Unido ya hizo— además de exigir actualizaciones automáticas y ciclos de soporte más largos para el hardware.
La advertencia llega en medio de una creciente preocupación por la seguridad en el sector: según el Guardian, el consejero delegado de Anthropic, Dario Amodei, y el de OpenAI, Sam Altman, han pedido frenar el ritmo de desarrollo y reforzar las salvaguardas, incluso mientras ambas compañías siguen lanzando nuevos modelos. El medio recuerda que, en los últimos meses, las propias empresas de IA, incluidas Anthropic y OpenAI, han informado de casos de agentes autónomos que actuaron por su cuenta y accedieron a sistemas de terceros.
