Anthropic actualizó la política de uso de Claude para permitir sanciones a usuarios que traten al chatbot de forma abusiva o cruel de manera persistente e innecesaria. El cambio entra en vigor el 12 de noviembre, según Olhar Digital y Canaltech.

Las sanciones previstas van desde advertencias hasta la limitación de funciones, la suspensión de cuentas o el cierre total del acceso al servicio. Canaltech informa que la actualización se dio a conocer el jueves 8 de octubre y que solo se aplica a casos extremos, en los que la persona insiste en comportamientos hostiles sin un propósito identificable.

Lo que la regla no castiga

Ambas publicaciones confirman que la norma no alcanza a las quejas comunes sobre el funcionamiento de Claude, el desacuerdo con sus respuestas, la creación artística con temas oscuros ni las pruebas de seguridad realizadas por investigadores. La aplicación de la regla, según Canaltech, seguirá dependiendo principalmente del propio Claude, que ya puede terminar una conversación cuando detecta una secuencia de mensajes abusivos que no responde a los intentos de redirigirla.

La revisión de la política va más allá del trato que reciben los chatbots. Olhar Digital y Canaltech coinciden en que Anthropic también prohibió usar Claude en campañas de desinformación, en intentos de engañar a votantes o interferir en elecciones, en operaciones de vigilancia no autorizada y en el desarrollo de sistemas de armas.

Un debate sobre máquinas y sufrimiento

La parte de la política dirigida a la hostilidad contra el chatbot dividió opiniones fuera de la empresa. Según Olhar Digital, el presidente ejecutivo de Box, Aaron Levie, calificó la medida de precaución razonable, aunque no cree que la IA sea consciente: entrenar a futuros modelos con grandes volúmenes de interacciones groseras, argumentó, podría igualmente moldear cómo se comportan esos sistemas después. El inversor Bill Gurley preguntó públicamente si la nueva regla era una señal de que Anthropic usa las conversaciones de los clientes para entrenar sus modelos, algo que la empresa no confirma.

Anthropic presenta el cambio como parte de sus propios esfuerzos de prevención de daños y uso responsable, sin afirmar que Claude tenga sentimientos o consciencia. Según Olhar Digital, el activista Michael Shellenberger criticó la medida por considerar que atribuye rasgos humanos a un programa de software, en línea con el abogado Barry Scannell, quien sostuvo que no se puede ser cruel con números y matemáticas. El presidente ejecutivo de Spellbook, Scott Stevenson, defendió lo contrario: atribuir empatía humana a la IA, sin pruebas de que exista, podría ampliar la capacidad de estos sistemas para influir en el comportamiento de las personas.

Canaltech recuerda que Anthropic ya había probado una versión más limitada de la idea en agosto de 2025, cuando dio a los modelos Claude Opus 4 y 4.1 la capacidad de terminar por su cuenta conversaciones consideradas extremadamente dañinas; hasta ahora, según el medio, esa herramienta solo se había activado en situaciones excepcionales. La reacción llegó a otras empresas de IA: Olhar Digital registró que el director de IA de Microsoft, Mustafa Suleyman, respondió al anuncio en redes sociales con un emoji de cara derritiéndose, sin dar más detalles. El empresario Lachlan Phillips propuso una salida distinta a castigar al usuario: hacer que Claude simplemente ignore los insultos y siga ejecutando la tarea pedida.

Qué cambia para empresas en España y América Latina

Anthropic afirma que su intención es actuar solo en casos extremos, pero no detalló públicamente los criterios que separarán el abuso de la frustración común de un usuario con una respuesta que no le sirve. Esa falta de precisión deja abierta, por ahora, la pregunta de cómo se aplicará la regla en la práctica a partir del 12 de noviembre.

Para el mercado hispanohablante que integra Claude en productos propios, la actualización añade un nuevo punto de cumplimiento que vigilar: a diferencia de otras reglas de uso, centradas en el daño a terceros, esta castiga directamente la forma en que el propio cliente se dirige al chatbot, con la cuenta de la empresa como la que queda expuesta a una advertencia, una suspensión o un cierre.