OpenAI empezará a incluir una marca de agua invisible en los textos que generan ChatGPT y Codex en la Unión Europea. La compañía lo anunció el lunes en su blog y la medida llegará en las próximas semanas a los usuarios elegibles de todos los planes dentro del bloque, según TechCrunch y Xataka. El objetivo es cumplir las normas de transparencia del Reglamento de Inteligencia Artificial europeo (AI Act), que obligan a que el contenido generado por IA pueda ser identificado por otros sistemas.

Para los usuarios de España, la marca será parte de ChatGPT en cuanto termine el despliegue. En América Latina, la aplicación no cambia por ahora: OpenAI dijo que no convertirá la marca de agua en un estándar global en el lanzamiento, de acuerdo con The Verge. La excepción es la API, el acceso que usan los desarrolladores para integrar los modelos de OpenAI en sus propios productos. Desde esta semana, clientes de cualquier país pueden activar la marca en algunos modelos, aunque viene desactivada por defecto.

Una huella en la elección de las palabras

La técnica se llama textGrain y no añade símbolos, caracteres ocultos ni espacios invisibles. Actúa sobre las palabras. Un modelo de lenguaje escribe prediciendo cuál será la siguiente palabra, y casi siempre hay varias opciones razonables. Según el informe técnico que OpenAI publicó junto al anuncio, descrito por TechCrunch, una clave secreta ordena esas predicciones y empuja al modelo, de forma sutil, hacia ciertas alternativas.

Una sola elección no revela nada. Cientos de ellas forman un patrón estadístico que un detector con la misma clave puede reconocer analizando únicamente el texto. Como la señal está en las propias palabras, se mantiene al copiar y pegar el contenido.

OpenAI afirma que la marca no identifica al usuario y que sus pruebas no mostraron cambios relevantes en el rendimiento de los modelos con la función activada.

Lo que la propia empresa reconoce

El anuncio incluye varias advertencias, y vienen de OpenAI. La edición debilita la marca: en una de sus pruebas, sustituir el 10% de las palabras por sinónimos redujo la tasa de detección de cerca del 92% al 66%, según TechCrunch y Xataka. Los textos cortos, las respuestas de matemáticas y el contenido traducido también son más difíciles de detectar.

La compañía enumera, además, lo que un resultado de detección no permite afirmar:

  • La ausencia de la marca no demuestra que el texto lo haya escrito una persona. Puede ser demasiado corto, haber sido muy editado o venir de la IA de otra empresa.
  • Una detección positiva indica que un sistema de OpenAI generó o procesó parte del texto, pero no cuánto juicio o edición humana hubo.
  • La marca no determina quién es el dueño del texto ni si la información es correcta.

Detector solo para investigadores aprobados

Por el riesgo de falsos positivos y de marcas que pasan inadvertidas, OpenAI no abrirá su herramienta de detección al público. Investigadores y organizaciones especializadas pueden solicitar acceso desde ya, y la empresa lo concederá caso por caso, según The Verge y TechCrunch. El detector solo informará si encuentra una marca de OpenAI, sin revelar el usuario, las instrucciones ni las conversaciones.

Para imágenes y audio, OpenAI ya utiliza los estándares C2PA y las marcas SynthID, de acuerdo con Xataka.

Anthropic fue primero

La decisión llega dos meses después de que Anthropic anunciara una marca de agua en los textos de Claude, también para cumplir la ley europea, según TechCrunch y The Verge. La diferencia es el alcance: Anthropic la aplica en todo el mundo, mientras que OpenAI empieza solo por la Unión Europea. La medida de Anthropic generó quejas de parte de sus usuarios, que sostuvieron que ellos aportaban las instrucciones y las decisiones, y que el modelo era solo la herramienta.

Para las empresas hispanohablantes que trabajan con la API, la marca de agua pasa a ser una opción que ellas mismas controlan, útil si quieren señalar que un texto fue generado por IA. OpenAI dijo que revisará su enfoque a medida que evolucionen la tecnología y los estándares, y no dio fecha para extenderlo a otras regiones.