OpenAI ha comenzado a implementar un sistema de marca de agua invisible en los textos generados por ChatGPT y Codex. El anuncio, realizado el 5 de octubre de 2023, responde directamente a la obligación de transparencia del artículo 50 de la Ley de IA de la Unión Europea, que exige que el contenido generado por IA sea identificable por máquinas. El despliegue se está llevando a cabo solo en la UE y de forma gradual durante las próximas semanas.
La tecnología se llama textGrain y no introduce caracteres ocultos ni espacios invisibles. Lo que hace es modificar ligeramente la elección de palabras del modelo para crear un patrón estadístico que un detector especializado pueda identificar después. Según OpenAI, el rendimiento del modelo no se ve afectado de forma significativa.
Cómo funciona (a grandes rasgos)
TextGrain interviene en el proceso de generación: en lugar de permitir que el modelo elija cada palabra con total libertad probabilística, introduce una señal pseudoaleatoria vinculada a una clave secreta que guía parcialmente la selección dentro de bloques de vocabulario, preservando las probabilidades relativas originales dentro de cada bloque. El detector solo necesita el texto y la clave para comprobar si esa señal está presente.
Resultados y límites que OpenAI reconoce
OpenAI ha publicado datos de sus propias evaluaciones, y no ocultan las limitaciones:
| Escenario | Tasa de detección (objetivo de falso positivo: 1 %) |
|---|---|
| Pasaje de 400 tokens (psicología) | ~95 % |
| Pasaje de 200 tokens | ~80 % |
| Mismo texto de 400 tokens, 10 % de palabras sustituidas por sinónimos | ~66 % |
| Mismo texto, 25 % de palabras sustituidas | ~17 % |
Las principales advertencias son claras: los textos cortos, editados, reescritos o traducidos pueden hacer que la marca se pierda o que la detección falle. Además, la detección es menos eficaz en materias como las matemáticas, donde el modelo tiene menos margen para cambiar palabras sin alterar el significado.
OpenAI subraya que la ausencia de marca no prueba la autoría humana y que la marca no identifica al usuario, la cuenta, el prompt ni la conversación que generaron el texto.
Quién puede usar el detector
El detector no es de acceso público. OpenAI solo ha abierto solicitudes para investigadores y organizaciones expertas aprobadas, que pueden solicitar acceso caso por caso. La empresa también ha anunciado que tiene previsto publicar textGrain como código abierto para que otros puedan desarrollarlo.
Disponibilidad geográfica y para desarrolladores
- ChatGPT y Codex dentro de la UE: la marca de agua se aplicará automáticamente a las salidas elegibles, en todos los planes.
- API a nivel mundial: los desarrolladores pueden activar voluntariamente la marca de agua para determinados modelos, pero viene desactivada por defecto.
- OpenAI también está trabajando con proveedores de nube para que la marca esté disponible en las salidas de sus modelos a través de esos servicios.
Contexto regulatorio
El artículo 50 del Reglamento (UE) 2024/1689 exige que los proveedores de sistemas de IA que generan texto, audio, imagen o vídeo sintéticos garanticen que las salidas estén marcadas en un formato legible por máquina y que puedan detectarse como generadas artificialmente «en la medida en que sea técnicamente viable». Las obligaciones de transparencia del artículo 50 se aplicarán a partir del 2 de agosto de 2026 y los sistemas ya comercializados antes de esa fecha tendrán de plazo hasta el 2 de diciembre de 2026 para cumplir con la marcación legible por máquina.
