OpenAI ha comenzado a implementar un sistema de marca de agua invisible en los textos generados por ChatGPT y Codex. El anuncio, realizado el 5 de octubre de 2023, responde directamente a la obligaci\u00f3n de transparencia del art\u00edculo 50 de la Ley de IA de la Uni\u00f3n Europea, que exige que el contenido generado por IA sea identificable por m\u00e1quinas. El despliegue se est\u00e1 llevando a cabo solo en la UE y de forma gradual durante las pr\u00f3ximas semanas.<\/p>\n\n\n\n
La tecnolog\u00eda se llama textGrain<\/strong> y no introduce caracteres ocultos ni espacios invisibles. Lo que hace es modificar ligeramente la elecci\u00f3n de palabras del modelo para crear un patr\u00f3n estad\u00edstico que un detector especializado pueda identificar despu\u00e9s. Seg\u00fan OpenAI, el rendimiento del modelo no se ve afectado de forma significativa.<\/p>\n\n\n\n\n\n\n\n TextGrain interviene en el proceso de generaci\u00f3n: en lugar de permitir que el modelo elija cada palabra con total libertad probabil\u00edstica, introduce una se\u00f1al pseudoaleatoria vinculada a una clave secreta que gu\u00eda parcialmente la selecci\u00f3n dentro de bloques de vocabulario, preservando las probabilidades relativas originales dentro de cada bloque. El detector solo necesita el texto y la clave para comprobar si esa se\u00f1al est\u00e1 presente.<\/p>\n\n\n\n OpenAI ha publicado datos de sus propias evaluaciones, y no ocultan las limitaciones:<\/p>\n\n\n\nC\u00f3mo funciona (a grandes rasgos)<\/h2>\n\n\n\n
Resultados y l\u00edmites que OpenAI reconoce<\/h2>\n\n\n\n