Los textos generados por ChatGPT tendrán próximamente una característica que los lectores no podrán detectar a simple vista. OpenAI ha anunciado que incorporará una marca de agua invisible a los contenidos generados por sus modelos en la Unión Europea, una medida que comenzará a desplegarse durante las próximas semanas y que busca facilitar la identificación automática de textos creados con inteligencia artificial.
La tecnología se llama textGrain y funciona de una manera diferente a las marcas de agua tradicionales. No añade símbolos, espacios ocultos, caracteres especiales ni ningún elemento que pueda apreciarse al copiar o leer un texto. En su lugar, modifica de forma estadística la manera en la que el modelo selecciona determinadas palabras, creando una especie de huella matemática integrada en la propia redacción que posteriormente puede ser analizada por un detector.
Una medida vinculada a la normativa europea
El movimiento de OpenAI llega en respuesta a las exigencias de transparencia del Reglamento de Inteligencia Artificial de la Unión Europea, que contempla mecanismos para que los contenidos generados por IA puedan ser identificados por sistemas informáticos. La compañía ha optado por comenzar este despliegue en Europa y, por ahora, no convertirá el marcado en una configuración predeterminada para todos los usuarios del mundo.
El sistema llegará a ChatGPT y Codex en la Unión Europea, con un despliegue progresivo durante las próximas semanas y con independencia del plan contratado. Al mismo tiempo, los clientes de la API de OpenAI de todo el mundo podrán activar voluntariamente el marcado en determinados modelos, aunque permanecerá desactivado por defecto en la API.
La marca no será infalible
OpenAI también reconoce que textGrain tiene limitaciones. La detección funciona mejor cuanto más extenso es el texto y puede perder precisión cuando una persona modifica sustancialmente la redacción. En sus pruebas, la compañía comprobó que sustituir alrededor del 10% de las palabras de un texto de 400 tokens por sinónimos reducía la detección de aproximadamente un 92% al 66%. Si los cambios alcanzaban el 25%, la tasa descendía hasta el 17%.
También existe el riesgo de falsos positivos y negativos. En las pruebas de OpenAI, con una tasa objetivo de falsos positivos del 1%, el detector identificó la marca en aproximadamente el 80% de los textos de 200 tokens y llegó al 95% en textos de 400 tokens en determinados contenidos. La compañía subraya, por ello, que la herramienta no debe interpretarse como una prueba absoluta de autoría.
Y hay otra cuestión importante: la huella no permitirá saber quién utilizó ChatGPT, qué instrucciones recibió el modelo o qué conversación hubo detrás del texto. Tampoco determinará cuánto trabajo aportó una persona ni servirá para establecer quién es el propietario del contenido. Incluso que un detector no encuentre la marca no demostraría necesariamente que un texto haya sido escrito íntegramente por una persona.
OpenAI tiene previsto comenzar dando acceso a su detector únicamente a investigadores y organizaciones especializadas, con el objetivo de estudiar su funcionamiento y mejorar la tecnología antes de ampliar su disponibilidad. La compañía también asegura que trabaja para convertir textGrain en una tecnología de código abierto.
