Els textos generats per ChatGPT tindran pròximament una característica que els lectors no podran detectar a simple vista. OpenAI ha anunciat que incorporarà una marca d'aigua invisible als continguts generats pels seus models a la Unió Europea, una mesura que començarà a desplegar-se durant les pròximes setmanes i que busca facilitar la identificació automàtica de textos creats amb intel·ligència artificial.
La tecnologia es diu textGrain i funciona d'una manera diferent a les marques d'aigua tradicionals. No afegeix símbols, espais ocults, caràcters especials ni cap element que pugui apreciar-se en copiar o llegir un text. En el seu lloc, modifica de forma estadística la manera en la qual el model selecciona determinades paraules, creant una mena de petjada matemàtica integrada en la pròpia redacció que posteriorment pot ser analitzada per un detector.
Una mesura vinculada a la normativa europea
El moviment d'OpenAI arriba en resposta a les exigències de transparència del Reglament d'Intel·ligència Artificial de la Unió Europea, que contempla mecanismes perquè els continguts generats per IA puguin ser identificats per sistemes informàtics. La companyia ha optat per començar aquest desplegament a Europa i, per ara, no convertirà el marcat en una configuració predeterminada per a tots els usuaris del món.
El sistema arribarà a ChatGPT i Codex a la Unió Europea, amb un desplegament progressiu durant les pròximes setmanes i amb independència del pla contractat. Al mateix temps, els clients de l'API d'OpenAI de tot el món podran activar voluntàriament el marcat en determinats models, encara que romandrà desactivat per defecte en l'API.
La marca no serà infal·lible
OpenAI també reconeix que textGrain té limitacions. La detecció funciona millor com més extens és el text i pot perdre precisió quan una persona modifica substancialment la redacció. En les seves proves, la companyia va comprovar que substituir al voltant del 10% de les paraules d'un text de 400 tokens per sinònims reduïa la detecció d'aproximadament un 92% al 66%. Si els canvis arribaven al 25%, la taxa descendia fins al 17%.
També hi ha el risc de falsos positius i negatius. En les proves d'OpenAI, amb una taxa objectiu de falsos positius de l'1%, el detector va identificar la marca en aproximadament el 80% dels textos de 200 tokens i va arribar al 95% en textos de 400 tokens en determinats continguts. La companyia subratlla, per això, que l'eina no s'ha d'interpretar com una prova absoluta d'autoria.
I hi ha una altra qüestió important: la petjada no permetrà saber qui va utilitzar ChatGPT, quines instruccions va rebre el model o quina conversa hi va haver darrere del text. Tampoc determinarà quanta feina va aportar una persona ni servirà per establir qui és el propietari del contingut. Fins i tot que un detector no trobi la marca no demostraria necessàriament que un text hagi estat escrit íntegrament per una persona.
OpenAI té previst començar donant accés al seu detector únicament a investigadors i organitzacions especialitzades, amb l'objectiu d'estudiar-ne el funcionament i millorar la tecnologia abans d'ampliar-ne la disponibilitat. La companyia també assegura que treballa per convertir textGrain en una tecnologia de codi obert.