Google ha fet un nou pas en la identificació de continguts generats amb intel·ligència artificial. La companyia ha obert al públic SynthID Detector, una eina que permet comprovar si una imatge, un vídeo o un arxiu d'àudio conté les marques d'aigua digitals de SynthID, la seva tecnologia per identificar continguts creats mitjançant intel·ligència artificial.
El servei, disponible en anglès, permet analitzar arxius per buscar senyals que normalment resulten imperceptibles per a l'ull i l'oïda humans. L'objectiu és facilitar la identificació de l'origen de determinats continguts que circulen per internet i oferir una eina addicional per verificar imatges, vídeos i gravacions en un moment en què resulta cada vegada més difícil distingir els materials reals dels generats artificialment.
Com funciona SynthID Detector
A diferència d'altres sistemes que intenten determinar si una imatge sembla artificial per les seves característiques visuals, SynthID Detector busca una marca d'aigua digital incorporada al contingut durant la seva generació. Aquest senyal està dissenyat per no alterar l'aparença de les imatges ni resultar audible en els arxius de so, però pot ser reconeguda pels sistemes de detecció de Google.
La tecnologia SynthID s'utilitza en diferents eines d'intel·ligència artificial de la companyia i permet identificar determinats continguts generats amb els seus models. Google també ha anunciat la seva col·laboració amb altres empreses tecnològiques per ampliar l'abast d'aquest sistema. No obstant això, això no significa que l'eina pugui reconèixer qualsevol imatge, vídeo o àudio creat mitjançant intel·ligència artificial.
Pot detectar qualsevol imatge o vídeo fals?
Una de les principals limitacions de SynthID Detector és que no trobar una marca d'aigua no demostra que un contingut sigui autèntic. L'eina busca un senyal específic i, per tant, pot no identificar arxius generats amb sistemes que no incorporen SynthID.
Tampoc s'ha de confondre la presència d'una marca d'aigua amb una verificació completa de la veracitat d'una imatge o una gravació. Un arxiu pot haver estat generat amb intel·ligència artificial i representar fets reals, mentre que una fotografia autèntica pot utilitzar-se per difondre informació falsa mitjançant un context enganyós.
Google ha dissenyat la seva tecnologia perquè les marques d'aigua puguin continuar sent detectables fins i tot després de determinades modificacions, com la compressió o el retall d'imatges. No obstant això, aquestes capacitats no converteixen el sistema en un detector universal ni eliminen la necessitat de contrastar els continguts amb altres fonts.
Google reforça la identificació de continguts generats amb IA
L'obertura de SynthID Detector arriba en un moment en què les imatges fotorealistes, les veus sintètiques i els vídeos generats mitjançant intel·ligència artificial dificulten cada vegada més la identificació de l'origen d'un contingut. En aquest context, disposar d'eines de verificació pot resultar especialment útil per a periodistes, investigadors i usuaris que vulguin comprovar materials que reben o troben en xarxes socials.
Segons les dades facilitades per Google, des del llançament de SynthID el 2023, la companyia ha incorporat aquesta tecnologia a més de 180.000 milions d'imatges i vídeos, a més de continguts d'àudio. Aquestes xifres reflecteixen l'escala del seu sistema de marcatge, encara que no signifiquen que tots aquests arxius puguin consultar-se públicament mitjançant el detector.
Amb SynthID Detector, Google amplia l'accés a una tecnologia que fins ara s'havia provat amb grups seleccionats de professionals i altres usuaris. L'eina ofereix una nova via per a investigar l'origen de determinats continguts digitals, encara que els seus resultats han d'interpretar-se com una pista tècnica i no com una garantia absoluta d'autenticitat o falsedat.