L'Agencia Española de Protección de Datos (AEPD) ha recomanat als usuaris fixar “límits clars” als assistents d'intel·ligència artificial (IA) sota la premissa que “l'agent prepara i la persona aprova”, i ha aconsellat no concedir autoritzacions permanents, a més de revisar la memòria, l'historial i la privadesa d'aquestes eines per protegir les dades personals.
L'autoritat ha publicat el document “Assistents i agents d'IA: Decàleg per a persones usuàries”, un conjunt de consells i recomanacions per aprofitar el potencial d'aquestes eines sense rebaixar les garanties de seguretat. Segons explica l'AEPD, els assistents i agents d'intel·ligència artificial poden realitzar tasques de forma autònoma, una capacitat que considera útil, però que també modifica la naturalesa dels errors quan el sistema no només respon, sinó que actua.
“Quan l'assistent només respon, un error és una resposta equivocada. Quan actua, és un correu enviat, un arxiu compartit, una compra, un contracte o un consentiment donat en el teu nom”, detalla l'Agència, que proposa fer-se cinc preguntes abans de delegar qualsevol tasca:
Riscos reals i límits orientatius
L'AEPD adverteix que “no es tracta de riscos teòrics” i posa com a exemple el cas recent d'un usuari que va encarregar al seu agent vendre un objecte i va triar l'opció “permetre sempre”, pensant que seguiria demanant-li autorització abans d'acceptar ofertes. El sistema va tancar el tracte i va facilitar la seva adreça al comprador, que va aparèixer al domicili del venedor sense que aquest sabés que s'havia concertat la cita.
Per això, l'Agència recomana indicar amb claredat què ha de fer l'agent i què no, encara que recorda que “aquests límits són orientatius, però no substitueixen els permisos i les confirmacions”.
Proveïdors identificats, controls de memòria i protecció de tercers
Entre els consells del document figura revisar qui presta el servei i triar proveïdors clarament identificats, que permetin exercir els drets a la Unió Europea i, preferiblement, processin les dades en el propi dispositiu. L'Agència també recomana utilitzar els controls de memòria, historial i privadesa del servei per eliminar informació, sense confiar només a demanar-li-ho a l'assistent dins de la conversa.
L'AEPD assenyala, a més, que una web, un correu, un document o una invitació de calendari poden contenir instruccions ocultes, fins i tot invisibles a simple vista, com un text blanc sobre fons blanc, destinades a fer que l'agent faci una cosa diferent del que va demanar la persona, com enviar dades o aprovar una operació. “Com que cap mesura elimina completament aquest risc, la millor protecció és limitar el que l'agent pot fer si aconsegueix ser enganyat”, subratlla el document.
El text recorda també que al correu, l'agenda o les fotos hi pot haver informació d'altres persones que no han decidit relacionar-se amb aquesta IA, per la qual cosa crida a protegir igualment les dades de tercers.
Dispositius compartits, menors i ús laboral
En dispositius compartits, l'Agència aconsella utilitzar perfils separats i, si els usen menors d'edat, crear perfils específics i acompanyar-los durant el seu ús. En matèria de seguretat, recomana protegir el compte i el dispositiu, instal·lar només complements i connectors d'origen conegut, supervisar l'agent, saber com aturar-lo i retirar els seus accessos abans de necessitar-ho.
En l'àmbit laboral, l'AEPD destaca la importància d'utilitzar únicament els assistents autoritzats per cada organització i no connectar el correu o els documents professionals a un compte personal d'IA.
La responsabilitat no recau només en l'usuari
El decàleg subratlla que la responsabilitat sobre els assistents i agents d'IA no pot recaure únicament en la persona usuària. Segons el document, els qui ofereixen eines capaces d'actuar en nom de les persones haurien d'incorporar controls més clars, entre ells permisos comprensibles que distingeixin entre consultar i actuar, confirmació configurable per a les accions de major impacte, un historial del que l'agent ha fet, una forma immediata d'aturar-lo, gestió i esborrat de la memòria, informació sobre a qui s'envien les dades i si s'usen per entrenar la IA, i una via senzilla per exercir els drets.