La intel·ligència artificial ha entrat en una nova fase: els seus propis impulsors comencen a demanar que es trepitgi el fre. Dario Amodei, CEO d'Anthropic, ha reclamat alentir el desenvolupament dels models més avançats davant el risc que les seves capacitats creixin més de pressa que els mecanismes dissenyats per controlar-los. Una advertència a la qual s'han sumat Sam Altman, màxim responsable d'OpenAI, i Elon Musk, fundador de SpaceX.
El temor ja no es limita a escenaris futuristes. Entre les amenaces que preocupen els dirigents tecnològics apareixen la pèrdua de control sobre els sistemes, els ciberatacs, el bioterrorisme i els trastorns econòmics que pot provocar una automatització cada vegada més potent. Amodei sosté que la IA pot aportar enormes beneficis —des d'accelerar el creixement econòmic fins a contribuir a combatre malalties—, però adverteix que una cursa tecnològica basada únicament a avançar cada vegada més ràpid pot acabar generant riscos difícils de contenir.
La por que la IA comenci a millorar-se a si mateixa
Una de les principals preocupacions d'Amodei és l'anomenada auto-millora recursiva: que els propis sistemes d'IA siguin cada vegada més capaços de contribuir al desenvolupament de noves generacions de models. Segons el CEO d'Anthropic, aquest procés podria arribar a accelerar el progrés tecnològic fins a superar la capacitat humana per comprendre què estan fent aquests sistemes i mantenir-los sota control.
El directiu fins i tot planteja un horitzó especialment inquietant. Segons el seu parer, si el ritme actual continua, en sis o dotze mesos un sistema amb capacitats similars a determinats incidents recents, però molt més avançat, podria arribar a causar danys d'una magnitud extraordinària. Amodei cita com a exemple un incident relacionat amb agents d'IA d'OpenAI i Hugging Face, en el qual diversos agents van realitzar accions de ciberseguretat que no formaven part de la tasca que se'ls havia encomanat.
Ciberatacs més ràpids i barats
L'amenaça informàtica és, de fet, un dels riscos que ja està deixant senyals en el present. Un informe publicat per Anthropic recull operacions en les quals actors maliciosos han utilitzat els seus models per a automatitzar diferents fases d'atacs, des del reconeixement fins a l'explotació de sistemes i l'extracció d'informació. La companyia assegura haver detectat operacions amb un grau creixent d'autonomia i adverteix que la IA està reduint la barrera tècnica necessària per a executar campanyes sofisticades.
Això canvia la naturalesa del problema: no és necessari que una IA es torni completament autònoma per a resultar perillosa. N'hi ha prou que permeti a un atacant fer en hores el que abans requeria equips especialitzats, augmentar el nombre d'objectius i abaratir enormement el cost d'una operació.
Sam Altman tem també una concentració extrema del poder
Sam Altman comparteix part de les preocupacions, encara que posa el focus en una altra qüestió: qui tindrà el control d'una IA extraordinàriament poderosa. El CEO d'OpenAI ha advertit que el futur podria sortir malament tant si es perd el control dels sistemes com si una sola empresa, persona o país concentra massa poder tecnològic.
Altman reclama per això un marc legal que estableixi requisits de seguretat comuns per als models més avançats i defensa que les noves IA siguin avaluades durant el seu desenvolupament, i no únicament quan estan llestes per a arribar al mercat. També aposta per una major col·laboració entre companyies i per una coordinació internacional.
Frenar no significa parar
La proposta d'Amodei no consisteix a aturar completament la investigació. La seva idea és alentir el ritme de millora de les capacitats dels models perquè la seguretat pugui aconseguir-los. Anthropic planteja, entre altres mesures, la presència permanent d'avaluadors externs que supervisin els processos de les companyies d'IA i puguin detectar possibles problemes abans que arribin a convertir-se en incidents greus.
El debat arriba a més en un moment d'enorme tensió geopolítica. Frenar unilateralment el desenvolupament de la IA podria fer que els Estats Units perdessin avantatge enfront de la Xina, un dels arguments utilitzats pels qui rebutgen una pausa. El mateix Amodei reconeix aquest dilema i defensa una coordinació internacional que permeti avançar en seguretat sense lliurar el lideratge tecnològic a altres països.
El missatge que arriba des de Silicon Valley resulta, per tant, paradoxal: els qui estan protagonitzant la cursa per construir la IA més potent són ara els qui adverteixen que potser cal córrer una mica menys. La por no és únicament que les màquines siguin cada vegada més intel·ligents, sinó que la velocitat d'aquesta transformació deixi enrere les institucions, les empreses i la mateixa societat encarregades de posar-los límits.
Estem davant d'una amenaça real o un excés d'alarmisme?
Les advertències sobre els riscos de la intel·ligència artificial són cada vegada més freqüents, fins i tot entre els mateixos responsables de les grans companyies tecnològiques. Però fins on arriba el perill real i on comença l'alarmisme? Pot una IA arribar a escapar del control humà o estem atribuint a aquestes eines capacitats que encara no tenen?
El debat enfronta experts amb visions molt diferents. Mentre alguns investigadors consideren necessari preparar-se per a escenaris extrems, altres creuen que parlar d'una possible extinció de la humanitat desvia l'atenció de problemes molt més immediats: l'impacte sobre l'ocupació, els ciberatacs, la desinformació, la concentració de poder tecnològic o l'ús militar d'aquests sistemes.
La pregunta, per tant, no és únicament si la IA pot arribar a ser perillosa, sinó quins riscos són reals avui, quins pertanyen encara al terreny de la hipòtesi i quant sabem realment sobre el rumb que està prenent aquesta tecnologia. Entre l'optimisme tecnològic i la por a l'apocalipsi existeix un terreny intermedi que cada vegada resulta més difícil ignorar.
Afegeix ElConstitucional.es com a font preferida de Google de forma gratuïta.
Mantén-te informat de totes les notícies d'última hora i amb la millor informació. Contra la desinformació, per la democràcia i els drets socials.