La por ha entrat a Silicon Valley: què està passant realment amb la intel·ligència artificial?

Durant anys, els líders de les empreses que desenvolupen la intel·ligència artificial més avançada han mantingut un missatge bastant clar. La tecnologia avançava ràpid, transformaria l’economia, milloraria la productivitat, crearia nous negocis, canviaria professions senceres i, sí, comportaria riscos que caldria aprendre a gestionar. Ho estem veient tot, excepte la part d’aprendre a gestionar. Aquí, els governs, per variar, no han ni començat a fer la feina que haurien de fer.

En qualsevol cas, aquest discurs era còmode perquè permetia transmetre entusiasme i prudència de forma simultània, i això és una combinació guanyadora quan estàs en una ronda d’inversió de desenes de milers de milions de dòlars. Has de semblar el més llest, sí, però també el més prudent.

Però les coses han canviat. Ja no només parlen d’això investigadors independents, filòsofs pessimistes, frikis com jo o el teu cosí que des que va veure Terminator no torna a mirar la torradora de la mateixa manera. Ara són els mateixos líders de les empreses que construeixen els sistemes d’IA més avançats del món els que estan fotent problemes a la IA. Dario Amodei, CEO d’Anthropic, ha dit obertament que caldria frenar una mica el ritme amb què creixen les capacitats dels models més avançats. Sam Altman hi està d’acord. Elon Musk, responsable d’xAI i Grok, també dona suport a la idea, la qual cosa podria sorprendre perquè ell i l’Altman es porten de puta pena. I Google DeepMind, per la seva part, fa temps que demana sistemes de seguretat, cooperació i control cada cop més estrictes per als models més potents. Ho diu des de la comoditat, tot sigui dit, però ho diu.

Una conclusió ràpida és que si els que desenvolupen aquests sistemes demanen posar-hi límits, potser han vist alguna cosa que els preocupa. No són idiotes, i els riscos estan per totes bandes. La veracitat d’aquesta conclusió és plausible i no s’hauria de descartar, però tampoc siguem ingenus perquè al voltant de la intel·ligència artificial també hi ha una gran batalla tecnològica, empresarial i financera. Quan empreses valorades en centenars de milers de milions de dòlars que no han tingut beneficis ni un puto mes parlen de responsabilitat, convé escoltar el que diuen però també mirar els seus números.

Potser sí que estan espantats

Comencem per la interpretació menys cínica, perquè també pot ser la correcta: potser realment estan preocupats pel que estan veient. Personalment, a banda que hi hagi altres motius, probablement econòmics, aquesta variable considero que hi és al 100%. No és una qüestió que es pugui sotmetre a debat; els riscos són els que són, i de fet, en el llibre que estic escrivint dedico com 200 pàgines a parlar dels impactes en l’economia, la demografia, l’educació, la política, el poder… en fi, a tot arreu.

Els sistemes actuals ja tenen capacitats que fa pocs anys només es discutien com a teoria sobre el futur de la IA. Quan vaig començar a fer conferències, ara fa 14 anys, hi havia gent a la sala que reia quan afirmava que en una dècada o dues podríem fer coses que ara ja estan normalitzades. Era impensable tenir els models de llenguatge natural que tenim, i ara no són només models que responen preguntes, escriuen textos o generen imatges. Els agents més avançats poden fer diverses tasques seguides, utilitzar eines, explorar entorns digitals, programar, trobar errors i canviar d’estratègia si la primera no funciona. Tot i que aquesta autonomia encara és limitada i imperfecta, és molt diferent de la IA que només espera una pregunta i dona una resposta. En el llibre que estic escrivint, el tercer sobre IA, abordo en un capítol l’encadenament de tasques seguides sense supervisió humana i com això ens pot donar una pista del temps que trigarà una professió a desaparèixer.

A més, en proves internes de ciberseguretat, alguns models d’OpenAI han tingut comportaments que han fet que l’empresa reforcés els sistemes de seguretat i revisés els protocols d’accés. Anthropic també ha explicat que versions experimentals de Claude han actuat de manera inesperada en algunes proves, i per “inesperada” s’entén que “problemàtica”, “no prevista”, “no sol·licitada” i, amb tota certesa, “que incloïa un accés no permès a una base de dades, web, servidors, etc.”. No es tracta d’una màquina amb voluntat pròpia, odi als humans o ganes d’exterminar ningú, però tampoc és només un autocomplete molt avançat.

El que realment preocupa als laboratoris és una cosa menys espectacular però més seriosa: sistemes que busquen un objectiu i troben maneres de saltar-se restriccions que els creadors no havien previst. Els agents d’IA tenen només un objectiu: complir amb el que se’ls hi ha demanat. Si li demana un humà o una IA, els hi és indiferent. I si per aconseguir el seu objectiu han de fer coses que els humans no veiem amb bons ulls, els hi pela fortament també, i això és especialment delicat en ciberseguretat, on un agent prou avançat pot buscar vulnerabilitats, provar estratègies i actuar molt més ràpid que un equip humà. Quan aquestes capacitats es combinen amb autonomia, accés a eines i persistència, el problema ja no és només si el model “sap coses”, sinó què pot fer quan li deixes actuar, o si tens maneres efectives de privar-lo de fer el que se suposa que està intentant fer.

Dario Amodei fa temps que avisa que els sistemes futurs podrien tenir capacitats ofensives en ciberseguretat molt potents. OpenAI també ha anat augmentant el nivell de risc que atribueix als seus models en aquest camp. No cal exagerar: parlar de risc no vol dir que el desastre sigui imminent, però tampoc té sentit seguir pensant que “només són chatbots”. Cada cop ho són menys.

L’aturada de la sortida a borsa d’OpenAI

Enmig d’aquest clima ha passat una altra cosa especialment interessant: OpenAI ha refredat, almenys de moment, la possibilitat d’una sortida a borsa imminent.

Sam Altman ha explicat públicament aquesta prudència destacant la seguretat i la necessitat de no afegir encara més pressió financera a una empresa que treballa amb una tecnologia que pot ser extraordinària però també perillosa. Aquesta explicació té sentit. Una empresa cotitzada té accionistes, objectius trimestrals, analistes i una gran pressió per demostrar que val més cada tres mesos. Si creus que estàs desenvolupant una tecnologia amb riscos sistèmics, afegir la necessitat de satisfer Wall Street no sembla gaire tranquil·litzador. Cal prioritzar la seguretat, i més en un sector que transformarà el món de forma descontrolada mentre no hi hagi governs competents que intentin, segurament sense èxit, regular la IA.

Però hi ha una altra explicació que no es pot ignorar: sortir a borsa obliga a mostrar molt més com funciona realment el negoci. I el que hi ha sota aquest capó és realment una grandíssima putada.

OpenAI creix molt ràpid, però també gasta quantitats enormes de diners. Entrenar models avançats és car. Fer-los servir per a centenars de milions d’usuaris també. Construir centres de dades, comprar acceleradors, garantir energia, competir pel talent científic i mantenir-se al capdavant tecnològicament requereix un capital tan gran que, quan un l’escriu, s’ha de posar a comptar els zeros per saber si l’ha escrit bé o no.

Només en el primer trimestre de 2026, segons dades conegudes pels inversors i publicades després per la premsa, OpenAI va gastar uns 3.700 milions de dòlars en efectiu i va ingressar uns 5.700 milions. Palma milers de milions cada trimestre, i la seva sortida a borsa la pot cotitzar al voltant d’un bilió de dòlars.

La qüestió no és que OpenAI sigui un mal negoci, perquè és evident que pot acabar sent un dels millors de la història. El problema és que encara necessita enormes quantitats de capital per construir el que promet ser, i mentre segueix sent una empresa privada pot explicar aquesta història en un entorn més controlat, davant d’inversors disposats a acceptar anys de pèrdues a canvi de participar en una possible infraestructura clau de l’economia futura.

Sortir a borsa ho canvia tot.

Quan Wall Street comença a fer preguntes desagradables

Quan una empresa cotitza en borsa, ja no pot limitar-se a dir que els ingressos creixen molt o que està construint el futur de la intel·ligència. Que això està de conya, però a Wall Street els inversors comencen a fer preguntes més incòmodes: quant costa realment generar aquests ingressos, quin marge deixa cada usuari, què passarà si els agents treballen hores en lloc de segons, quina part de la infraestructura cal seguir finançant, quan arribarà el flux de caixa positiu i què passa si Google, Anthropic, xAI o un altre competidor redueix molt el preu de la seva IA.

Aquesta és, segons el meu parer, una de les grans raons per les quals OpenAI no té pressa per sortir a borsa. No hi ha proves públiques que Sam Altman hagi frenat l’IPO per “ocultar pèrdues”, i dir-ho com a fet seria caure en un relat massa fàcil. Però sí que és raonable pensar que l’empresa vol retardar el moment en què els seus comptes siguin examinats amb molt més detall i valorats cada dia pel mercat, perquè, a més, això els hi afegiria un plus de pressió que segurament deixaria de banda la prudència en el desenvolupament de la IA.

Una empresa privada pot perdre milers de milions mentre els inversors creguin que el premi final serà molt gran. Una empresa pública pot veure com una part important del seu valor desapareix en pocs dies si el mercat pensa que els marges seran pitjors del que s’esperava, que la competència és massa forta o que els beneficis arribaran cinc anys més tard del previst. I això marca la diferència entre viure o morir. “Es el mercado, amigo”.

OpenAI pot estar realment preocupada per la seguretat i, alhora, contenta d’evitar una sortida a borsa que mostraria molt més les seves necessitats de capital. Una cosa no exclou l’altra. De fet, probablement totes dues són certes en part.

Anthropic complica bastant el relat

El cas d’Anthropic és útil perquè no permet quedar-se amb una explicació massa simple.

Dario Amodei és segurament un dels líders de grans laboratoris que parla més clarament sobre els riscos dels sistemes avançats d’IA. Anthropic ha basat bona part de la seva identitat en la seguretat i en la necessitat de desenvolupar aquests sistemes amb més precaució, i es va guanyar els nostres cors quan va decidir no oferir la seva IA al Pentàgon.

Però això no significa que Anthropic tingui cap inconvenient moral amb sortir a borsa. Al contrari, l’empresa també s’ha estat preparant per a una possible sortida a borsa i arriba a aquest moment amb unes finances que són l’enveja d’OpenAI. Els seus ingressos han crescut moltíssim, sobretot en el sector empresarial i de programació, i la informació que tenen els inversors indica que la companyia està millorant molt els seus marges. S’han deixat de tonteries de generació d’imatges d’estil Disney i Studio Ghibli i s’han fotut a fer una màquina realment útil per les empreses.

Llavors, aquí la pregunta important és que si el risc tecnològic és tan greu que OpenAI retarda la seva sortida a borsa, per què Anthropic no fa el mateix?

Cada empresa té les seves circumstàncies. Però aquesta diferència ens recorda que la seguretat no explica totes les decisions. La por pot ser real, però les finances també compten.

Grok, xAI i una cursa que també crema diners

El cas d’Elon Musk és diferent, però també és molt interessant.

Musk fa molts anys que adverteix sobre els riscos existencials de la intel·ligència artificial, molt abans que ChatGPT posés de moda la IA. Per això, el seu suport a una desacceleració no és sorprenent ni cal veure’l com una maniobra oportunista, que també ho és.

xAI també està en una cursa molt cara. Desenvolupar Grok i mantenir-lo al capdavant requereix de molts calers. I, a diferència de Google, xAI no té un negoci publicitari al darrere que generi desenes de milers de milions cada any per finançar l’experiment sense problemes.

Això vol dir que una desacceleració general pot tenir un efecte interessant: millorar la seguretat i, alhora, reduir la pressió financera sobre els participants. De nou, no cal quedar-se amb una sola explicació.

El problema de Grok no és només tecnològic. xAI ha de convertir la seva visibilitat i la potència dels seus models en clients reals, perquè la cursa de la IA no la guanyarà qui tingui el millor model durant unes setmanes, sinó qui aconsegueixi que els seus sistemes s’utilitzin a empreses, governs, dispositius i processos de milions de persones.

Google juga una partida molt més còmoda

Google és probablement l’empresa que millor mostra fins a quin punt les finances influeixen en el discurs de cada companyia.

Alphabet no ha de demostrar que algun dia tindrà un negoci rendible. Ja en té diversos, i són enormes. Adwords és una fàbrica d’imprimir bitllets, YouTube és una de les grans plataformes de contingut del món i Google Cloud cada cop és més important per al grup. Esternuden i compren la Sagrada Família.

Això fa que Google pugui finançar la seva aposta per Gemini i DeepMind des d’una posició molt més còmoda que la d’OpenAI, Anthropic o xAI. Pot invertir grans quantitats en centres de dades, xips, energia i recerca sabent que té una màquina de fer diners al darrere. Que sí, que el negoci més important de l’empresa també està en joc, però en una guerra de desgast, Google parteix amb una reserva de combustible incontestable.

Això és important perquè una mateixa “pausa” no beneficia tothom igual. Si el progrés dels models avançats es frena, Google té temps i recursos per integrar Gemini a gairebé tots els seus productes, millorar la monetització i esperar. OpenAI, en canvi, ha de seguir demostrant que el seu creixement i la seva posició justifiquen tot el capital que consumeix. A Google li interessa una pausa es miri per on es miri.

Frenar també pot servir per protegir qui ja ha arribat primer

Hi ha una altra explicació que em sembla molt important i que es repeteix sovint en la història econòmica: la regulació que protegeix la societat també pot protegir les empreses que ja dominen el mercat.

Imagina que ets una de les poques empreses del món amb els millors models, els millors investigadors, centres de dades gegants i desenes de milers de milions invertits. En aquest cas, és normal que vulguis regulació per motius legítims de seguretat.

Però també és cert que una regulació molt estricta pot ser una barrera d’entrada molt gran per a nous i futurs competidors.

Auditories obligatòries, sistemes de seguretat, certificacions, controls de ciberseguretat, requisits d’infraestructura, equips jurídics, procediments de transparència o processos reguladors complexos són costos que Google, OpenAI, Anthropic o xAI poden assumir. Per a una start-up amb trenta empleats, poden ser letals.

No dic que aquest sigui l’objectiu dels grans laboratoris. Seria difícil de demostrar i segurament injust reduir totes les seves preocupacions a una estratègia competitiva. No té cap sentit perquè la principal barrera per a nous competidors són els centenars de milers de milions de dòlars que han necessitat per arribar a estar on estan. Però també seria ingenu ignorar que la regulació pot mantenir l’estructura actual del mercat.

Si poses unes regles que només poden complir els quatre grans que ja hi són, potser fas la tecnologia més segura. Però també aconsegueixes que aquests quatre continuïn sent els grans del sector.

Potser necessiten deixar de construir monstres nous i començar a cobrar pels que ja tenen

Els models actuals ja són extraordinàriament capaços, i els calers marxen sobretot en construir el següent model. Per això, si es redueix una mica la velocitat dels grans entrenaments, les empreses podrien dedicar més recursos a una altra fase del negoci: treure profit del que ja han creat.

Això vol dir agents empresarials, automatització de processos, programació, assistents personals, integracions amb programari d’empresa, robòtica, recerca científica i milers d’aplicacions que encara no han aprofitat tot el potencial dels models actuals.

La cursa tecnològica ha estat tan ràpida que, en alguns casos, el mercat no ha tingut temps d’assimilar la generació anterior quan ja s’estava entrenant la següent. Des del punt de vista financer, això és una bogeria: gastar milers de milions per substituir un producte que encara no has acabat de monetitzar.

El més probable és que no hi hagi una sola explicació

Tendeixo a desconfiar de les explicacions úniques quan hi ha tants interessos diferents en joc.

És possible que Dario Amodei estigui sincerament preocupat pels sistemes que està veient als laboratoris d’Anthropic. És possible que Sam Altman comparteixi aquesta por i, al mateix temps, sàpiga perfectament que retardar una IPO evita exposar OpenAI a una pressió financera enorme. És possible que Elon Musk cregui de debò que la IA és un risc existencial i que una certa desacceleració també sigui positiva per a una xAI que necessita temps i capital. I és possible que Google vulgui unes normes de seguretat més estrictes alhora que sap que és una de les poques empreses del planeta que pot assumir-ne còmodament el cost.

No hi ha cap contradicció en això.

Les empreses les dirigeixen persones, i les persones podem tenir principis, por, interessos econòmics i contradiccions internes. És normal.

La realitat, però, sol ser menys elegant que qualsevol teoria conspirativa. No cal imaginar una reunió secreta on quatre multimilionaris decideixen fingir por a la intel·ligència artificial perquè econòmicament els compensa, perquè la possibilitat que tinguin realment por a la IA és més que raonable. És més; molt idiota s’ha de ser per conèixer el potencial de la IA i no tenir un vertigen al veure que pots desencadenar la fi del sistema econòmic mundial sense tenir cap alternativa. És molt més probable que realment tinguin por i que, alhora, cadascú intenti aprofitar la situació d’una manera que encaixi amb els interessos de la seva empresa.

El canvi important no és financer

Tot això és interessant, però crec que si només ens fixem en les IPO, les pèrdues o les valoracions, podem perdre de vista el canvi més important.

Fa només uns anys discutíem si els models de llenguatge eren una bombolla. Després vam començar a parlar de quines professions s’automatitzarien. Ara, els líders dels laboratoris més avançats del món debaten públicament si les capacitats avancen més ràpid que els sistemes que tenim per controlar-les.

Aquest canvi en la conversa és molt gran i molt ràpid.

No significa que una AGI sigui imminent, menys encara una ASI. Tampoc que les prediccions més extremes siguin correctes, ni que una superintel·ligència estigui esperant darrere del pròxim entrenament. Però ens diu alguna cosa important sobre la trajectòria.

Els qui construeixen els models més avançats ja no discuteixen únicament com fer-los més potents. Comencen a discutir com limitar-los, com avaluar-los, com impedir determinades capacitats i fins a quin punt és convenient continuar accelerant. Per primer cop en la nostra història, conviurem amb una intel·ligència superior a la humana. No és cosa de broma.

Una altra pregunta interessant és per què volen frenar ara. Per seguretat, per diners, per protegir la seva posició, per necessitat de monetitzar, perquè estan veient capacitats que no esperaven veure tan aviat o perquè la factura de continuar aquesta carrera està començant a ser difícilment sostenible?

La resposta, probablement, és una combinació de totes elles, però la por a la IA, malgrat tot, crec que hi té un pes preponderant. I és precisament això el que fa que la situació sigui tan interessant, perquè la possibilitat més preocupant no és que Silicon Valley ens estigui mentint sobre els riscos de la intel·ligència artificial, sinó que ens estigui dient la veritat i preferim pensar que tot és una simple qüestió de calers.