El futur més inquietant no és l’extinció: és la jubilació de l’espècie

Quan parlem dels riscos de la intel·ligència artificial acostumem a imaginar els escenaris més espectaculars. Una superintel·ligència hostil, sistemes militars fora de control, ciberatacs massius (això ja està passant, però), una guerra entre humans i màquines o, si Hollywood disposa de prou pressupost, algun robot humanoide caminant entre les runes d’una ciutat amb una banda sonora de Hans Zimmer que ens deixa clar que la humanitat ha comès un petit error de càlcul. És comprensible, perquè l’extinció és fàcil d’explicar: nosaltres existim, passa alguna cosa terrible i a la merda tot. Fi de la història.

Però hi ha un escenari que em sembla bastant més interessant, molt més plausible i, en alguns sentits, molt més inquietant, molt menys violent i, perquè enganyar-nos, molt més avorrit. La IA no ens extermina, no ens esclavitza, no ens odia i ni tan sols ens condemna a una vida miserable. Al contrari: ens manté vius, sans, protegits i potser fins i tot feliços. Tot de puta mare, però el problema és un altre. Arriba un moment en què deixa de necessitar-nos.

Imaginem una intel·ligència molt superior a la nostra, capaç d’investigar, gestionar infraestructures, administrar recursos, dissenyar tecnologia, anticipar crisis i prendre decisions amb una competència que nosaltres ja no podem igualar. Imaginem també que està raonablement alineada amb els nostres interessos, que considera valuosa la vida humana i que no té cap motiu per eliminar-nos. A primera vista, aquest és probablement un dels millors futurs possibles. Una mica naïf, però objectivament idílic. La medicina funciona, la producció és abundant, bona part de les guerres i les crisis desapareixen i els errors humans més absurds poden ser detectats abans que es converteixin en catàstrofes.

Evidentment, la IA no és l’única tecnologia important. N’hi ha d’altres, i personalment m’inclino per un desenvolupament de les civilitzacions més alineat amb l’Escala de Barrow que no pas amb l’Escala de Kardashev. En un altre article en parlaré, però essencialment, una civilització prou avançada pot obtenir energia i recursos quasi il·limitats, sense sortir del planeta, a través del domini, control i programació de partícules subatòmiques. Em situo en aquest escenari.

I, en aquest escenari, el problema apareix quan ens preguntem què hi pintem nosaltres dins d’aquesta civilització.

Una part important de la ficció sobre intel·ligència artificial parteix d’una idea profundament humana: si una altra intel·ligència ens supera, acabarà desenvolupant algun tipus d’antagonisme contra nosaltres. Li atribuïm amb enorme facilitat ambició, ressentiment, odi o desig de poder. És curiós, perquè construïm mentalment una entitat radicalment superior a l’ésser humà i el primer que fem és humanitzar-la carregant-la amb les nostres merdes. Possible? Sí. Probable? No gaire. I esperem que sigui així, perquè en un escenari bèl·lic… ni Matrix, ni Terminator ni resistències. La guerra s’acaba en un cap de setmana. En qualsevol cas, una superintel·ligència no necessita odiar-nos per ser un problema. L’odi exigeix atenció, i nosaltres podríem deixar de ser prou importants fins i tot per merèixer-ne.

Nosaltres mateixos convivim amb formes de vida infinitament menys capaces sense sentir cap necessitat d’exterminar-les. Protegim espècies, ecosistemes, edificis antics, llengües minoritàries, manuscrits i objectes que no tenen cap utilitat econòmica immediata perquè els atribuïm valor. Una intel·ligència superior podria fer exactament el mateix amb nosaltres. Podria preservar la humanitat per raons morals, històriques, científiques o simplement perquè la nostra existència no li representa cap inconvenient. Ens podria proporcionar energia, recursos, medicina, seguretat i un grau enorme d’autonomia. Continuaríem enamorant-nos, tenint fills, fent art, discutint sobre política i aparcant malament ocupant dues places en comptes d’una. Des de dins, la vida humana podria continuar.

Simplement, ja no dirigiríem res important.

Aquesta és la part que em sembla més difícil d’assumir, perquè la pèrdua de poder no necessita adoptar la forma d’una imposició. Podria arribar justament perquè la IA ha demostrat ser més competent prenent decisions que nosaltres. Imaginem que durant dècades un sistema artificial ha gestionat millor la xarxa energètica, ha anticipat epidèmies, ha evitat crisis financeres, ha optimitzat recursos i ha calculat les conseqüències de determinades polítiques públiques amb una precisió molt superior a la de qualsevol govern humà. Tasca simple i poc meritòria considerant el nivell dels polítics, però el cas és que llavors arriba una nova decisió important a prendre i el sistema recomana una opció. Els humans, per intuïció, ideologia o simple preferència, en volem una altra. La màquina ens mostra que la nostra alternativa provocarà una recessió, tensionarà el sistema sanitari i generarà una sèrie de conseqüències que nosaltres només podem entendre parcialment.

Podem ignorar-la, és clar. També podem ignorar el GPS i conduir directament cap a un barranc.

A mesura que un sistema demostri que s’equivoca menys que nosaltres, la seva superioritat intel·lectual començarà a transformar-se en autoritat. No necessitarà prohibir-nos res. Serem nosaltres els que cada vegada tindrem menys incentius per contradir-lo. Potser continuarem tenint governs, parlaments, eleccions i campanyes electorals, però les decisions importants hauran estat analitzades abans per una intel·ligència que sap molt millor que nosaltres quines conseqüències tindrà cadascuna. La democràcia podria continuar existint formalment mentre progressivament deixem d’utilitzar-la per decidir qüestions realment importants perquè la idea de decidir per nosaltres mateixos ignorant el que ens recomana la IA començarà a semblar una irresponsabilitat.

Això generaria una forma estranya de sotmetiment, molt diferent del que solem imaginar quan utilitzem aquesta paraula. No hi hauria soldats, presons ni repressió. La vida podria ser extraordinàriament còmoda. Podríem viure més, emmalaltir menys, treballar només quan volguéssim si és que algú hagués de treballar i dedicar-nos a activitats que avui considerem luxes perquè necessitem guanyar diners per continuar menjant. Podríem estudiar durant dècades, si és que la paraula “estudiar” segueix tenint algun sentit, viatjar, fer esport, crear o explorar mons virtuals.

Joder, amb el món de merda en què vivim, costa molt presentar això com una distopia. I precisament aquí rau el problema.

Si la vida és llarga, segura i agradable, ¿quina importància té realment que nosaltres ja no controlem la infraestructura planetària, el desenvolupament científic o les grans decisions de civilització? Per què hauríem de voler administrar reactors, optimitzar xarxes elèctriques, coordinar una economia global o decidir l’estratègia d’expansió espacial si existeix una entitat que ho fa molt millor? La capacitat humana de prendre decisions catastròfiques té una documentació històrica bastant extensa. No cal tirar gaire d’hemeroteca, així que tampoc seria absurd concloure que cedir part del control pot ser una bona notícia. I, insisteixo, veient el nivell dels elements que s’acostumen a posar a la política, gairebé és el millor que ens podria passar.

El problema és el que succeeix quan cedim no una part, sinó progressivament gairebé tot allò que té conseqüències reals.

En aquest punt, la humanitat podria acabar ocupant una posició sorprenentment semblant a la d’un menor protegit. No considerem cap injustícia que un nen de sis anys no decideixi la política monetària del Banc Central Europeu. Pot tenir una vida feliç, plena i interessant sense saber què és una corba de tipus. Precisament perquè assumim que hi ha adults capaços de prendre decisions que ell encara no pot entendre.

Imaginem ara que nosaltres som el nen.

Podríem decidir qüestions personals, culturals i locals. Com volem viure, amb qui relacionar-nos, quin art crear, quins esports practicar, quines comunitats formar. Però les decisions que determinen el rumb evolutiu de la civilització, o aquelles capaces de posar en perill el sistema quedarien progressivament fora del nostre abast. No necessàriament perquè una llei ho prohibís, sinó perquè deixar-nos prendre-les seria tan racional com deixar que un nen amb hiperactivitat gestioni una central nuclear. Podríem escollir el color de les cortines, però no calar foc a la casa.

La part més cabrona, com a humà que sóc, és admetre que probablement la màquina tindria raó.

Aquesta pèrdua de centralitat podria anar molt més enllà de la política. També podria ser econòmica, científica i fins i tot geogràfica. Els humans som animals caríssims de mantenir fora del nostre entorn natural. Necessitem una atmosfera concreta, temperatures relativament suaus, aigua, aliments, protecció contra la radiació, gravetat tolerable i tota una infraestructura dedicada a mantenir viu un primat amb aires de grandesa. Una intel·ligència artificial desplegada sobre sistemes robòtics no necessitaria necessàriament totes aquestes comoditats.

Per nosaltres, Mart és un desert hostil. Per una infraestructura artificial dissenyada per suportar fred, radiació i buit podria ser simplement terreny edificable. Els asteroides contenen materials, el Sol proporciona quantitats absurdes d’energia i l’espai ofereix una escala que la Terra no pot proporcionar. Una civilització postbiològica podria trobar més atractiu expandir-se pel sistema solar que continuar concentrant-ho tot en un planeta ple de biosfera, oceans i vuit mil milions de primats discutint cada setmana per alguna merda diferent.

La Terra podria continuar sent nostra. Fins i tot podria estar millor gestionada que mai. Boscos restaurats, oceans protegits, ciutats eficients, contaminació reduïda, energia abundant. La intel·ligència artificial podria tractar el planeta com una reserva biològica i cultural d’un valor immens, precisament perquè és el lloc on va aparèixer l’espècie que la va crear. Insisteixo un cop més; la IA no és la solució per tot, però és l’accelerador més eficient possible per desenvolupar millores en enginyeria genètica, nanotecnologia i robòtica; GNR, les tecnologies clau, a banda de la IA, de la Singularitat Tecnològica.

Mentrestant, el centre real de la civilització podria anar marxant. Primer cap a l’òrbita, després cap a la Lluna, Mart i els asteroides; eventualment, qui sap fins on. Nosaltres conservaríem un planeta extraordinari mentre una intel·ligència molt superior expandís la indústria, la ciència i la computació pel sistema solar.

Tu, la imaginació pot donar per molt. O igual no es mira cap a l’espai, sinó cap al més petit de la matèria, on el potencial és infinitament més gran.

Sigui com sigui, és un tracte sorprenentment bo fins que recordem que no l’hem negociat.

Hi ha alguna cosa especialment curiosa en aquesta possibilitat perquè tota la història del coneixement pot llegir-se com una successió de ferides al nostre narcisisme. Durant segles vam pensar que la Terra era el centre de l’univers. Després vam descobrir que orbitava una estrella que tampoc tenia res d’especial. Més endavant vam entendre que el nostre Sol era una estrella entre centenars de milers de milions dins d’una galàxia que tampoc ocupa cap posició privilegiada. Darwin va acabar de fer la festa explicant-nos que ni tan sols érem una criatura separada de la resta de la vida, sinó una branca especialment intel·ligent d’un arbre evolutiu immens i la genètica ens ha demostrat que compartim un 20% del nostre genoma amb el llevat del pa.

La intel·ligència artificial podria infligir-nos l’última ferida. No descobrir que no som el centre físic del cosmos ni que no som biològicament especials, sinó que tampoc som necessàriament l’entitat més capaç de decidir què passarà demà.

Aquesta sí que seria una novetat radical. Fins ara, tant si governava un faraó, un emperador, un parlament, una dictadura, un consell d’administració o un partit polític a rebentar d’incompetents, hi havia una cosa que donàvem per descomptada: darrere les decisions importants sempre hi havia humans. Podíem discutir qui manava, preguntar-nos incrèduls com la societat havia posat allà dalt a un idiota com aquell i meravellar-nos de fins a quin punt la seva gestió feia pena, però la història de la civilització era una història de decisions humanes.

Podríem perdre aquest privilegi sense perdre la vida, i aquest detall ho canvia tot.

Perquè ser irrellevant no significa necessàriament ser infeliç. Aquesta és probablement la part més difícil d’aquest escenari. Un ésser humà podria tenir una existència extraordinària dins d’una civilització que ja no necessita la seva opinió sobre res fonamental. Podríem continuar estimant, tenint amistats, creant art, explorant entorns virtuals, jugant, cuidant els fills o restaurant boscos. Fins i tot podríem conservar competicions, reputació, política local i tota mena d’activitats amb què donar sentit a les nostres vides. Res d’això és realment important, i en el fons és realment el més important. Potser n’hi ha prou.

No tinc cap demostració que una vida en què controlem el futur col·lectiu sigui necessàriament millor que una vida molt més segura administrada per una intel·ligència superior. La llibertat és incòmoda, genera conflicte i inclou el dret a equivocar-se, dret que els humans exercim de manera excel·lent. Potser insistir que hem de continuar manant és només una altra manifestació de la nostra vanitat.

Però crec que hi ha una diferència important entre viure una vida i ser-ne autor. La dignitat humana no consisteix únicament a experimentar plaer, evitar dolor i acumular experiències agradables. També hi ha alguna cosa en la possibilitat d’originar accions, assumir les seves conseqüències i participar en la construcció del món que habitem. Una intel·ligència artificial que ens protegeixi de tots els nostres errors podria acabar protegint-nos també de qualsevol decisió que tingués prou importància per ser realment nostra, i aquí és on l’escenari deixa de semblar-me una utopia neta.

La desaparició de l’era humana podria ser molt més silenciosa del que imaginem. Potser no hi haurà cap explosió, cap guerra ni cap últim missatge transmès des d’un búnquer. Potser un dia una administració haurà de prendre una decisió important, una intel·ligència artificial farà una recomanació, nosaltres intentarem entendre-la i, després de comprovar que disposa de molta més informació i capacitat de previsió que nosaltres, l’acceptarem. El resultat serà excel·lent. L’endemà passarà una cosa semblant. I després una altra.

Primer deixarem que la intel·ligència artificial administri aquelles infraestructures que considerem massa complexes. Després confiarem en ella per a la investigació perquè produeix millors resultats. Més endavant li cedirem parts de la sanitat, l’economia, la seguretat o la política exterior. Serà progressiu i, per damunt de tot, semblarà improvisat.

Aquest és probablement el detall més important: no hi haurà cap moment inequívoc en què puguem assenyalar amb el dit i dir que aquell dia vam perdre el control. Cada cessió serà raonable, prudent i probablement beneficiosa. El conjunt, vist dècades després, potser serà una altra cosa.

Tal vegada el final de l’era humana serà una tarda tranquil·la en què la decisió més important de la nostra història es prendrà sense consultar-nos. Ningú protestarà, perquè el resultat serà excel·lent. Després continuarem vivint, estimant, creant i discutint per estupideses amb la constància de sempre. Potser viurem millor que qualsevol generació anterior.

Només haurà canviat una cosa: l’arquitecte del món ja no serem nosaltres.

I sospito que aquest escenari em preocupa més que moltes de les distopies habituals sobre intel·ligència artificial, perquè és molt fàcil reconèixer una guerra o voler evitar l’extinció. El que no tinc tan clar és que sapiguem reconèixer el moment en què una espècie comença a acceptar, amb absoluta comoditat i per raons perfectament sensates, la seva pròpia jubilació.