El futuro más inquietante no es la extinción: es la jubilación de la especie

Cuando hablamos de los riesgos de la inteligencia artificial solemos imaginar los escenarios más espectaculares. Una superinteligencia hostil, sistemas militares fuera de control, ciberataques masivos (aunque esto ya está pasando), una guerra entre humanos y máquinas o, si Hollywood dispone de suficiente presupuesto, algún robot humanoide caminando entre las ruinas de una ciudad con una banda sonora de Hans Zimmer que nos deja claro que la humanidad ha cometido un pequeño error de cálculo. Es comprensible, porque la extinción es fácil de explicar: nosotros existimos, pasa algo terrible y a la mierda todo. Fin de la historia.

Pero hay un escenario que me parece bastante más interesante, mucho más plausible y, en algunos sentidos, mucho más inquietante, mucho menos violento y, para qué engañarnos, mucho más aburrido. La IA no nos extermina, no nos esclaviza, no nos odia y ni siquiera nos condena a una vida miserable. Al contrario: nos mantiene vivos, sanos, protegidos y quizá incluso felices. Todo de puta madre, pero el problema es otro. Llega un momento en que deja de necesitarnos.

Imaginemos una inteligencia muy superior a la nuestra, capaz de investigar, gestionar infraestructuras, administrar recursos, diseñar tecnología, anticipar crisis y tomar decisiones con una competencia que nosotros ya no podemos igualar. Imaginemos también que está razonablemente alineada con nuestros intereses, que considera valiosa la vida humana y que no tiene ningún motivo para eliminarnos. A primera vista, este es probablemente uno de los mejores futuros posibles. Un poco naïf, pero objetivamente idílico. La medicina funciona, la producción es abundante, buena parte de las guerras y las crisis desaparecen y los errores humanos más absurdos pueden detectarse antes de convertirse en catástrofes.

Evidentemente, la IA no es la única tecnología importante. Hay otras, y personalmente me inclino por un desarrollo de las civilizaciones más alineado con la Escala de Barrow que con la Escala de Kardashev. En otro artículo hablaré de ello, pero esencialmente, una civilización suficientemente avanzada puede obtener energía y recursos casi ilimitados, sin salir del planeta, a través del dominio, control y programación de partículas subatómicas. Me sitúo en este escenario.

Y, en este escenario, el problema aparece cuando nos preguntamos qué pintamos nosotros dentro de esta civilización.

Una parte importante de la ficción sobre inteligencia artificial parte de una idea profundamente humana: si otra inteligencia nos supera, acabará desarrollando algún tipo de antagonismo contra nosotros. Le atribuimos con enorme facilidad ambición, resentimiento, odio o deseo de poder. Es curioso, porque construimos mentalmente una entidad radicalmente superior al ser humano y lo primero que hacemos es humanizarla cargándola con nuestras mierdas. ¿Posible? Sí. ¿Probable? No demasiado. Y esperemos que sea así, porque en un escenario bélico… ni Matrix, ni Terminator ni resistencias. La guerra se acaba en un fin de semana. En cualquier caso, una superinteligencia no necesita odiarnos para ser un problema. El odio exige atención, y nosotros podríamos dejar de ser lo suficientemente importantes incluso para merecerla.

Nosotros mismos convivimos con formas de vida infinitamente menos capaces sin sentir ninguna necesidad de exterminarlas. Protegemos especies, ecosistemas, edificios antiguos, lenguas minoritarias, manuscritos y objetos que no tienen ninguna utilidad económica inmediata porque les atribuimos valor. Una inteligencia superior podría hacer exactamente lo mismo con nosotros. Podría preservar a la humanidad por razones morales, históricas, científicas o simplemente porque nuestra existencia no le supone ningún inconveniente. Nos podría proporcionar energía, recursos, medicina, seguridad y un grado enorme de autonomía. Seguiríamos enamorándonos, teniendo hijos, haciendo arte, discutiendo sobre política y aparcando mal ocupando dos plazas en lugar de una. Desde dentro, la vida humana podría continuar.

Simplemente, ya no dirigiríamos nada importante.

Esta es la parte que me parece más difícil de asumir, porque la pérdida de poder no necesita adoptar la forma de una imposición. Podría llegar precisamente porque la IA ha demostrado ser más competente tomando decisiones que nosotros. Imaginemos que durante décadas un sistema artificial ha gestionado mejor la red energética, ha anticipado epidemias, ha evitado crisis financieras, ha optimizado recursos y ha calculado las consecuencias de determinadas políticas públicas con una precisión muy superior a la de cualquier gobierno humano. Tarea simple y poco meritoria considerando el nivel de los políticos, pero el caso es que entonces llega una nueva decisión importante que tomar y el sistema recomienda una opción. Los humanos, por intuición, ideología o simple preferencia, queremos otra. La máquina nos muestra que nuestra alternativa provocará una recesión, tensionará el sistema sanitario y generará una serie de consecuencias que nosotros solo podemos entender parcialmente.

Podemos ignorarla, claro. También podemos ignorar el GPS y conducir directamente hacia un barranco.

A medida que un sistema demuestre que se equivoca menos que nosotros, su superioridad intelectual empezará a transformarse en autoridad. No necesitará prohibirnos nada. Seremos nosotros quienes cada vez tendremos menos incentivos para contradecirlo. Quizá seguiremos teniendo gobiernos, parlamentos, elecciones y campañas electorales, pero las decisiones importantes habrán sido analizadas antes por una inteligencia que sabe mucho mejor que nosotros qué consecuencias tendrá cada una. La democracia podría seguir existiendo formalmente mientras progresivamente dejamos de utilizarla para decidir cuestiones realmente importantes porque la idea de decidir por nosotros mismos ignorando lo que nos recomienda la IA empezará a parecer una irresponsabilidad.

Esto generaría una forma extraña de sometimiento, muy diferente de lo que solemos imaginar cuando utilizamos esta palabra. No habría soldados, cárceles ni represión. La vida podría ser extraordinariamente cómoda. Podríamos vivir más, enfermar menos, trabajar solo cuando quisiéramos, si es que alguien tuviera que trabajar, y dedicarnos a actividades que hoy consideramos lujos porque necesitamos ganar dinero para seguir comiendo. Podríamos estudiar durante décadas, si es que la palabra «estudiar» sigue teniendo algún sentido, viajar, hacer deporte, crear o explorar mundos virtuales.

Joder, con el mundo de mierda en el que vivimos, cuesta mucho presentar esto como una distopía. Y precisamente ahí está el problema.

Si la vida es larga, segura y agradable, ¿qué importancia tiene realmente que nosotros ya no controlemos la infraestructura planetaria, el desarrollo científico o las grandes decisiones de civilización? ¿Por qué deberíamos querer administrar reactores, optimizar redes eléctricas, coordinar una economía global o decidir la estrategia de expansión espacial si existe una entidad que lo hace mucho mejor? La capacidad humana de tomar decisiones catastróficas tiene una documentación histórica bastante extensa. No hace falta tirar mucho de hemeroteca, así que tampoco sería absurdo concluir que ceder parte del control puede ser una buena noticia. E, insisto, viendo el nivel de los elementos que suelen meterse en política, casi es lo mejor que nos podría pasar.

El problema es lo que sucede cuando cedemos no una parte, sino progresivamente casi todo aquello que tiene consecuencias reales.

En este punto, la humanidad podría acabar ocupando una posición sorprendentemente parecida a la de un menor protegido. No consideramos ninguna injusticia que un niño de seis años no decida la política monetaria del Banco Central Europeo. Puede tener una vida feliz, plena e interesante sin saber qué es una curva de tipos. Precisamente porque asumimos que hay adultos capaces de tomar decisiones que él todavía no puede entender.

Imaginemos ahora que nosotros somos el niño.

Podríamos decidir cuestiones personales, culturales y locales. Cómo queremos vivir, con quién relacionarnos, qué arte crear, qué deportes practicar, qué comunidades formar. Pero las decisiones que determinan el rumbo evolutivo de la civilización, o aquellas capaces de poner en peligro el sistema, quedarían progresivamente fuera de nuestro alcance. No necesariamente porque una ley lo prohibiera, sino porque dejarnos tomarlas sería tan racional como dejar que un niño con hiperactividad gestione una central nuclear. Podríamos escoger el color de las cortinas, pero no prender fuego a la casa.

La parte más cabrona, como humano que soy, es admitir que probablemente la máquina tendría razón.

Esta pérdida de centralidad podría ir mucho más allá de la política. También podría ser económica, científica e incluso geográfica. Los humanos somos animales carísimos de mantener fuera de nuestro entorno natural. Necesitamos una atmósfera concreta, temperaturas relativamente suaves, agua, alimentos, protección contra la radiación, gravedad tolerable y toda una infraestructura dedicada a mantener vivo a un primate con aires de grandeza. Una inteligencia artificial desplegada sobre sistemas robóticos no necesitaría necesariamente todas estas comodidades.

Para nosotros, Marte es un desierto hostil. Para una infraestructura artificial diseñada para soportar frío, radiación y vacío podría ser simplemente terreno edificable. Los asteroides contienen materiales, el Sol proporciona cantidades absurdas de energía y el espacio ofrece una escala que la Tierra no puede proporcionar. Una civilización posbiológica podría encontrar más atractivo expandirse por el sistema solar que seguir concentrándolo todo en un planeta lleno de biosfera, océanos y ocho mil millones de primates discutiendo cada semana por alguna mierda diferente.

La Tierra podría seguir siendo nuestra. Incluso podría estar mejor gestionada que nunca. Bosques restaurados, océanos protegidos, ciudades eficientes, contaminación reducida, energía abundante. La inteligencia artificial podría tratar el planeta como una reserva biológica y cultural de un valor inmenso, precisamente porque es el lugar donde apareció la especie que la creó. Insisto una vez más: la IA no es la solución para todo, pero es el acelerador más eficiente posible para desarrollar mejoras en ingeniería genética, nanotecnología y robótica; GNR, las tecnologías clave, aparte de la IA, de la Singularidad Tecnológica.

Mientras tanto, el centro real de la civilización podría ir marchándose. Primero hacia la órbita, después hacia la Luna, Marte y los asteroides; eventualmente, quién sabe hasta dónde. Nosotros conservaríamos un planeta extraordinario mientras una inteligencia muy superior expandiera la industria, la ciencia y la computación por el sistema solar.

Oye, la imaginación puede dar para mucho. O igual no se mira hacia el espacio, sino hacia lo más pequeño de la materia, donde el potencial es infinitamente mayor.

Sea como sea, es un trato sorprendentemente bueno hasta que recordamos que no lo hemos negociado.

Hay algo especialmente curioso en esta posibilidad porque toda la historia del conocimiento puede leerse como una sucesión de heridas a nuestro narcisismo. Durante siglos pensamos que la Tierra era el centro del universo. Después descubrimos que orbitaba una estrella que tampoco tenía nada de especial. Más adelante entendimos que nuestro Sol era una estrella entre cientos de miles de millones dentro de una galaxia que tampoco ocupa ninguna posición privilegiada. Darwin terminó de rematar la fiesta explicándonos que ni siquiera éramos una criatura separada del resto de la vida, sino una rama especialmente inteligente de un árbol evolutivo inmenso, y la genética nos ha demostrado que compartimos un 20% de nuestro genoma con la levadura del pan.

La inteligencia artificial podría infligirnos la última herida. No descubrir que no somos el centro físico del cosmos ni que no somos biológicamente especiales, sino que tampoco somos necesariamente la entidad más capaz de decidir qué pasará mañana.

Esta sí que sería una novedad radical. Hasta ahora, tanto si gobernaba un faraón, un emperador, un parlamento, una dictadura, un consejo de administración o un partido político a reventar de incompetentes, había una cosa que dábamos por descontada: detrás de las decisiones importantes siempre había humanos. Podíamos discutir quién mandaba, preguntarnos incrédulos cómo la sociedad había puesto ahí arriba a un idiota como aquel y maravillarnos de hasta qué punto su gestión daba pena, pero la historia de la civilización era una historia de decisiones humanas.

Podríamos perder este privilegio sin perder la vida, y este detalle lo cambia todo.

Porque ser irrelevante no significa necesariamente ser infeliz. Esta es probablemente la parte más difícil de este escenario. Un ser humano podría tener una existencia extraordinaria dentro de una civilización que ya no necesita su opinión sobre nada fundamental. Podríamos seguir amando, teniendo amistades, creando arte, explorando entornos virtuales, jugando, cuidando de los hijos o restaurando bosques. Incluso podríamos conservar competiciones, reputación, política local y todo tipo de actividades con las que dar sentido a nuestras vidas. Nada de esto es realmente importante, y en el fondo es realmente lo más importante. Quizá sea suficiente.

No tengo ninguna demostración de que una vida en la que controlamos el futuro colectivo sea necesariamente mejor que una vida mucho más segura administrada por una inteligencia superior. La libertad es incómoda, genera conflicto e incluye el derecho a equivocarse, derecho que los humanos ejercemos de manera excelente. Quizá insistir en que debemos seguir mandando es solo otra manifestación de nuestra vanidad.

Pero creo que hay una diferencia importante entre vivir una vida y ser su autor. La dignidad humana no consiste únicamente en experimentar placer, evitar dolor y acumular experiencias agradables. También hay algo en la posibilidad de originar acciones, asumir sus consecuencias y participar en la construcción del mundo que habitamos. Una inteligencia artificial que nos proteja de todos nuestros errores podría acabar protegiéndonos también de cualquier decisión que tuviera suficiente importancia para ser realmente nuestra, y ahí es donde el escenario deja de parecerme una utopía limpia.

La desaparición de la era humana podría ser mucho más silenciosa de lo que imaginamos. Quizá no habrá ninguna explosión, ninguna guerra ni ningún último mensaje transmitido desde un búnker. Quizá un día una administración tendrá que tomar una decisión importante, una inteligencia artificial hará una recomendación, nosotros intentaremos entenderla y, después de comprobar que dispone de mucha más información y capacidad de previsión que nosotros, la aceptaremos. El resultado será excelente. Al día siguiente pasará algo parecido. Y después otra vez.

Primero dejaremos que la inteligencia artificial administre aquellas infraestructuras que consideramos demasiado complejas. Después confiaremos en ella para la investigación porque produce mejores resultados. Más adelante le cederemos partes de la sanidad, la economía, la seguridad o la política exterior. Será progresivo y, por encima de todo, parecerá improvisado.

Este es probablemente el detalle más importante: no habrá ningún momento inequívoco en el que podamos señalar con el dedo y decir que aquel día perdimos el control. Cada cesión será razonable, prudente y probablemente beneficiosa. El conjunto, visto décadas después, quizá será otra cosa.

Tal vez el final de la era humana será una tarde tranquila en la que la decisión más importante de nuestra historia se tomará sin consultarnos. Nadie protestará, porque el resultado será excelente. Después seguiremos viviendo, amando, creando y discutiendo por estupideces con la constancia de siempre. Quizá viviremos mejor que cualquier generación anterior.

Solo habrá cambiado una cosa: los arquitectos del mundo ya no seremos nosotros.

Y sospecho que este escenario me preocupa más que muchas de las distopías habituales sobre inteligencia artificial, porque es muy fácil reconocer una guerra o querer evitar la extinción. Lo que no tengo tan claro es que sepamos reconocer el momento en el que una especie empieza a aceptar, con absoluta comodidad y por razones perfectamente sensatas, su propia jubilación.