El miedo ha entrado en Silicon Valley: ¿qué está pasando realmente con la inteligencia artificial?

Durante años, los líderes de las empresas que desarrollan la inteligencia artificial más avanzada han mantenido un mensaje bastante claro. La tecnología avanzaba rápido, transformaría la economía, mejoraría la productividad, crearía nuevos negocios, cambiaría profesiones enteras y, sí, conllevaría riesgos que habría que aprender a gestionar. Lo estamos viendo todo, excepto la parte de aprender a gestionar. Aquí, los gobiernos, para variar, ni siquiera han empezado a hacer el trabajo que deberían hacer.

En cualquier caso, este discurso era cómodo porque permitía transmitir entusiasmo y prudencia de forma simultánea, y eso es una combinación ganadora cuando estás en una ronda de inversión de decenas de miles de millones de dólares. Tienes que parecer el más listo, sí, pero también el más prudente.

Pero las cosas han cambiado. Ya no solo hablan de esto investigadores independientes, filósofos pesimistas, frikis como yo o tu primo, que desde que vio Terminator no vuelve a mirar la tostadora de la misma manera. Ahora son los propios líderes de las empresas que construyen los sistemas de IA más avanzados del mundo quienes están poniéndole pegas a la IA. Dario Amodei, CEO de Anthropic, ha dicho abiertamente que habría que frenar un poco el ritmo al que crecen las capacidades de los modelos más avanzados. Sam Altman está de acuerdo. Elon Musk, responsable de xAI y Grok, también apoya la idea, lo cual podría sorprender porque él y Altman se llevan de puta pena. Y Google DeepMind, por su parte, lleva tiempo pidiendo sistemas de seguridad, cooperación y control cada vez más estrictos para los modelos más potentes. Lo dice desde la comodidad, todo sea dicho, pero lo dice.

Una conclusión rápida es que si quienes desarrollan estos sistemas piden ponerles límites, quizá hayan visto algo que les preocupa. No son idiotas, y los riesgos están por todas partes. La veracidad de esta conclusión es plausible y no debería descartarse, pero tampoco seamos ingenuos porque alrededor de la inteligencia artificial también hay una gran batalla tecnológica, empresarial y financiera. Cuando empresas valoradas en cientos de miles de millones de dólares que no han tenido beneficios ni un puto mes hablan de responsabilidad, conviene escuchar lo que dicen pero también mirar sus números.

Quizá sí que estén asustados

Empecemos por la interpretación menos cínica, porque también puede ser la correcta: quizá realmente estén preocupados por lo que están viendo. Personalmente, al margen de que haya otros motivos, probablemente económicos, considero que esta variable está presente al 100%. No es una cuestión que se pueda someter a debate; los riesgos son los que son, y de hecho, en el libro que estoy escribiendo dedico como 200 páginas a hablar de los impactos en la economía, la demografía, la educación, la política, el poder… en fin, en todas partes.

Los sistemas actuales ya tienen capacidades que hace pocos años solo se discutían como teoría sobre el futuro de la IA. Cuando empecé a dar conferencias, hace ya 14 años, había gente en la sala que se reía cuando afirmaba que en una década o dos podríamos hacer cosas que ahora ya están normalizadas. Era impensable tener los modelos de lenguaje natural que tenemos, y ahora no son solo modelos que responden preguntas, escriben textos o generan imágenes. Los agentes más avanzados pueden hacer varias tareas seguidas, utilizar herramientas, explorar entornos digitales, programar, encontrar errores y cambiar de estrategia si la primera no funciona. Aunque esta autonomía todavía es limitada e imperfecta, es muy diferente de la IA que solo espera una pregunta y da una respuesta. En el libro que estoy escribiendo, el tercero sobre IA, abordo en un capítulo el encadenamiento de tareas seguidas sin supervisión humana y cómo esto nos puede dar una pista del tiempo que tardará una profesión en desaparecer.

Además, en pruebas internas de ciberseguridad, algunos modelos de OpenAI han tenido comportamientos que han llevado a la empresa a reforzar los sistemas de seguridad y revisar los protocolos de acceso. Anthropic también ha explicado que versiones experimentales de Claude han actuado de manera inesperada en algunas pruebas, y por “inesperada” se entiende “problemática”, “no prevista”, “no solicitada” y, con toda certeza, “que incluía un acceso no permitido a una base de datos, web, servidores, etc.”. No se trata de una máquina con voluntad propia, odio a los humanos o ganas de exterminar a nadie, pero tampoco es solo un autocomplete muy avanzado.

Lo que realmente preocupa a los laboratorios es algo menos espectacular pero más serio: sistemas que persiguen un objetivo y encuentran maneras de saltarse restricciones que los creadores no habían previsto. Los agentes de IA tienen un único objetivo: cumplir con lo que se les ha pedido. Si se lo pide un humano o una IA, les resulta indiferente. Y si para conseguir su objetivo tienen que hacer cosas que los humanos no vemos con buenos ojos, también les importa una mierda, y esto es especialmente delicado en ciberseguridad, donde un agente lo bastante avanzado puede buscar vulnerabilidades, probar estrategias y actuar mucho más rápido que un equipo humano. Cuando estas capacidades se combinan con autonomía, acceso a herramientas y persistencia, el problema ya no es solo si el modelo “sabe cosas”, sino qué puede hacer cuando le dejas actuar, o si tienes maneras efectivas de impedirle hacer lo que se supone que está intentando hacer.

Dario Amodei lleva tiempo avisando de que los sistemas futuros podrían tener capacidades ofensivas en ciberseguridad muy potentes. OpenAI también ha ido aumentando el nivel de riesgo que atribuye a sus modelos en este campo. No hace falta exagerar: hablar de riesgo no significa que el desastre sea inminente, pero tampoco tiene sentido seguir pensando que “solo son chatbots”. Cada vez lo son menos.

El parón de la salida a bolsa de OpenAI

En medio de este clima ha ocurrido otra cosa especialmente interesante: OpenAI ha enfriado, al menos de momento, la posibilidad de una salida a bolsa inminente.

Sam Altman ha explicado públicamente esta prudencia destacando la seguridad y la necesidad de no añadir todavía más presión financiera a una empresa que trabaja con una tecnología que puede ser extraordinaria pero también peligrosa. Esta explicación tiene sentido. Una empresa cotizada tiene accionistas, objetivos trimestrales, analistas y una gran presión por demostrar que vale más cada tres meses. Si crees que estás desarrollando una tecnología con riesgos sistémicos, añadir la necesidad de satisfacer a Wall Street no parece muy tranquilizador. Hay que priorizar la seguridad, y más en un sector que transformará el mundo de forma descontrolada mientras no haya gobiernos competentes que intenten, seguramente sin éxito, regular la IA.

Pero hay otra explicación que no se puede ignorar: salir a bolsa obliga a mostrar mucho más cómo funciona realmente el negocio. Y lo que hay bajo ese capó es realmente una grandísima putada.

OpenAI crece muy rápido, pero también gasta cantidades enormes de dinero. Entrenar modelos avanzados es caro. Hacerlos funcionar para cientos de millones de usuarios también. Construir centros de datos, comprar aceleradores, garantizar energía, competir por el talento científico y mantenerse a la vanguardia tecnológica requiere un capital tan grande que, cuando uno lo escribe, tiene que ponerse a contar los ceros para saber si lo ha escrito bien o no.

Solo en el primer trimestre de 2026, según datos conocidos por los inversores y publicados después por la prensa, OpenAI gastó unos 3.700 millones de dólares en efectivo e ingresó unos 5.700 millones. Palma miles de millones cada trimestre, y su salida a bolsa puede situar su cotización alrededor de un billón de dólares.

La cuestión no es que OpenAI sea un mal negocio, porque es evidente que puede acabar siendo uno de los mejores de la historia. El problema es que todavía necesita enormes cantidades de capital para construir lo que promete ser, y mientras sigue siendo una empresa privada puede contar esa historia en un entorno más controlado, ante inversores dispuestos a aceptar años de pérdidas a cambio de participar en una posible infraestructura clave de la economía futura.

Salir a bolsa lo cambia todo.

Cuando Wall Street empieza a hacer preguntas desagradables

Cuando una empresa cotiza en bolsa, ya no puede limitarse a decir que los ingresos crecen mucho o que está construyendo el futuro de la inteligencia. Que eso está de coña, pero en Wall Street los inversores empiezan a hacer preguntas más incómodas: cuánto cuesta realmente generar esos ingresos, qué margen deja cada usuario, qué pasará si los agentes trabajan horas en lugar de segundos, qué parte de la infraestructura hay que seguir financiando, cuándo llegará el flujo de caja positivo y qué pasa si Google, Anthropic, xAI u otro competidor reduce mucho el precio de su IA.

Esta es, en mi opinión, una de las grandes razones por las que OpenAI no tiene prisa por salir a bolsa. No hay pruebas públicas de que Sam Altman haya frenado la IPO para “ocultar pérdidas”, y afirmarlo como un hecho sería caer en un relato demasiado fácil. Pero sí es razonable pensar que la empresa quiere retrasar el momento en que sus cuentas sean examinadas con mucho más detalle y valoradas cada día por el mercado, porque, además, eso les añadiría un plus de presión que seguramente dejaría de lado la prudencia en el desarrollo de la IA.

Una empresa privada puede perder miles de millones mientras los inversores crean que el premio final será muy grande. Una empresa pública puede ver cómo una parte importante de su valor desaparece en pocos días si el mercado piensa que los márgenes serán peores de lo esperado, que la competencia es demasiado fuerte o que los beneficios llegarán cinco años más tarde de lo previsto. Y eso marca la diferencia entre vivir o morir. “Es el mercado, amigo”.

OpenAI puede estar realmente preocupada por la seguridad y, al mismo tiempo, contenta de evitar una salida a bolsa que mostraría mucho más sus necesidades de capital. Una cosa no excluye la otra. De hecho, probablemente ambas sean ciertas en parte.

Anthropic complica bastante el relato

El caso de Anthropic es útil porque no permite quedarse con una explicación demasiado simple.

Dario Amodei es seguramente uno de los líderes de grandes laboratorios que habla más claramente sobre los riesgos de los sistemas avanzados de IA. Anthropic ha basado buena parte de su identidad en la seguridad y en la necesidad de desarrollar estos sistemas con más precaución, y se ganó nuestros corazones cuando decidió no ofrecer su IA al Pentágono.

Pero esto no significa que Anthropic tenga ningún inconveniente moral en salir a bolsa. Al contrario, la empresa también se ha estado preparando para una posible salida a bolsa y llega a este momento con unas finanzas que son la envidia de OpenAI. Sus ingresos han crecido muchísimo, sobre todo en el sector empresarial y de programación, y la información que tienen los inversores indica que la compañía está mejorando mucho sus márgenes. Se han dejado de tonterías de generación de imágenes de estilo Disney y Studio Ghibli y se han puesto a hacer una máquina realmente útil para las empresas.

Entonces, aquí la pregunta importante es que si el riesgo tecnológico es tan grave que OpenAI retrasa su salida a bolsa, ¿por qué Anthropic no hace lo mismo?

Cada empresa tiene sus circunstancias. Pero esta diferencia nos recuerda que la seguridad no explica todas las decisiones. El miedo puede ser real, pero las finanzas también cuentan.

Grok, xAI y una carrera que también quema dinero

El caso de Elon Musk es diferente, pero también es muy interesante.

Musk lleva muchos años advirtiendo sobre los riesgos existenciales de la inteligencia artificial, mucho antes de que ChatGPT pusiera de moda la IA. Por eso, su apoyo a una desaceleración no es sorprendente ni hay que verlo como una maniobra oportunista, que también lo es.

xAI también está en una carrera muy cara. Desarrollar Grok y mantenerlo a la vanguardia requiere mucha pasta. Y, a diferencia de Google, xAI no tiene un negocio publicitario detrás que genere decenas de miles de millones cada año para financiar el experimento sin problemas.

Esto significa que una desaceleración general puede tener un efecto interesante: mejorar la seguridad y, al mismo tiempo, reducir la presión financiera sobre los participantes. De nuevo, no hace falta quedarse con una sola explicación.

El problema de Grok no es solo tecnológico. xAI tiene que convertir su visibilidad y la potencia de sus modelos en clientes reales, porque la carrera de la IA no la ganará quien tenga el mejor modelo durante unas semanas, sino quien consiga que sus sistemas se utilicen en empresas, gobiernos, dispositivos y procesos de millones de personas.

Google juega una partida mucho más cómoda

Google es probablemente la empresa que mejor muestra hasta qué punto las finanzas influyen en el discurso de cada compañía.

Alphabet no tiene que demostrar que algún día tendrá un negocio rentable. Ya tiene varios, y son enormes. Adwords es una fábrica de imprimir billetes, YouTube es una de las grandes plataformas de contenido del mundo y Google Cloud es cada vez más importante para el grupo. Estornudan y compran la Sagrada Familia.

Esto hace que Google pueda financiar su apuesta por Gemini y DeepMind desde una posición mucho más cómoda que la de OpenAI, Anthropic o xAI. Puede invertir grandes cantidades en centros de datos, chips, energía e investigación sabiendo que tiene una máquina de hacer dinero detrás. Que sí, que el negocio más importante de la empresa también está en juego, pero en una guerra de desgaste, Google parte con una reserva de combustible incontestable.

Esto es importante porque una misma “pausa” no beneficia a todo el mundo por igual. Si el progreso de los modelos avanzados se frena, Google tiene tiempo y recursos para integrar Gemini en casi todos sus productos, mejorar la monetización y esperar. OpenAI, en cambio, tiene que seguir demostrando que su crecimiento y su posición justifican todo el capital que consume. A Google le interesa una pausa se mire por donde se mire.

Frenar también puede servir para proteger a quien ya ha llegado primero

Hay otra explicación que me parece muy importante y que se repite a menudo en la historia económica: la regulación que protege a la sociedad también puede proteger a las empresas que ya dominan el mercado.

Imagina que eres una de las pocas empresas del mundo con los mejores modelos, los mejores investigadores, centros de datos gigantes y decenas de miles de millones invertidos. En ese caso, es normal que quieras regulación por motivos legítimos de seguridad.

Pero también es cierto que una regulación muy estricta puede ser una barrera de entrada muy grande para nuevos y futuros competidores.

Auditorías obligatorias, sistemas de seguridad, certificaciones, controles de ciberseguridad, requisitos de infraestructura, equipos jurídicos, procedimientos de transparencia o procesos reguladores complejos son costes que Google, OpenAI, Anthropic o xAI pueden asumir. Para una start-up con treinta empleados, pueden ser letales.

No digo que este sea el objetivo de los grandes laboratorios. Sería difícil de demostrar y seguramente injusto reducir todas sus preocupaciones a una estrategia competitiva. No tiene ningún sentido porque la principal barrera para nuevos competidores son los cientos de miles de millones de dólares que han necesitado para llegar a estar donde están. Pero también sería ingenuo ignorar que la regulación puede mantener la estructura actual del mercado.

Si pones unas reglas que solo pueden cumplir los cuatro grandes que ya están ahí, quizá hagas la tecnología más segura. Pero también consigues que esos cuatro sigan siendo los grandes del sector.

Quizá necesiten dejar de construir monstruos nuevos y empezar a cobrar por los que ya tienen

Los modelos actuales ya son extraordinariamente capaces, y la pasta se va sobre todo en construir el siguiente modelo. Por eso, si se reduce un poco la velocidad de los grandes entrenamientos, las empresas podrían dedicar más recursos a otra fase del negocio: sacar partido de lo que ya han creado.

Eso significa agentes empresariales, automatización de procesos, programación, asistentes personales, integraciones con software de empresa, robótica, investigación científica y miles de aplicaciones que todavía no han aprovechado todo el potencial de los modelos actuales.

La carrera tecnológica ha sido tan rápida que, en algunos casos, el mercado no ha tenido tiempo de asimilar la generación anterior cuando ya se estaba entrenando la siguiente. Desde el punto de vista financiero, esto es una locura: gastar miles de millones para sustituir un producto que todavía no has terminado de monetizar.

Lo más probable es que no haya una sola explicación

Tiendo a desconfiar de las explicaciones únicas cuando hay tantos intereses diferentes en juego.

Es posible que Dario Amodei esté sinceramente preocupado por los sistemas que está viendo en los laboratorios de Anthropic. Es posible que Sam Altman comparta ese miedo y, al mismo tiempo, sepa perfectamente que retrasar una IPO evita exponer a OpenAI a una presión financiera enorme. Es posible que Elon Musk crea de verdad que la IA es un riesgo existencial y que una cierta desaceleración también sea positiva para una xAI que necesita tiempo y capital. Y es posible que Google quiera unas normas de seguridad más estrictas a la vez que sabe que es una de las pocas empresas del planeta que puede asumir cómodamente su coste.

No hay ninguna contradicción en ello.

Las empresas las dirigen personas, y las personas podemos tener principios, miedo, intereses económicos y contradicciones internas. Es normal.

La realidad, sin embargo, suele ser menos elegante que cualquier teoría conspirativa. No hace falta imaginar una reunión secreta donde cuatro multimillonarios deciden fingir miedo a la inteligencia artificial porque económicamente les compensa, porque la posibilidad de que realmente tengan miedo a la IA es más que razonable. Es más; muy idiota hay que ser para conocer el potencial de la IA y no sentir vértigo al ver que puedes desencadenar el fin del sistema económico mundial sin tener ninguna alternativa. Es mucho más probable que realmente tengan miedo y que, al mismo tiempo, cada uno intente aprovechar la situación de una manera que encaje con los intereses de su empresa.

El cambio importante no es financiero

Todo esto es interesante, pero creo que si solo nos fijamos en las IPO, las pérdidas o las valoraciones, podemos perder de vista el cambio más importante.

Hace solo unos años discutíamos si los modelos de lenguaje eran una burbuja. Después empezamos a hablar de qué profesiones se automatizarían. Ahora, los líderes de los laboratorios más avanzados del mundo debaten públicamente si las capacidades avanzan más rápido que los sistemas que tenemos para controlarlas.

Este cambio en la conversación es muy grande y muy rápido.

No significa que una AGI sea inminente, y menos aún una ASI. Tampoco que las predicciones más extremas sean correctas, ni que una superinteligencia esté esperando detrás del próximo entrenamiento. Pero nos dice algo importante sobre la trayectoria.

Quienes construyen los modelos más avanzados ya no discuten únicamente cómo hacerlos más potentes. Empiezan a discutir cómo limitarlos, cómo evaluarlos, cómo impedir determinadas capacidades y hasta qué punto es conveniente seguir acelerando. Por primera vez en nuestra historia, conviviremos con una inteligencia superior a la humana. No es cosa de broma.

Otra pregunta interesante es por qué quieren frenar ahora. ¿Por seguridad, por dinero, por proteger su posición, por necesidad de monetizar, porque están viendo capacidades que no esperaban ver tan pronto o porque la factura de continuar esta carrera está empezando a ser difícilmente sostenible?

La respuesta, probablemente, es una combinación de todas ellas, pero el miedo a la IA, pese a todo, creo que tiene un peso preponderante. Y es precisamente eso lo que hace que la situación sea tan interesante, porque la posibilidad más preocupante no es que Silicon Valley nos esté mintiendo sobre los riesgos de la inteligencia artificial, sino que nos esté diciendo la verdad y prefiramos pensar que todo es una simple cuestión de pasta.