La IA no será abundancia, sino escasez

En los círculos de reflexión sobre la política a seguir en materia de IA, se ha instalado una idea recurrente: bajo la presión del mercado y de unos mercados financieros en ebullición, el acceso a los mejores modelos de IA pronto será abundante. Y el futuro pertenecerá a quienes sepan aprovecharlos mejor. Cuanto más nos alejamos de San Francisco, más fuerte resuena este mantra. Llega incluso a alcanzar una especie de paroxismo en la periferia, en esas numerosas potencias medias del mundo que siguen atrapadas en un proyecto destinado a sobrevivir a la revolución de la IA basándose en modelos «suficientemente buenos». Esta visión supone que las capacidades importantes de la IA sean ampliamente accesibles: es un mundo en el que los profesionales de la ciberdefensa disponen de los modelos antes que los ciberpiratas, y las empresas de todos los sectores compiten entre sí sobre la base de un acceso idéntico a las mismas capacidades de IA.

Los acontecimientos recientes han sacudido esta visión idílica. Ahora parece claro que el acceso a la IA de vanguardia pronto se verá limitado por restricciones económicas y de seguridad. A principios de abril, Anthropic anunció que había desarrollado Mythos, un modelo de ciberseguridad de vanguardia. Desde el principio, la empresa de Dario Amodei anunció que solo pondría a disposición de un puñado de empresas las colosales capacidades del modelo para corregir vulnerabilidades. ¹ Las startups de ciberseguridad del barrio de Mission District en San Francisco, los integradores de sistemas de la costa este y las capitales de países aliados desde el Atlántico hasta el Pacífico han vivido todos una experiencia similar: ² al desplazarse por la página para consultar la lista de socios preferentes de Anthropic, solo encontraron una lista muy reducida de empresas, todas ellas con sede en Estados Unidos.

Algunos esperaban que OpenAI se ciñera a su método habitual de implementación al lanzar a gran escala GPT-5.5-cyber, un modelo cuyas capacidades, según algunas fuentes, serían similares a las de Mythos. Pero no fue así: en el marco de su iniciativa Daybreak, OpenAI también se ha comprometido a realizar un despliegue limitado, ³ disipando así la esperanza de que el caso Mythos fuera el resultado de un tropiezo fortuito o de una estrategia de marketing basada en el alarmismo. Peor aún: aunque nadie sabe exactamente qué piensa hacer el gobierno estadounidense al respecto, todo indica que, como mínimo, está considerando actuar, en un momento u otro. Y aunque resulte tentador verlo como una simple confluencia de acontecimientos coyunturales, el momento Mythos revela en realidad tendencias de fondo, que llevan ya algún tiempo intensificándose.

Mitos y realidad sobre la difusión de la IA

Tres de ellas limitarán aún más en el futuro la disponibilidad de la IA en la frontera: la seguridad, la potencia de cálculo y la implicación directa del gobierno estadounidense.

Estas dinámicas se combinan y se refuerzan mutuamente. Desde hace unas semanas, han entrado en una especie de fase de aceleración. Todos aquellos que hoy en día no forman parte del reducido círculo de desarrolladores con sede en Estados Unidos deben afrontar una realidad: cada vez es más difícil acceder a una IA de vanguardia.

Vivimos en el hostil mundo de la destilación

El obstáculo más evidente para la disponibilidad generalizada de los modelos es el que ilustra el caso de Mythos: las consideraciones de seguridad impiden a los desarrolladores poner sus capacidades más avanzadas al alcance de todos sus clientes.

En términos generales, el primer riesgo es el del uso indebido: un modelo muy eficaz parece poder contribuir, de manera realista, a llevar a cabo actividades peligrosas, como ciberataques o el diseño de armas biológicas. En lugar de implementarlo inmediatamente entre el público general, se empieza por distribuirlo a los operadores de ciberdefensa, que aprovechan este acceso anticipado para subsanar fallos hasta entonces desconocidos; esto es lo que se ha observado con Mythos. A continuación, se amplía el acceso únicamente a aquellos clientes de los que se tiene una certeza razonable de que no le darán un uso delictivo; y, en algunos casos, solo cuando el modelo ya ha quedado tecnológicamente obsoleto se abre al público en general.

Sin embargo, en la actualidad, el gobierno estadounidense parece darse cuenta de que este tipo de acceso restringido es preferible tanto para el interés nacional como para la seguridad nacional. Al parecer, estaría empezando a plantearse convertir este ejemplo virtuoso en una norma general. 

Hay varias razones que pueden explicar esta decisión. ⁴ Quizá el aparato de seguridad estadounidense no confíe en que los desarrolladores de IA impidan que delincuentes, actores no estatales y adversarios igualmente peligrosos accedan a capacidades peligrosas; o quizá prefiera saber qué vulnerabilidades están a punto de revelar los nuevos modelos para poder explotarlas él mismo primero, como, de hecho, ya ha hecho en el pasado. ⁵ En otras palabras: si fueras la NSA y tuvieras conocimiento de la existencia de vulnerabilidades de día cero, también te gustaría saber cuál es capaz de detectar Mythos para poder explotarla en tu beneficio antes de que todo el mundo la corrija.

Pero más allá de los riesgos de uso indebido, hay otra dimensión que podría justificar medidas restrictivas aún más directas respecto a la disponibilidad de los modelos: los riesgos de robo de modelos, espionaje y destilación, es decir, la transferencia de las capacidades de un modelo de IA, denominado «modelo maestro» (teacher), a un modelo destilado o «modelo alumno» (student).

La posibilidad de que se produzcan robos podría hacer que los desarrolladores se mostraran recelosos a la hora de elegir dónde alojar sus modelos. Los parámetros almacenados en un centro de datos no seguro constituyen, por tanto, una vulnerabilidad importante, sobre todo teniendo en cuenta que muchos países fuera de Estados Unidos ni siquiera han empezado aún a plantearse seriamente la seguridad de sus centros de datos.

Pero la preocupación más urgente se refiere a la destilación hostil. Numerosos informes indican que parte del éxito de los «fast followers» —esos desarrolladores de modelos que van entre seis y nueve meses por detrás de la vanguardia tecnológica, como la empresa china DeepSeek— se basa en prácticas de destilación que requieren un acceso más o menos ilimitado a los tokens de API, es decir, a la capacidad de la IA.

¿Cómo evitar un futuro en el que la IA de vanguardia quede en manos de unos pocos? 

Anton Leicht

A largo plazo, la «destilación» supone un riesgo para los desarrolladores de modelos: ¿cómo será posible generar ingresos suficientes si hay que amortizar todas las inversiones en investigación y desarrollo en los seis meses que un tercero podría tardar en «destilar» el modelo? Este punto es crucial para los responsables políticos y alimenta directamente las preocupaciones latentes sobre la competencia entre Estados Unidos y China en un contexto de espionaje industrial. 

Por lo tanto, cabe esperar medidas represivas contra la destilación hostil. Si el gobierno no las adopta, lo harán las empresas que desarrollan modelos de vanguardia: procedimientos de verificación de identidad más estrictos, condiciones de acceso por defecto más restrictivas y criterios de apertura o de cierre de más dictados por consideraciones geopolíticas. 

Nada de esto augura un acceso generalizado a los modelos en la frontera.

Para hacer frente a la demanda, Amodei tiene que aliarse con Musk

Pero el problema no se limita a las preocupaciones en materia de seguridad. En el fondo, dar acceso a un modelo de vanguardia es un juego de suma cero. Los veteranos del sector tecnológico y los defensores europeos de la soberanía suelen establecer un paralelismo con las licencias de software: la innovación en este ámbito conllevaba ciertas dependencias marginales, pero la lógica del tamaño del mercado de consumo acabó imponiéndose. En otras palabras, para gigantes como Microsoft, los bajos costos marginales se compensaban con precios de mercado estándar por el despliegue de su software entre el mayor número posible de usuarios.

Sin embargo, no ocurre lo mismo con la IA. Dar acceso a modelos de IA, en particular a los más avanzados, requiere enormes cantidades de capacidad de cálculo. La demanda marginal para procesar mil solicitudes adicionales es, de hecho, tan elevada que los principales desarrolladores se enfrentan regularmente a una escasez de recursos de computación. ⁶ Reducen sus ofertas y tienen dificultades para encontrar un equilibrio entre la financiación de sus suscripciones para el público general y las limitaciones reales relacionadas con los chips de los que disponen. Para paliar esta escasez, Anthropic busca así cerrar acuerdos de acceso puntual a centros de datos menos solicitados, como por ejemplo el de su rival xAI. ⁷ Esta situación no va a mejorar, e incluso es probable que empeore. Si los sistemas de IA pueden realmente rivalizar con la producción de los trabajadores humanos en unos meses, como algunos sostienen, la capacidad de cálculo necesaria para reproducir tal volumen de actividad será colosal.

La esperanza, a menudo esgrimida, de que las «curvas de eficiencia» reducirían rápidamente los costos no resulta de gran ayuda en este caso. Según esta hipótesis, el año que viene, las capacidades de nivel Mythos podrían ser muy baratas. Pero eso no implica que Mythos 2 vaya a ser más barato que Mythos. Es incluso al contrario: las capacidades en la frontera se han encarecido mes a mes desde hace años. Por lo tanto, si se tiene en cuenta que la dinámica competitiva entre rivales económicos, pero también entre actores de la ciberdefensa y actores maliciosos, ya no implica una IA suficientemente buena, sino una IA mejor, ⁸ la teoría de las curvas de eficiencia no sirve de nada.

Esto tiene una consecuencia clara: facilitar el acceso a un modelo de vanguardia a un nuevo usuario, ya sea un gobierno o una empresa, implica ahora un elevado costo marginal. Es cierto que los usuarios institucionales siguen teniendo interés en ampliar su cobertura: penetración en nuevos mercados a medida que aumenta su capacidad, mayor demanda que permite subir los precios, buena voluntad de los gobiernos, etc. Pero estas ventajas se ven contrarrestadas por los costos: los costos de cumplimiento normativo para penetrar en nuevos mercados, los costos de diseño de productos adaptados a nuevos consumidores y los costos en materia de seguridad y de relaciones con el gobierno estadounidense. En otras palabras, los efectos del poder de mercado no se invierten por completo, pero se atenúan considerablemente: ya no se puede confiar simplemente en su papel de «comprador interesado» para ejercer una influencia decisiva a la hora de obtener acceso a un modelo de vanguardia.

La situación se complica aún más por otra razón: ante esta tendencia, existe el riesgo de que surja una competencia en torno a la cuestión de quién tendrá acceso a esas capacidades. Estados Unidos protegerá su economía nacional y es muy probable que asistamos a un retorno de la lógica que motivó la propuesta de una «GAIN Act» hace unos meses. ⁹ En aquel momento, sus defensores en el Congreso barajaban la idea de otorgar a los estadounidenses un derecho de preferencia sobre los chips fabricados en Estados Unidos; tal vez pronto veamos cómo se declara a las empresas estadounidenses titulares de una especie de derecho de preferencia sobre las capacidades de IA producidas en Estados Unidos. En otro escenario aún, la competencia podría volverse puramente económica: los márgenes se reducirían a la mínima expresión y, en definitiva, solo aquellos que pudieran soportar el costo o transformar de la forma más eficaz las capacidades masivas de IA en ingresos estarían en condiciones de permitírselas. Sin embargo, ni la mayoría de los gobiernos —que aún no han asimilado la lógica de las suscripciones de IA de un millón de dólares—, ni las empresas europeas —cuya capacidad para generar ingresos por software se ve limitada por numerosas condiciones desfavorables— están en condiciones de hacerlo.

Al final, es el Tío Sam quien toma el control

En definitiva, lo que comienza con restricciones motivadas únicamente por preocupaciones legítimas acaba siempre convirtiéndose en política. Una vez que tenga un papel más oficial en la supervisión del flujo real de capacidades de IA, el gobierno estadounidense podría instrumentalizar su control sobre ese acceso en beneficio de sus intereses estratégicos. 

En un principio, esta toma de control probablemente estaría motivada por razones de seguridad. Volviendo al ejemplo de la NSA, está claro que no redunda en interés de esta agencia, ni forma parte de su misión, garantizar la distribución equitativa de las capacidades de IA en todo el mundo. Por el contrario, está más en el ADN de la comunidad de inteligencia limitar el acceso de cualquier adversario potencial a los modelos de vanguardia, incluso a costa de ventajas menos tangibles como la productividad económica o las buenas relaciones con los aliados.

Pero esto también podría ir más allá de las cuestiones de seguridad. El estilo de Trump, que consiste en utilizar la influencia estadounidense como palanca, podría jugar aquí un papel decisivo: los bloqueos en las negociaciones comerciales se desbloquean amenazando con retener información, los acuerdos tecnológicos se bloquean invocando las normas de seguridad alimentaria. ¹⁰ Es difícil estimar cuándo una administración estadounidense podría optar por ejercer la inevitable autoridad que tendría para bloquear modelos en la frontera antes de su despliegue con el fin de garantizar sus intereses estratégicos, pero no cabe duda de que lo haría en el momento oportuno. Esto significa que, aunque hagamos todo «correctamente» desde el punto de vista económico y de seguridad, el acceso a las tecnologías de vanguardia corre el riesgo de seguir dependiendo fundamentalmente de la buena voluntad del poder político mientras existan divergencias entre los intereses estratégicos de los gobiernos, es decir, siempre.

Las asimetrías que se avecinan

En este nuevo mundo, el acceso a capacidades de inferencia ilimitadas es más la excepción que la norma. 

Un nuevo modelo de frontera podría someterse en primer lugar al aparato de seguridad nacional estadounidense, donde los intereses establecidos podrían decidir tanto bloquear su implementación por motivos de seguridad como utilizarlo primero para reforzar las defensas o atacar a sus adversarios. A continuación, el modelo podría entregarse a los desarrolladores, con el entendimiento implícito o la petición explícita de que se implemente primero entre personas de confianza: empresas estadounidenses y quizás algunas otras multinacionales seleccionadas por la administración. Si el modelo presenta riesgos cibernéticos, la autorización podría concederse rápidamente; si, por el contrario, se trata de riesgos más espinosos de orden biológico o relacionados con la autonomía de los agentes, esto podría llevar varias semanas.

Una vez finalizada esta fase, el círculo de accesos sin restricciones podría ampliarse de nuevo a aquellas empresas que hayan cumplido con unos requisitos suficientemente estrictos en materia de verificación de identidad y hayan respondido a las preocupaciones de seguridad de Estados Unidos. Todos los demás —consumidores entusiastas, start-ups ambiciosas y gobiernos preocupados de todo el mundo— podrían no llegar nunca a obtener un acceso total al modelo, sino tener que conformarse con un acceso a través de capas de productos fundamentalmente limitadas, como las interfaces de chatbot y los agentes de codificación actuales. Quizá las pocas grandes startups que tienen los medios para contratar a los abogados y grupos de presión necesarios podrían figurar en la lista de empresas autorizadas, y quizá ni siquiera. En otras palabras, solo unos meses después de su desarrollo, el modelo estaría, de una forma u otra, en manos de todo el mundo. El problema es que nadie tendría la capacidad suficiente para utilizar adecuadamente esta capacidad. Es posible que la mayoría de los usuarios del modelo solo puedan implementarlo según las condiciones que los proveedores de confianza hayan establecido para ellos. Solo cuando la próxima generación ya haya integrado este mismo dispositivo es cuando todo el mundo tendrá un acceso de facto ilimitado a la IA de vanguardia, siguiendo el modelo del que todos seguimos disfrutando hoy en día.

Ese futuro no es deseable. Pero tampoco es inevitable. Las capacidades de IA de vanguardia serán, desde el punto de vista estratégico y económico, el núcleo de todas las sociedades del futuro. Por lo tanto, nos conviene permitir su libre circulación. Si fracasamos, tendremos que asumir los costos económicos y geopolíticos. 

Desde un punto de vista estrictamente económico, los aceleracionistas tienen razón al criticar a Anthropic: restringir el acceso a los modelos de vanguardia a las empresas emergentes y a las empresas ambiciosas que desean implementarlos va en contra de la innovación y el crecimiento económico; desde una perspectiva hayekiana, solo una implementación total libera nuestra capacidad para determinar realmente cómo queremos vivir y trabajar con la IA a gran escala y obtener sus beneficios. Pero lo que está en juego aquí no es la supuesta búsqueda de respetabilidad de Anthropic con vistas a una posible nacionalización, sino las dinámicas de mercado y las implicaciones de seguridad de la IA avanzada, que están creando las condiciones en las que la difusión masiva de la IA ya no es posible.

En este contexto, es muy probable que veamos surgir nuevas divisiones geopolíticas: ¹¹ los países se verán divididos entre aquellos que tienen acceso a las tecnologías de vanguardia y aquellos que carecen de él. 

Quienes vivan en los primeros podrían ser mucho más ricos y estar más seguros que los segundos, con acceso a mejores servicios públicos y mayores oportunidades económicas, además de estar protegidos por organismos de seguridad que operan realmente a la vanguardia tecnológica. Si la IA logra el alcance que cabe esperar, nadie sabe cuál será el impacto de estas nuevas asimetrías en el orden mundial.

En el pasado, cuando los frutos de las revoluciones industriales se distribuyeron de forma desigual, los cambios resultantes en términos de riqueza relativa, seguridad y poder provocaron migraciones masivas, reavivaron conflictos latentes y desestabilizaron las democracias. Es cierto que aún existen numerosas tendencias técnicas y económicas que favorecen una mayor difusión de la IA, lo que podría evitar que nos enfrentemos al peor de los escenarios. Pero sería ingenuo por nuestra parte pasar por alto los peligros de una distribución radicalmente asimétrica de una tecnología tan transformadora en un orden mundial inestable.

Ideas preconcebidas y soluciones

¿Cómo evitar un futuro en el que la IA de vanguardia quede en manos de unos pocos? 

Las soluciones de que disponemos no son ideas nuevas. Pero a menudo se malinterpretan. Los aceleracionistas —que, en teoría, deberían estar de acuerdo con la idea de evitar las restricciones a la difusión de los modelos— creen que forman parte de una conspiración de los defensores de la seguridad de la IA. Y estos últimos creen que estas soluciones no son más que el caballo de Troya del aceleracionismo para precipitar el desarrollo de tecnologías fundamentalmente peligrosas. Sin embargo, estas políticas deberían encontrar un terreno de convergencia.

En primer lugar, hay que plantear el problema de otra manera: en un mundo menos peligroso, la necesidad de restricciones por motivos de seguridad es menos acuciante. ¹² A pesar del cinismo justificado respecto a una posible militarización del control de acceso a modelos de vanguardia, siguen existiendo preocupaciones legítimas que hacen presagiar futuras restricciones de acceso. La razón por la que el caso Mythos empujó al mundo a actuar por miedo es que las empresas afectadas se sentían realmente vulnerables ante las fallas que este modelo podía descubrir. Esto implica, por el contrario, que si pudiéramos reforzar la protección contra las vías más evidentes por las que los agentes biológicos pueden causar daños —reforzar la resiliencia, controlar la fabricación de estructuras proteicas, etc.—, el temor a un «momento Mythos» de la guerra bacteriológica se reduciría.

El «momento Mythos» podría marcar el fin del «momento Warhol» de la IA.

Anton Leicht

Del mismo modo, muchos empleados de laboratorios de vanguardia afirman que la gestión de la destilación constituye una solución técnica sencilla a los problemas relacionados con las políticas de uso y la supervisión. Si es así, tal vez deberíamos empezar a implementar soluciones rápidamente, ¹³ antes de que otros opten por un enfoque más enérgico para responder a las preocupaciones legítimas relacionadas con la destilación. Lo mismo ocurre con la proliferación mundial de modelos avanzados: a los posibles importadores les convendría mejorar su propia ciberseguridad, en particular la seguridad de los centros de datos, ¹⁴ para no poner en un riesgo enorme a las empresas estadounidenses que explotan sus modelos fuera de Estados Unidos.

En segundo lugar, la construcción de numerosos centros de datos permitiría mitigar la futura escasez de potencia de cálculo. No es complicado, solo lo suficientemente difícil: se ha hablado mucho sobre cómo acelerar el despliegue en Estados Unidos y en otros lugares, y cada GPU que ponemos en servicio este año aumenta las probabilidades de una distribución más equitativa dentro de tres años. Por lo tanto, la oposición a los despliegues rápidos en nombre de la minimización de riesgos no tiene mucho sentido, según la lógica de la escasez que hemos desarrollado aquí.

En tercer lugar, los países fuera de Estados Unidos podrían desarrollar su capacidad de cálculo a cambio de acceso a modelos de vanguardia. ¹⁵ De hecho, los aliados de Estados Unidos pueden ofrecer a los hiperescaladores estadounidenses condiciones favorables para la construcción de centros de datos a cambio de garantías de acceso a tecnologías de vanguardia.

A estos centros de datos se les podrían conceder precios energéticos subvencionados, o incluso acceso directo a la energía, a cambio de garantías contractuales de que siempre proporcionarán capacidad. Si los hiperescaladores o los laboratorios incumplen su palabra, deberán asumir los gastos de inversión del centro de datos, que ya estará fuera de servicio; si el gobierno estadounidense intenta imponer restricciones de acceso, se enfrentará a un lobby enfurecido compuesto por empresas tecnológicas nacionales que preferirían adaptarse a la situación y percibir los ingresos de sus inversiones en infraestructuras internacionales. El incentivo para celebrar estos acuerdos debería estar a la altura de este riesgo de pérdida para los inversores. Pero en medio del frenesí actual por conquistar mercados y poner en línea capacidades de cálculo, la posibilidad de encontrar un terreno de entendimiento en este ámbito parece bastante alta.

Por último, aunque no puedan resolver este problema simplemente construyendo sus propios sistemas de vanguardia en la actualidad, ¹⁶ las potencias intermedias necesitarán, no obstante, opciones de contingencia para asegurarse las capacidades más altas posibles en los casos extremos en los que todo lo que se acaba de recomendar fracasara y el acceso a la IA de vanguardia se convirtiera en privilegio de unos pocos. Su mejor ventaja será aprovechar su influencia en la competencia entre las grandes potencias, ¹⁷ pero algunas también deberán conservar cierta capacidad de desarrollo. 

El acceso a la IA de vanguardia no es un problema nuevo, y no requiere soluciones especialmente ingeniosas. Basta simplemente con tomarse mucho más en serio lo que el núcleo del debate sobre la política en materia de IA lleva tiempo sugiriendo: es estratégico construir infraestructuras capaces de albergar sistemas de IA avanzados a gran escala y trabajar para construir un mundo capaz de gestionarlos sin colapsar. 

La señal de alarma ya está ahí: el «momento Mythos» podría marcar el fin del «momento Warhol» de la IA. Si no se hace nada al respecto, pronto podríamos vivir en un mundo en el que los más ricos utilizarían IA de las que los más pobres se verían privados para siempre.