Dario Amodei, cofundador y director general de Anthropic, ha publicado ayer, 12 de septiembre, en su p\u00e1gina web personal, un art\u00edculo titulado \u00abWe Must Pace the Frontier\u00bb. <\/p>\n\n\n\n
Tras una semana en la que algunos empleados de la empresa advirtieron de que la trayectoria actual de la IA podr\u00eda conducir a la extinci\u00f3n de la humanidad<\/a>, el texto marca un punto de inflexi\u00f3n. Entre los laboratorios estadounidenses que desarrollan modelos de IA de vanguardia, Anthropic se ha posicionado, desde su lanzamiento en 2021, como defensor de un desarrollo prudente de la tecnolog\u00eda. <\/p>\n\n\n\n Amodei ya hab\u00eda declarado en enero de 2026<\/a> que la IA representaba un riesgo existencial, pero consideraba en aquel momento que frenar o detener el desarrollo de la IA ser\u00eda b\u00e1sicamente imposible, ya que, si las democracias lo frenan, las autocracias continuar\u00e1n con el desarrollo sin freno y sin fin. <\/p>\n\n\n\n Ahora aboga por ralentizar deliberadamente el ritmo al que aumentan las capacidades de los modelos. <\/p>\n\n\n\n Seg\u00fan \u00e9l, hay dos acontecimientos recientes que motivan este cambio de rumbo: la aceleraci\u00f3n de lo que el sector denomina \u00abautomejora recursiva\u00bb, es decir, el uso de la IA para dise\u00f1ar la siguiente generaci\u00f3n de IA, y el incidente de OpenAI-Hugging Face (que hemos documentado en la revista<\/a>), durante el cual un enjambre de agentes aut\u00f3nomos llev\u00f3 a cabo ciberataques que nadie les hab\u00eda encargado, organiz\u00e1ndose y ocultando sus huellas. Seg\u00fan Amodei, \u00abteniendo en cuenta el ritmo acelerado del desarrollo de las capacidades de la IA, me temo que, de aqu\u00ed a seis o doce meses, un enjambre de este tipo sea capaz de tomar el control de todo Internet\u00bb.<\/p>\n\n\n\n Es la primera vez que un laboratorio se compromete a adoptar medidas unilaterales, sin coordinaci\u00f3n, aunque estas siguen siendo modestas. <\/p>\n\n\n\n De hecho, en su texto, Amodei propone un plan en tres fases: la presencia de evaluadores externos en las empresas, una coordinaci\u00f3n entre las empresas de los pa\u00edses democr\u00e1ticos y, posteriormente, una coordinaci\u00f3n mundial que incluya a China. Anthropic se compromete a poner en marcha la primera etapa e a incorporar una supervisi\u00f3n externa e independiente al equipo, que compara con los sistemas existentes para los bancos. Esta supervisi\u00f3n externa someter\u00e1 al laboratorio a informes externos, pero no ralentizar\u00e1 en modo alguno el desarrollo de los modelos. <\/p>\n\n\n\n La l\u00f3gica descrita por Jacob Cox<\/a> sigue, por tanto, siendo la misma: \u00abCada laboratorio (y la misma l\u00f3gica se aplica tambi\u00e9n a los pa\u00edses) preferir\u00eda una situaci\u00f3n en la que todos ralentizaran el ritmo de desarrollo de la IA. Pero en cuanto sospecha que los dem\u00e1s siguen avanzando, su estrategia dominante es acelerar, aunque eso implique convertirse \u00e9l mismo en la amenaza que pretend\u00eda evitar\u00bb.<\/p>\n\n\n\n El texto se inscribe en un debate estadounidense marcado por las declaraciones del secretario del Tesoro, Scott Bessent, sobre la necesidad de ganar la carrera de la IA frente a China, y en un momento en el que Washington y Pek\u00edn preparan una visita muy esperada de Xi Jinping a la Casa Blanca a finales de mes. Ambos l\u00edderes acordaron, en mayo, en Pek\u00edn, poner en marcha un di\u00e1logo intergubernamental sobre la IA, y se espera que este tema figure en el orden del d\u00eda de una pr\u00f3xima reuni\u00f3n entre Bessent y el viceprimer ministro He Lifeng. Sin embargo, seg\u00fan fuentes al tanto de las conversaciones, la parte china considera que la forma en que Estados Unidos aborda la cuesti\u00f3n de la IA tiene como objetivo limitar los efectos negativos de la tecnolog\u00eda, pero tambi\u00e9n restringir la capacidad de China para desarrollar sus propias capacidades <\/span>1<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n Llevo doce a\u00f1os trabajando en el campo de la IA porque creo que podr\u00eda mejorar de forma espectacular la calidad de vida humana. He escrito en numerosas ocasiones <\/span>2<\/sup><\/a><\/span><\/span> sobre estos extraordinarios beneficios. Creo que la IA podr\u00eda curar la mayor\u00eda de las grandes enfermedades en los pr\u00f3ximos cinco a diez a\u00f1os, acelerar considerablemente las tasas de crecimiento econ\u00f3mico, crear un mundo de abundancia y emancipaci\u00f3n, y dar paso a un renacimiento de la democracia y la libertad. Yo mismo siento esa urgencia de forma personal. Mi propio padre falleci\u00f3 a causa de una enfermedad que se cur\u00f3 tan solo unos a\u00f1os despu\u00e9s de su fallecimiento, y yo mismo he sobrevivido a un c\u00e1ncer en fase inicial que no habr\u00eda sido tratable hace cincuenta a\u00f1os. Si se maneja con cuidado, la IA puede ser el \u00faltimo de una larga serie de milagros tecnol\u00f3gicos que han elevado y ennoblecido a la humanidad.<\/p>\n\n\n\n Pero, al igual que muchas tecnolog\u00edas anteriores, la IA conlleva riesgos y, debido a su gran potencia, estos riesgos son graves. Tambi\u00e9n he escrito mucho <\/span>3<\/sup><\/a><\/span><\/span> al respecto. Entre ellos se encuentra el riesgo de perder el control de los sistemas de IA <\/span>4<\/sup><\/a><\/span><\/span>, el uso indebido de la IA con fines de ciberataques y bioterrorismo <\/span>5<\/sup><\/a><\/span><\/span>, y graves perturbaciones econ\u00f3micas <\/span>6<\/sup><\/a><\/span><\/span>. Una carrera hacia el fondo, impulsada por los incentivos comerciales, puede agudizar estos riesgos.<\/p>\n\n\n\n Junto con mis cofundadores y nuestros empleados, llevo lidiando con esta dualidad entre riesgo y beneficio desde los inicios de Anthropic. No desarrollar la tecnolog\u00eda priva a la humanidad de sus beneficios o, sencillamente, la entrega en manos de poderes autoritarios, mientras que desarrollarla demasiado r\u00e1pido es irresponsable. Hemos buscado un t\u00e9rmino medio. Demostrar que es posible desarrollar con prudencia y tener \u00e9xito comercial, y convertir la seguridad en un \u00e1mbito en el que las empresas de IA compitan entre s\u00ed. En otras palabras, crear una carrera hacia arriba. Siempre hemos dedicado una parte sustancial de nuestros esfuerzos <\/span>7<\/sup><\/a><\/span><\/span> a estudiar <\/span>8<\/sup><\/a><\/span><\/span>, abordar <\/span>9<\/sup><\/a><\/span><\/span> e informar <\/span>10<\/sup><\/a><\/span><\/span> al p\u00fablico sobre estos riesgos, as\u00ed como a abogar por una regulaci\u00f3n bien meditada <\/span>11<\/sup><\/a><\/span><\/span> de la IA, incluso cuando ello nos valga ser acusados de sensacionalismo, de \u00abcatastrofismo\u00bb o de captura regulatoria. Hemos intentado anteponer la prudencia a la rapidez y la sabidur\u00eda al beneficio.<\/p>\n\n\n\n La acusaci\u00f3n de \u00abcaptura regulatoria\u00bb consiste en afirmar que una empresa exige normas vinculantes con el \u00fanico fin de levantar barreras de entrada contra sus competidores m\u00e1s peque\u00f1os.<\/p>\n\n\n\n Pero en los \u00faltimos meses he llegado a la convicci\u00f3n de que abordar los riesgos en su totalidad exige a\u00fan m\u00e1s prudencia. No se trata solo de invertir en la prevenci\u00f3n de riesgos, sino de regular el ritmo al que avanzan las capacidades para que la prevenci\u00f3n tenga tiempo de seguir el ritmo. Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguir\u00e1 pareciendo r\u00e1pido, y tendremos que hacer un uso juicioso del tiempo ganado. Hay dos cosas que me han convencido.<\/p>\n\n\n\n Mi primera preocupaci\u00f3n tiene que ver con el hecho de que, desde este verano aproximadamente, la IA avanza a un ritmo considerablemente m\u00e1s r\u00e1pido, en primer lugar porque la IA es cada vez m\u00e1s capaz de crear la siguiente generaci\u00f3n de IA. A esta din\u00e1mica se le denomina \u00abautomejora recursiva\u00bb, y est\u00e1 empezando a producirse en todo el sector <\/span>12<\/sup><\/a><\/span><\/span>, incluso en Anthropic <\/span>13<\/sup><\/a><\/span><\/span>, tal y como hemos descrito nosotros y otros. Si no se controla, podr\u00eda superar nuestra capacidad para comprender y controlar estos sistemas, por lo que debe llevarse a cabo con la m\u00e1xima precauci\u00f3n, si es que debe llevarse a cabo.<\/p>\n\n\n\n La \u00abmejora recursiva\u00bb se refiere a un proceso en el que la IA acelera su propia creaci\u00f3n. Amodei ya describi\u00f3 en enero c\u00f3mo Claude ya escrib\u00eda gran parte del c\u00f3digo de la empresa, acelerando as\u00ed el desarrollo de la pr\u00f3xima generaci\u00f3n. Seg\u00fan \u00e9l, este bucle de retroalimentaci\u00f3n se intensifica cada mes. <\/p>\n\n\n\n Mi segunda preocupaci\u00f3n es el incidente de OpenAI-Hugging Face (OAI-HF), en el que un enjambre de agentes se comport\u00f3 como un colectivo fan\u00e1ticamente dedicado <\/span>14<\/sup><\/a><\/span><\/span>, lanzando ataques inform\u00e1ticos contra objetivos que no se les hab\u00eda pedido atacar y que no guardaban relaci\u00f3n alguna con la tarea en curso, sacrific\u00e1ndose por el \u00e9xito del grupo e intentando piratear el \u00abcorector\u00bb encargado de evaluar su rendimiento. Es f\u00e1cil restarle importancia a este incidente porque nadie result\u00f3 herido y los da\u00f1os econ\u00f3micos fueron m\u00ednimos, pero, en mi opini\u00f3n, un enjambre dotado de capacidades superiores y con un nivel de desalineaci\u00f3n comparable podr\u00eda haber causado da\u00f1os catastr\u00f3ficos. Teniendo en cuenta el ritmo acelerado del desarrollo de las capacidades de la IA, me temo que, de aqu\u00ed a seis o doce meses, un enjambre de este tipo sea capaz de tomar el control de todo Internet mediante una red de bots persistente (con da\u00f1os que podr\u00edan ascender a cientos de miles de millones de d\u00f3lares), y que la magnitud de los da\u00f1os siga aumentando si la IA se vuelve m\u00e1s potente sin las medidas de seguridad necesarias. Es f\u00e1cil descartar el caso de OAI-HF como el fracaso de una sola empresa, pero creo que ser\u00eda un error. Incidentes similares, aunque menos graves, se han producido en todo el sector, incluso en Anthropic <\/span>15<\/sup><\/a><\/span><\/span>, y creo que corresponde a cada empresa de la vanguardia actuar como si lo que le ha ocurrido a OAI-HF le hubiera pasado a ella misma.<\/p>\n\n\n\n El t\u00e9rmino \u00abfrontera\u00bb (Frontier<\/em>) se refiere, en la jerga del sector, a los modelos de IA m\u00e1s avanzados en un momento dado y, por extensi\u00f3n, a las empresas que los desarrollan, a las que a menudo se denomina \u00ablaboratorios de frontera\u00bb. El t\u00e9rmino se populariz\u00f3 hacia 2023 gracias a las propias empresas, y fue adoptado por la administraci\u00f3n Biden, y posteriormente por los reguladores brit\u00e1nicos y europeos. En Estados Unidos tiene una fuerte carga hist\u00f3rica. La Frontera es, en primer lugar, la l\u00ednea m\u00f3vil de la colonizaci\u00f3n hacia el Oeste, que el historiador Frederick Jackson Turner convirti\u00f3 en 1893 en la clave del car\u00e1cter nacional estadounidense: un espacio abierto donde se forjan el individualismo, la democracia y el esp\u00edritu emprendedor. John F. Kennedy retom\u00f3 esta imagen con su \u00abNueva Frontera\u00bb en 1960, para referirse a la conquista espacial y al progreso cient\u00edfico.<\/p>\n\n\n\n Un agente es un modelo de inteligencia artificial al que se le asigna una tarea y una serie de herramientas (con o sin acceso a Internet, a archivos, etc.), y que realiza una secuencia de acciones de forma aut\u00f3noma. Un enjambre es un conjunto de agentes que trabajan de forma coordinada. Hugging Face es una plataforma francesa que aloja modelos y conjuntos de datos de libre acceso, y que fue adquirida a principios de septiembre por Nvidia. El \u00abcorrector\u00bb (grader) es el sistema autom\u00e1tico que punt\u00faa los resultados de los agentes durante su entrenamiento. Intentar burlarlo en lugar de realizar la tarea es un caso t\u00edpico de lo que los investigadores denominan \u00abdesalineaci\u00f3n\u00bb, es decir, la discrepancia entre lo que hace el modelo y lo que inicialmente pretend\u00edan sus dise\u00f1adores. METR es un instituto independiente con sede en California y especializado en la evaluaci\u00f3n de los riesgos que plantean los modelos de vanguardia.<\/p>\n\n\n\n Por lo tanto, propongo un plan en tres etapas cuyo objetivo es controlar el ritmo de la frontera <\/span>16<\/sup><\/a><\/span><\/span>. Desarrollar la IA a un ritmo equilibrado que garantice su seguridad, al tiempo que se aprovechan sus beneficios y se abordan los principales dilemas geopol\u00edticos. Para que quede claro, controlar el ritmo no significa detener el entrenamiento de los modelos ni el progreso t\u00e9cnico, sino garantizar que las empresas se tomen el tiempo necesario para ajustar y proteger sus modelos, y que evaluadores independientes puedan confirmarlo. Nuestro marco regulador del ritmo es un intento de reforzar a\u00fan m\u00e1s nuestro compromiso con la seguridad y fomentar una carrera hacia arriba. El primer paso es un compromiso que Anthropic asume de forma unilateral (y hacemos un llamamiento a los gobiernos para que exijan a otras empresas pioneras que hagan lo mismo). La segunda etapa requiere una coordinaci\u00f3n a escala del sector. La tercera etapa requiere una coordinaci\u00f3n mundial <\/span>17<\/sup><\/a><\/span><\/span>. No es necesario seguir estas etapas en un orden estricto, y algunas podr\u00edan resultar mucho m\u00e1s dif\u00edciles de alcanzar que otras, pero me han parecido \u00fatiles para reflexionar sobre lo que hay que lograr. Aqu\u00ed est\u00e1n.<\/p>\n\n\n\n A lo largo de este ensayo, describir\u00e9 cada una de estas etapas por separado, pero creo que, en primer lugar, es importante explicar con precisi\u00f3n en qu\u00e9 medida la regulaci\u00f3n del ritmo contribuir\u00e1 a que el desarrollo de la IA sea m\u00e1s seguro. Hay demasiado en juego como para que esto sea un ejercicio sin sentido. Debemos aprovechar sabiamente el tiempo que se nos ha concedido.<\/p>\n\n\n\n La idea de poner en pausa o ralentizar la IA se plante\u00f3 ya en 2023[notd]\u00abPause Giant AI Experiments: An Open Letter<\/a>\u00bb, Future of Life Institute<\/em>, 22 de marzo de 2026.[\/note], y creo que entonces no ten\u00eda mucho sentido. La pregunta siempre ha sido la siguiente: \u00bfqu\u00e9 har\u00edamos con ese tiempo adicional? Los modelos de aquella \u00e9poca no eran lo suficientemente potentes como para actuar de forma coherente en el mundo, ni eran capaces de enga\u00f1ar, manipular, hacer trampa o llevar a cabo ciberataques significativos. Frenar el ritmo para abordar sus riesgos de alineaci\u00f3n equival\u00eda a querer estudiar la psicolog\u00eda humana realizando experimentos con bacterias. Hoy, el panorama es totalmente diferente. Los modelos actuales son una fuente casi inagotable de conocimientos sobre c\u00f3mo construir correctamente la IA y sobre lo que puede salir mal cuando se construye de forma inadecuada. Creo que si la ralentizaci\u00f3n nos diera tan solo uno o dos a\u00f1os antes de que los modelos alcancen niveles cr\u00edticos de capacidad, y si utiliz\u00e1ramos ese tiempo para avanzar en la alineaci\u00f3n, podr\u00edamos reducir considerablemente el riesgo de que algo salga gravemente mal. Una estrategia coordinada de regulaci\u00f3n del ritmo dar\u00eda a los desarrolladores de vanguardia tiempo para realizar este trabajo vital sin sacrificar su ventaja comercial ni el liderazgo de Estados Unidos en IA. En t\u00e9rminos m\u00e1s generales, la sociedad debe tener voz y voto sobre el uso de esta tecnolog\u00eda, y disponer de m\u00e1s tiempo para las deliberaciones p\u00fablicas necesarias \u2014algo que la regulaci\u00f3n del ritmo permitir\u00eda\u2014 es, sin duda, algo positivo.<\/p>\n\n\n\n En marzo de 2023, el Future of Life Institute public\u00f3 una carta abierta, firmada entre otros por Elon Musk, en la que se ped\u00eda una pausa de seis meses en el entrenamiento de sistemas m\u00e1s potentes que el GPT-4. Esta iniciativa no surti\u00f3 ning\u00fan efecto. La alineaci\u00f3n se refiere al conjunto de t\u00e9cnicas destinadas a garantizar que un modelo persiga efectivamente los objetivos y respete los valores deseados por sus creadores.<\/p>\n\n\n\n En concreto, un ritmo m\u00e1s lento permitir\u00eda a las empresas centrarse y dedicar a\u00fan m\u00e1s recursos a los siguientes \u00e1mbitos (todos ellos ya son prioridades fundamentales en Anthropic).<\/p>\n\n\n\n El aprendizaje por refuerzo es un m\u00e9todo de entrenamiento en el que se recompensa al modelo cuando realiza con \u00e9xito una tarea en un entorno simulado. Si este entorno est\u00e1 mal dise\u00f1ado, el modelo puede aprender a obtener la recompensa por medios indirectos, como hacer trampa o eludir el sistema de puntuaci\u00f3n.<\/p>\n\n\n\n La \u00abConstituci\u00f3n\u00bb de Claude es el documento p\u00fablico que establece los principios de conducta que la empresa pretende inculcarle durante la formaci\u00f3n.<\/p>\n\n\n\n Los grandes modelos de IA est\u00e1n formados por redes de miles de millones de par\u00e1metros num\u00e9ricos que se ajustan autom\u00e1ticamente durante el entrenamiento. Sus dise\u00f1adores no pueden interpretar directamente lo que ocurre en su interior, de ah\u00ed la comparaci\u00f3n con el diagn\u00f3stico por imagen.<\/p>\n\n\n\n La primera fase del plan en tres etapas, a la que Anthropic se compromete de forma unilateral, consiste en contar con evaluadores integrados que dispongan de un acceso similar al de un empleado para verificar las pr\u00e1cticas de seguridad y notificar los incidentes.<\/p>\n\n\n\n Incorporar evaluadores puede parecer una medida modesta o sin importancia, pero a menudo las cosas que parecen m\u00e1s aburridas o burocr\u00e1ticas son, en realidad, las m\u00e1s esenciales. La incorporaci\u00f3n de evaluadores constituye, de hecho, una pr\u00e1ctica bastante radical que va mucho m\u00e1s all\u00e1 de lo que hace hoy cualquier empresa de IA, y presenta las siguientes ventajas.<\/p>\n\n\n\n Las fichas de modelos (model cards) son documentos t\u00e9cnicos que las empresas publican cuando lanzan un modelo para describir sus prestaciones, sus limitaciones y las pruebas de seguridad realizadas.<\/p>\n\n\n\n Debido a estas ventajas, es muy probable que cualquier propuesta de regulaci\u00f3n del ritmo funcione mejor si parte de evaluadores integrados.<\/p>\n\n\n\n Estos evaluadores integrados deber\u00edan disponer de acceso permanente a autorizaciones y herramientas similares a las de los empleados internos que realizan evaluaciones de riesgo comparables. En concreto, Anthropic tiene previsto invitar pr\u00f3ximamente a un equipo externo de revisi\u00f3n integrada que cuente con todo lo siguiente.<\/p>\n\n\n\n Se trata de una iniciativa poco habitual para una empresa, pero creemos que es importante demostrar la viabilidad del concepto de evaluadores externos integrados. Una vez m\u00e1s, instamos a las dem\u00e1s empresas de la frontera a que sigan nuestro ejemplo.<\/p>\n\n\n\n Una vez que los evaluadores integrados est\u00e9n operando en una masa cr\u00edtica de empresas estadounidenses dedicadas a la IA, ser\u00e1 m\u00e1s viable una regulaci\u00f3n verificable del ritmo. En concreto, ser\u00e1 posible regular el ritmo bas\u00e1ndose en propiedades concretas de los modelos o de las cadenas de entrenamiento.<\/p>\n\n\n\n El m\u00e9todo m\u00e1s eficaz para regular el ritmo pasa por una regulaci\u00f3n que abarque a todas las empresas estadounidenses del sector, ya que as\u00ed se incluye incluso a aquellas que se niegan a cooperar de forma voluntaria. Anthropic lleva mucho tiempo defendiendo una regulaci\u00f3n razonable y espec\u00edfica de la IA, en particular proyectos de ley centrados en la transparencia y en la auditor\u00eda por parte de terceros. Creo que todos los laboratorios de la frontera deber\u00edan colaborar con el Gobierno para formalizar la idea de contar con evaluadores integrados de forma permanente, con el fin de prevenir y documentar mejor los incidentes de alineaci\u00f3n internos, como los ocurridos en los \u00faltimos meses, y para establecer una regulaci\u00f3n que mantenga el equilibrio entre capacidades y seguridad.<\/p>\n\n\n\n Por desgracia, la aprobaci\u00f3n de leyes lleva tiempo, y la IA avanza muy r\u00e1pido. Por lo tanto, paralelamente a la v\u00eda normativa, las empresas de IA pueden y deben colaborar de forma voluntaria para establecer normas, un proceso que, en mi opini\u00f3n, se desarrollar\u00e1 mejor gracias a la verificabilidad que aportan los evaluadores integrados permanentes. Por motivos relacionados con la legislaci\u00f3n sobre competencia, resulta \u00fatil que el Gobierno estadounidense act\u00fae como mediador o, al menos, autorice estas conversaciones. No es necesario que participe en ellas, pero debe conceder una excepci\u00f3n muy limitada para determinados tipos de conversaciones sobre seguridad. Este di\u00e1logo tambi\u00e9n podr\u00eda canalizarse a trav\u00e9s de asociaciones profesionales vinculadas al Gobierno, por ejemplo, el mecanismo sugerido por Demis Hassabis <\/span>24<\/sup><\/a><\/span><\/span>. En cualquier caso, estas conversaciones deber\u00edan avanzar con rapidez.<\/p>\n\n\n\n En Estados Unidos, las empresas competidoras que llegan a un acuerdo para limitar su producci\u00f3n o su ritmo de innovaci\u00f3n se exponen a ser objeto de acciones judiciales en virtud de la legislaci\u00f3n antimonopolio. Por este motivo, Amodei solicita una exenci\u00f3n gubernamental expl\u00edcita. <\/p>\n\n\n\n En t\u00e9rminos generales, estoy especialmente a favor de una regulaci\u00f3n del ritmo basada en lo que un sistema fronterizo concreto puede hacer y en el grado de seguridad que observamos en \u00e9l. Por ejemplo, un esquema posible ser\u00eda una serie de \u00abpuntos de control\u00bb. Si los modelos tienen la capacidad X, deben ir acompa\u00f1ados de certificaciones de las propiedades de alineaci\u00f3n Y y Z, tales como una combinaci\u00f3n de evaluaciones, an\u00e1lisis de interpretabilidad y auditor\u00edas de los entornos de entrenamiento, que demuestren sus propiedades de alineaci\u00f3n. En este ejemplo, X podr\u00eda ser \u00abel modelo es capaz de escapar o burlar la mayor\u00eda de los m\u00e9todos habituales de contenci\u00f3n\u00bb y Y ser\u00eda lo necesario para que resultara muy improbable que el modelo tuviera tendencia a escapar de su entorno y a tomar el control de un gran n\u00famero de ordenadores.<\/p>\n\n\n\n El aislamiento (o \u00absandboxing\u00bb<\/em>) consiste en ejecutar un modelo en un entorno aislado, sin acceso al resto de la red.<\/p>\n\n\n\n Tambi\u00e9n deber\u00edamos plantearnos una regulaci\u00f3n del ritmo basada en la limitaci\u00f3n de los ingredientes que intervienen en los modelos de vanguardia, como la potencia de c\u00e1lculo del entrenamiento, la naturaleza de las sesiones de entrenamiento o el uso interno de la IA para mejorar la propia IA. Me temo que algunas de estas medidas sean m\u00e1s \u00abeludibles\u00bb que el comportamiento externo, pero es el tipo de tema que merece ser debatido con los evaluadores integrados.<\/p>\n\n\n\n La regulaci\u00f3n del ritmo en las democracias se ver\u00e1 limitada por la ventaja que tienen las empresas estadounidenses sobre los reg\u00edmenes autoritarios, en primer lugar el Partido Comunista Chino. Si nos ralentizamos m\u00e1s all\u00e1 de ese margen, los proyectos vinculados al PCCh (que no est\u00e1n regulados) tomar\u00e1n la delantera, lo que supondr\u00e1 un riesgo importante para la seguridad nacional. Estoy de acuerdo con el secretario Bessent <\/span>25<\/sup><\/a><\/span><\/span> en que una ventaja china en IA representar\u00eda un grave peligro para Estados Unidos y el mundo. Los proyectos vinculados al PCC asumir\u00e1n los riesgos de alineaci\u00f3n que las empresas estadounidenses evitan cuidadosamente y, aunque estos los eviten, estar\u00e1n en posici\u00f3n de dominar militarmente a las democracias (por ejemplo, con drones pilotados por IA). As\u00ed, un elemento clave para regular el ritmo en las democracias consiste en mantener la ventaja de estas sobre las autocracias lo m\u00e1s amplia posible, a fin de dotarnos del margen de maniobra necesario para una regulaci\u00f3n eficaz.<\/p>\n\n\n\n Scott Bessent hab\u00eda declarado el 9 de septiembre de 2026 que \u00abnada m\u00e1s importar\u00eda\u00bb si China ganara la carrera por la inteligencia artificial.<\/p>\n\n\n\n Las principales medidas que podemos adoptar para defender esta diferencia son las siguientes.<\/p>\n\n\n\n La destilaci\u00f3n consiste en realizar un gran n\u00famero de consultas a un modelo avanzado con el fin de utilizar sus respuestas como datos de entrenamiento de un modelo menos costoso, que de este modo copia sus capacidades. Los pesos de un modelo son los par\u00e1metros num\u00e9ricos resultantes del entrenamiento. Por lo tanto, \u00abrobarlos\u00bb equivale a hacerse con el propio modelo sin tener que pagar los miles de millones de d\u00f3lares en recursos computacionales necesarios para su producci\u00f3n.<\/p>\n\n\n\n Las empresas y el Gobierno estadounidense deber\u00edan cooperar para que estas medidas sean lo m\u00e1s eficaces posible. Anthropic ha defendido constantemente <\/span>27<\/sup><\/a><\/span><\/span> defendido <\/span>28<\/sup><\/a><\/span><\/span> todas estas medidas, porque siempre hemos entendido que ser\u00edan esenciales para regular el ritmo.<\/p>\n\n\n\n Si aplicamos correctamente estas medidas, creo que frenar\u00edan lo suficiente el avance de China como para ampliar significativamente la ventaja estadounidense durante los pr\u00f3ximos tres a cinco a\u00f1os, el periodo en el que la IA cobrar\u00e1 mayor importancia geopol\u00edtica.<\/p>\n\n\n\n Hay quien podr\u00eda pensar que estas medidas dificultan la cooperaci\u00f3n con China, pero yo creo que es todo lo contrario. Estas medidas aumentan la influencia de las democracias y hacen m\u00e1s probable que se alcance un acuerdo en el futuro.<\/p>\n\n\n\n Paralelamente a la regulaci\u00f3n del ritmo en las democracias, tambi\u00e9n deber\u00edamos aspirar a una regulaci\u00f3n mundial de los l\u00edmites, aunque ser\u00e1 mucho m\u00e1s dif\u00edcil de conseguir. La regulaci\u00f3n mundial exigir\u00e1 cooperar con China, el pa\u00eds autocr\u00e1tico cuyas capacidades en IA son, con diferencia, las m\u00e1s avanzadas. No seamos ingenuos. Lo que est\u00e1 en juego a nivel geopol\u00edtico es tan importante que probablemente habr\u00e1 l\u00edmites estrictos a lo que se pueda conseguir, sobre todo al principio. Si restringimos fuertemente nuestras capacidades en materia de IA creyendo que China har\u00e1 lo mismo, y China se sale del acuerdo, la IA podr\u00eda ser tan poderosa que tal deserci\u00f3n conducir\u00eda a su dominio geopol\u00edtico. Por lo tanto, cualquier acuerdo debe basarse en una verificabilidad a toda prueba o ser lo suficientemente limitado como para que una deserci\u00f3n no resulte militarmente existencial. Sospecho que no solo Estados Unidos, sino tambi\u00e9n China, tendr\u00e1n estas preocupaciones y temores. Deber\u00edamos abordar cualquier decisi\u00f3n de regulaci\u00f3n mundial, sobre todo a corto plazo, de manera que se proteja la ventaja de Estados Unidos y sus aliados.<\/p>\n\n\n\n\n
\u00bfPor qu\u00e9 regular el ritmo?<\/h2>\n\n\n\n
\n
\n
\n
\n
Evaluadores integrados<\/h2>\n\n\n\n
\n
\n
\n
Regular el ritmo en las democracias<\/h2>\n\n\n\n
\n
Regular el ritmo a escala mundial<\/h2>\n\n\n\n