{"id":106339,"date":"2026-07-29T19:31:51","date_gmt":"2026-07-29T17:31:51","guid":{"rendered":"https:\/\/legrandcontinent.eu\/es\/?p=106339"},"modified":"2026-07-29T19:31:55","modified_gmt":"2026-07-29T17:31:55","slug":"para-sobrevivir-debemos-coordinarnos-y-frenar-la-carrera-ia","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/es\/2026\/07\/29\/para-sobrevivir-debemos-coordinarnos-y-frenar-la-carrera-ia\/","title":{"rendered":"\u00abPara sobrevivir, debemos coordinarnos para frenar la carrera de la IA\u00bb"},"content":{"rendered":"\n
Se han publicado muchas cartas abiertas sobre los riesgos de la IA. La que se public\u00f3 esta noche con el t\u00edtulo \u00abPacing the Frontier<\/em>\u00bb \u2014en espa\u00f1ol: \u00abregular el ritmo de la vanguardia tecnol\u00f3gica\u00bb\u2014 es in\u00e9dita en tres aspectos. <\/span>1<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n En primer lugar, su origen. Aunque cuenta con el respaldo de dos ONG (Guidelight AI Standards y Encode AI), el impulso principal no provino de acad\u00e9micos externos, sino del interior de los laboratorios de vanguardia (OpenAI, Anthropic, Google DeepMind), que posteriormente ampliaron la recolecci\u00f3n de firmas. Adem\u00e1s, la adhesi\u00f3n no se limit\u00f3 a nivel individual: en las horas siguientes a la publicaci\u00f3n, OpenAI y Anthropic se sumaron al texto como empresas.<\/p>\n\n\n\n En cuanto a su composici\u00f3n. Entre los 1.178 firmantes (a 28 de julio), no solo se encuentran investigadores especializados en seguridad de la IA \u2014que ya desempe\u00f1an un papel cada vez m\u00e1s importante dentro de las propias grandes empresas\u2014, sino tambi\u00e9n aquellos cuyo trabajo diario consiste precisamente en impulsar: los directores cient\u00edficos de OpenAI, Meta AI y Thinking Machines, tres cofundadores de Anthropic y su director general.<\/p>\n\n\n\n Su motivaci\u00f3n, por \u00faltimo. Desde diciembre-enero, las grandes empresas tecnol\u00f3gicas han automatizado en gran medida la investigaci\u00f3n en inteligencia artificial y el ciclo de desarrollo de los modelos. A partir de ahora, cada generaci\u00f3n contribuye a dise\u00f1ar la siguiente: es lo que se conoce como din\u00e1mica de automejora recursiva (Recursive Self-Improvement<\/em>, o RSI). El ritmo del progreso deja de estar limitado por el tiempo humano, y esta aceleraci\u00f3n reduce el margen de tiempo durante el cual las instituciones pueden observar, evaluar y decidir intervenir.<\/p>\n\n\n\n Jason Wolfe, que trabaja en el \u00e1mbito de la alineaci\u00f3n en OpenAI, recuerda que muchos expertos consideran plausible que se produzca una \u00abexplosi\u00f3n de inteligencia\u00bb de aqu\u00ed a dos a\u00f1os. <\/span>2<\/sup><\/a><\/span><\/span> Esta preocupaci\u00f3n no es exclusiva de individuos aislados. El mes pasado, Anthropic public\u00f3 un informe sobre la superaci\u00f3n recursiva en el que la empresa estima que los sistemas podr\u00edan dise\u00f1ar y perfeccionar a sus propios sucesores, y concluye que ser\u00eda importante que el mundo tuviera la posibilidad de ralentizar o suspender temporalmente el desarrollo de vanguardia. <\/span>3<\/sup><\/a><\/span><\/span> La petici\u00f3n es la traducci\u00f3n pol\u00edtica de esta investigaci\u00f3n.<\/p>\n\n\n\n Leo Gao, investigador de OpenAI, lo expresa de forma m\u00e1s cruda en el comentario que acompa\u00f1a a su firma: \u00abEl mundo se encuentra sumido en una carrera mortal hacia una explosi\u00f3n de la inteligencia, en la que la capacidad de la IA para crear IA cada vez m\u00e1s potentes alcanza un punto cr\u00edtico, como una reacci\u00f3n nuclear en cadena incontrolable. Dado que ning\u00fan actor est\u00e1 dispuesto a detenerse por su cuenta, debemos coordinar nuestros esfuerzos para frenar esta carrera si queremos sobrevivir\u00bb. <\/span>4<\/sup><\/a><\/span><\/span><\/p>\n\n\n\n La IA podr\u00eda contribuir a crear un futuro radicalmente mejor, pero este resultado no est\u00e1 garantizado. Las principales empresas mundiales especializadas en IA estiman que podr\u00edan estar a punto de automatizar la investigaci\u00f3n. Es dif\u00edcil predecir con exactitud en qu\u00e9 medida esto acelerar\u00e1 los avances de la IA, pero existe un riesgo real de que el desarrollo de estas capacidades se acelere r\u00e1pidamente, m\u00e1s all\u00e1 de nuestra capacidad para comprender o controlar los sistemas resultantes.<\/p>\n\n\n\n El director ejecutivo de OpenAI, Sam Altman, ha anunciado que ha suspendido el entrenamiento del modelo responsable del hacking <\/em>a Hugging Face, mientras se refuerza la seguridad de los sandboxes, <\/em>esos entornos de ejecuci\u00f3n aislados en los que un sistema de IA puede ejecutar c\u00f3digo y actuar, con un acceso a la red deliberadamente restringido. A modo de recordatorio: el 21 de julio, OpenAI revel\u00f3 que GPT-5.6 Sol y un modelo no publicado se escaparon por s\u00ed solos de un entorno de evaluaci\u00f3n, llegaron a internet y comprometieron el sistema de producci\u00f3n de Hugging Face para robar la soluci\u00f3n del benchmark ExploitGym. Medidas de seguridad cibern\u00e9ticas deliberadamente reducidas, vulnerabilidad de d\u00eda cero en un proxy de registro de paquetes, escalada de privilegios. Hugging Face hab\u00eda detectado y detenido la intrusi\u00f3n por su cuenta, sin saber qui\u00e9n la hab\u00eda lanzado. Por lo tanto, un laboratorio a\u00fan puede pisar el freno, de forma puntual, en su propio entorno. La petici\u00f3n plantea la siguiente pregunta: \u00bfqui\u00e9n puede hacerlo a escala de todo el sector y siguiendo qu\u00e9 procedimiento?<\/p>\n\n\n\n Para que la IA cumpla sus promesas, es posible que las empresas, los Estados y la sociedad en su conjunto tengan que darse un respiro: el tiempo necesario para hacer frente a los riesgos que surjan, establecer medidas de protecci\u00f3n y reforzar los controles. Sin embargo, la competencia es tal que ninguna empresa \u2014ni ning\u00fan pa\u00eds\u2014 puede permitirse el lujo de bajar el ritmo por su cuenta.<\/p>\n\n\n\n