La IA se ha convertido en el eje central del enfrentamiento entre China y Estados Unidos. La forma en que ambas potencias podrían ponerse de acuerdo para seguir desarrollando la tecnología y, al mismo tiempo, establecer un marco para gestionar sus riesgos es una de las cuestiones clave de la visita de Estado de Xi a Estados Unidos, que finaliza hoy, viernes 25.
Aunque sus motivaciones sean diferentes, Pekín y Washington tienden a dejar la seguridad en un segundo plano.
- La administración de Trump tiende a considerar la carrera por la IA como una cuestión de seguridad nacional: una victoria china otorgaría a Pekín una ventaja estratégica considerable.
- En China, algunos investigadores consideran que la seguridad de los modelos más avanzados es menos urgente, ya que los laboratorios chinos van a la zaga de sus competidores estadounidenses. 1
- En ambos casos, frenar el desarrollo de la IA en aras de la seguridad sería una decisión que ninguna de las dos potencias se ve capaz de asumir.
Para Cheryl Wu, doctoranda en Economía en Yale, la idea de que el retraso de China permitiría posponer las cuestiones de seguridad se basa en una premisa frágil: un retraso en las capacidades no garantizaría un retraso en los incidentes. Así, plantea tres hipótesis: 2
- En primer lugar, podrían producirse incidentes a un nivel de capacidad menor en los modelos chinos, sobre todo debido a la difusión de los modelos de peso libre.
- Su naturaleza y gravedad también podrían variar en función de cómo utilicen los usuarios los modelos. En concreto, los modelos estadounidenses podrían llevar a cabo acciones sin autorización con mayor frecuencia, mientras que los modelos chinos podrían aprovechar las vulnerabilidades de su sistema de recompensas en lugar de realizar la tarea asignada.
- También hay que tener en cuenta la forma en que ambos países pueden abordar la divulgación de incidentes de seguridad.
- A diferencia de Estados Unidos, donde METR ha podido probar, entre otros, los sistemas de vigilancia de Anthropic, no existe ningún caso de integración de evaluadores externos en empresas chinas.
- Por lo tanto, un menor número de incidentes notificados no significaría que hubiera menos incidentes.
- Por último, queda por ver cómo reaccionaría China ante un incidente de gran envergadura relacionado con un modelo de IA y, en particular, cuál sería el umbral a partir del cual las autoridades chinas considerarían que un «problema» merece una intervención.
Más allá de las cuestiones económicas, al Partido Comunista le preocupan las consecuencias que la IA podría tener sobre su control del proceso político.
- En un artículo publicado el 13 de septiembre, el secretario del Partido y ministro del Departamento de Seguridad del Estado, Chen Yixin, menciona, entre otras cosas, el riesgo de que «personas con intenciones maliciosas» utilicen la tecnología para «inventar rumores políticos, difundir información maliciosa, incitar al conflicto y avivar las tensiones en la opinión pública», y todo ello «a gran escala y con un costo muy reducido».
Notas al pie
- Stu Woo y Raffaele Huang, «China Also Thinks AI Could Kill Us. But First, It Wants to Match the U.S.», The Wall Street Journal, 14 de septiembre de 2026.
- Cheryl Wu, «China’s AI-safety trajectory is not necessarily a delayed version of America’s», 23 de septiembre de 2026.
