En Anthropic, el 26 % de la I+D está dirigida por la IA

Desde principios de año, las grandes empresas de IA han acelerado considerablemente la automatización de la investigación en IA y del ciclo de desarrollo de modelos, avanzando claramente hacia la delegación de un número cada vez mayor de tareas en detrimento de los desarrolladores humanos. 

Este fenómeno es una continuación de una tendencia de fondo que se viene observando desde hace una década.

• Tras haber eliminado la necesidad de que el ser humano defina manualmente las variables de entrada («features») con la transición al Deep Learning, la IA reduce ahora la intervención humana en el propio proceso de mejora de los modelos.

Anthropic señala así que más de una cuarta parte (26 %) de su investigación y desarrollo (I+D) en materia de IA se encuentra ahora en el nivel «AI leads» (AL4), frente a menos del 1 % en febrero.

• En este sentido, la persona establece un objetivo general, supervisa y valida, mientras que Claude lleva a cabo la mayor parte de la tarea de principio a fin.
• Anthropic señala que, si la tendencia observada continuara, esta proporción podría alcanzar aproximadamente el 80 % a finales de año. ¹

Anthropic propone tres métricas que permiten cuantificar la RSI («mejora recursiva», es decir, la capacidad autónoma de un modelo de IA para crear a su sucesor): el índice de automatización de la I+D, la capacidad para supervisar a los agentes y la asignación de recursos informáticos.

Estos indicadores podrían servir como factores desencadenantes de medidas de control o de ralentización.

• Anthropic aún no ha alcanzado la RSI, pero está llevando a cabo una automatización muy rápida de casi toda la cadena de ejecución de I+D.
• Más del 90 % de la I+D en materia de IA ya se encuentra, como mínimo, en el nivel AL3 «colaborador de IA»: por lo tanto, Claude puede realizar importantes bloques de trabajo bajo una estrecha supervisión humana.
• Anthropic indica que el 0 % de las categorías evaluadas alcanzan el nivel AL5, es decir, el nivel en el que la IA identifica por sí misma el problema, lo define, lo resuelve, lo prueba y lo implementa sin necesidad de intervención humana.
• Aproximadamente 30.000 agentes de IA dedicados a la investigación trabajan en todo momento de forma paralela en la plataforma de Anthropic, y son capaces de comunicarse entre sí y delegarse tareas.

En su ensayo Pacing the Frontier, Dario Amodei considera que, desde el verano de 2026, la IA se ha acelerado considerablemente, sobre todo porque cada vez es más capaz de contribuir por sí misma al desarrollo de la siguiente generación de modelos.

• En este texto expresa su preocupación por que ese círculo vicioso de aceleración pueda acabar avanzando más rápido que la capacidad de la humanidad para comprender y controlar los sistemas.
• De hecho, Anthropic ha publicado cifras sobre la distribución de sus recursos informáticos: en una semana, solo alrededor del 6 % de la capacidad de cálculo destinada a I+D en IA se dedicó a tareas de seguridad.

Noam Brown considera que, a corto plazo, es plausible que la investigación en IA se acelere entre 3 y 10 veces con respecto a la curva actual. Los experimentos están limitados por su duración, su carácter secuencial y el número de GPU disponibles; por lo tanto, la capacidad de cálculo podría convertirse en el principal obstáculo para la investigación en IA.

• OpenAI afirma haber alcanzado en septiembre la fase de un «investigador en prácticas» automatizado, capaz, bajo supervisión, de realizar tareas bien definidas que a un investigador cualificado le llevarían varios días. La empresa tiene como objetivo alcanzar la etapa de «investigador de IA automatizado» para marzo de 2028. ²

En otro conjunto de tareas, cuyo tiempo de realización se estimaba entre 4 y 8 horas de trabajo humano, más de la mitad de las que se completaron con éxito en los últimos seis meses requirieron al menos una intervención humana. 

• Sin embargo, otros laboratorios informan de mejoras concretas en la velocidad al utilizar sus propios modelos en sus propias actividades de I+D.
• En junio, OpenAI y Broadcom anunciaron Jalapeño, el primer chip de inferencia diseñado por OpenAI.
• OpenAI anuncia que ha pasado del diseño inicial al envío a la fundición en nueve meses, frente a un ciclo habitual que suele oscilar entre los 18 y los 24 meses para un chip avanzado.

La empresa atribuye en parte esta reducción al uso de sus propios modelos para acelerar determinadas fases del diseño y la optimización.

• En marzo, en la sesión posterior a la formación, el equipo de RL de MiniMax había anunciado que automatizaría su proceso de experimentación en un 30-50 % aproximadamente (revisión de la bibliografía, definición de los experimentos, depuración y análisis de métricas). ³
• En septiembre, el laboratorio chino Zhipu AI utilizó un agente basado en su modelo GLM-5.3 para optimizar la forma en que su siguiente modelo, el GLM-5.3-Flash, procesa las consultas una vez implementado (la «pila de inferencia»). En menos de dos semanas, los ingenieros y el agente triplicaron el rendimiento de inferencia en 10.000 chips de Huawei.
• Zhipu AI ha anunciado que destinará el 60 % de los fondos recaudados en su ronda de financiación de 5.000 millones de dólares al desarrollo de la próxima generación de sus modelos GLM y a su sistema «Fully Self Training», un mecanismo diseñado para que los propios modelos participen en el entrenamiento de sus sucesores. ⁴

Ante esta carrera por la superación constante, Yoshua Bengio, ganador del Premio Turing, pidió en septiembre que se prohibieran aquellas formas de IRS en las que los sistemas de IA pudieran diseñar y entrenar de forma autónoma a sus propios sucesores, sin intervención humana.