El regreso de Trump amenaza los esfuerzos por hacer más segura la IA

El pasado mes de mayo, Seúl acogió una importante cumbre internacional sobre IA, organizada conjuntamente por el Reino Unido y Corea del Sur. Esta cumbre siguió a la primera cumbre internacional sobre la seguridad de la inteligencia artificial celebrada 6 meses antes en Bletchley Park, lugar famoso por haber sido el centro neurálgico de las operaciones de descifrado durante la Segunda Guerra Mundial.

• Según Bain & Co, el mercado mundial de la IA tendrá un valor de casi 1 billón de dólares en 2027 ¹.
• En su punto álgido, alcanzado en abril de 2023 tras la introducción de GPT-4, el agente conversacional de OpenAI, ChatGPT, atraía 1.800 millones de visitas al mes.
• Sin embargo, el creciente uso de diversos servicios de inteligencia artificial conlleva un importante número de riesgos, que van desde los deepfakes hasta el bioterrorismo, que los gobiernos quieren comprender mejor y prevenir.

Este es el objetivo de la reunión que se celebra actualmente en San Francisco. Organizada conjuntamente por el Departamento de Estado y el Departamento de Comercio de Estados Unidos, tiene por objeto inaugurar el lanzamiento de la Red Internacional de Institutos de Seguridad de la IA ². Esta iniciativa, que reúne actualmente a 35 países (incluidos los 27 miembros de la Unión Europea), consiste en una red de institutos cuya función es elaborar una hoja de ruta para hacer más seguro el uso de la IA.

La «seguridad de la IA» es un campo de investigación por derecho propio, dividido en dos ámbitos principales: la seguridad técnica y la seguridad de los procesos ³.

• El aspecto técnico busca que los modelos de inteligencia artificial sean más fiables y coherentes con el uso previsto por sus desarrolladores. En San Francisco, los expertos de la Red debatirán sobre cómo hacer la IA más robusta, definir mejor sus objetivos y controlar mejor la actividad de los chatbots ⁴.
• El aspecto de los procesos, por su parte, es más operativo y se refiere a las políticas y procedimientos que rodean el uso de la IA. Debe permitir a los desarrolladores construir y gestionar mejor los modelos de IA para garantizar un uso seguro.

A dos meses de su investidura, la reunión se celebra a la sombra de Donald Trump. Durante la campaña, Trump prometió anular la orden ejecutiva firmada por Biden en noviembre de 2023 por la que se imponen normas a las empresas que desarrollan modelos de IA. La plataforma del Partido Republicano aprobada en julio afirma que el presidente electo, una vez en la Casa Blanca, derogará «el peligroso decreto de Joe Biden que obstaculiza la innovación en IA e impone ideas radicales de izquierdas al desarrollo de esta tecnología» ⁵.

La postura general de Trump sobre la inteligencia artificial está menos clara. Aunque podría mantener la red de institutos de IA, que la futura administración considera importante, su estrecho aliado Elon Musk se muestra más escéptico sobre el uso de la tecnología por parte de algunos actores importantes, como la empresa OpenAI, contra la que presentó una demanda en agosto ⁶.