El jefe de los servicios de inteligencia de China ha puesto negro sobre blanco los temores de Pekín ante la IA, y su diagnóstico llega justo cuando los ejecutivos del sector en EE.UU. piden frenar la tecnología. El ministro de Seguridad del Estado, Chen Yixin, publicó este domingo un artículo en la revista China Cyberspace —dependiente de la Administración del Ciberespacio de China— con seis riesgos que, según Pekín, la IA plantea para el país.

La lista de Chen: seis amenazas

El artículo arranca con un riesgo político. Chen advierte de que las herramientas generativas han puesto la propaganda al alcance de cualquiera: «fuerzas hostiles y personas malintencionadas» pueden fabricar vídeos y audios falsos, imágenes y textos sintéticos y movilizar «ejércitos inteligentes» en línea para producir rumores políticos a bajo coste y en grandes cantidades. El objetivo, según el ministro, es difundir información perjudicial, alimentar emociones enfrentadas y sostener una «guerra de opinión pública y cognitiva» contra la seguridad política, institucional e ideológica del país.

Las infraestructuras críticas son el segundo flanco: la potencia de modelos como Mythos haría posible ejecutar ciberataques con una eficiencia extrema. El tercero, las fugas masivas de datos: información esencial del Estado, secretos comerciales o datos personales de los ciudadanos podrían acabar en manos de servicios de inteligencia extranjeros o de los propios usuarios chinos de IA.

También alerta de un desequilibrio tecnológico: los monopolios y los ecosistemas cerrados permitirían a algunos países explotar la IA y fragmentar las cadenas de suministro en nombre de la seguridad nacional. La gobernanza social también aparece en la lista: la IA, sostiene, puede provocar alteraciones del orden público. El último riesgo es militar: los ataques de precisión basados en IA darían a los adversarios una ventaja importante en el campo de batalla.

Más control, no menos

La solución que propone Chen no es frenar el desarrollo, sino intensificar el control estatal. El ministro pide «acelerar la construcción de un sistema de prevención y control de riesgos de seguridad», promover un desarrollo «sano y ordenado» mediante una «gobernanza de alta eficiencia» y que la IA se desarrolle «teniendo como principio rector el bienestar de toda la humanidad». También aboga por «resistir resueltamente el hegemonismo, las barreras tecnológicas y los bloques exclusivos» y por crear un «sistema de reglas internacionales justo y abierto» para la IA.

El mismo domingo, el presidente chino, Xi Jinping, defendió en la cumbre del BRICS en Nueva Delhi un enfoque «centrado en las personas» para la IA y pidió acelerar un «marco de gobernanza mundial de la IA basado en el consenso». China, añadió, tomará la iniciativa para fomentar la colaboración y el desarrollo de la IA entre los países en desarrollo.

La respuesta de Pekín a los CEOs

El lunes, el portavoz del Ministerio de Exteriores chino, Guo Jiakun, respondió directamente a los ejecutivos estadounidenses que piden desacelerar el desarrollo de la IA de frontera.

«El alarmismo, la confrontación y la competencia solo perturbarán el proceso de gobernanza mundial de la IA», dijo, según una traducción al inglés publicada por Reuters.

Esa llamada a frenar partió de Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk, después de que varios empleados de sus empresas advirtieran de que esos productos, sin control, podrían acabar con la mayor parte de la humanidad. En el caso más visible, el investigador de Anthropic Jacob Coxon dimitió acusando a su laboratorio y a OpenAI de «jugar con nuestras vidas».

Amodei, en un ensayo publicado el sábado, defendió una pausa limitada: «No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de regímenes autoritarios, mientras que construirla demasiado rápido es temerario». Añadió que si se frenaba más de la cuenta, los proyectos asociados al Partido Comunista Chino podrían adelantarse y generar un «riesgo significativo para la seguridad nacional».

Trump, por su parte, se opuso a las llamadas a frenar. Durante un viaje a Irlanda, dijo: «Mira, estamos liderando a China en IA… y, francamente, quiero mantenerlo así porque quien gane la IA, gana».

El lunes, las acciones relacionadas con la IA cayeron en los mercados: SoftBank, uno de los mayores inversores en OpenAI, bajó un 10% en Japón.