La carrera por la inteligencia artificial ha sido tradicionalmente vista como un juego de suma cero entre China y EE.UU. Sin embargo, ante el aumento de las capacidades de los modelos de IA, especialmente los agentes de IA los investigadores de ambos países están considerando la posibilidad de trabajar juntos para abordar los crecientes riesgos de seguridad.
Este verano, Will Knight, corresponsal senior de WIRED visitó China y descubrió un creciente interés en la seguridad de la IA entre los investigadores chinos. En una entrevista con Zoë Schiffer, editora colaboradora de WIRED, Knight compartió sus hallazgos y la posibilidad de una colaboración sino-estadounidense en este campo crítico.
El enfoque de China en la seguridad de la IA
Durante su visita, Knight asistió a una conferencia en Beijing donde la seguridad de la IA fue un tema central. A diferencia de la narrativa dominante en EE.UU., los investigadores chinos parecen más interesados en la utilidad práctica de la IA que en la búsqueda de una inteligencia artificial general (AGI).
Knight observó que en China, el uso de modelos de IA está más regulado, con restricciones sobre lo que los modelos pueden decir. Además, hay un enfoque significativo en el desarrollo de agentes de IA como OpenClaw y en garantizar su fiabilidad y estabilidad. «La gente allí parece menos encantada con la idea de una AGI y más interesada en cómo esto va a ser realmente útil», comentó Knight.
Riesgos y oportunidades en la colaboración
Uno de los mayores desafíos para una colaboración efectiva entre China y EE.UU. es la falta de confianza y las restricciones existentes. Knight visitó a un investigador de ciberseguridad en China que había desarrollado una prueba de referencia para evaluar las capacidades de hackeo de los modelos de IA. Sin embargo, este investigador no podía colaborar con sus homólogos estadounidenses debido a las restricciones.
«Sería bueno ver más colaboración incluso entre las empresas», señaló Knight. «Vemos a las empresas estadounidenses siendo muy críticas con las chinas, pero en realidad hay muchas razones para que todos trabajen juntos para asegurar que las cosas no salgan mal.»
Knight también mencionó que, aunque la narrativa en EE.UU. ha sido que la seguridad de la IA es anti-crecimiento, en China se ve de manera diferente. «Hacer que un modelo sea confiable es totalmente compatible con hacerlo exitoso», explicó. «Esa es más la visión desde China: queremos que estos agentes no se comporten mal, entonces tendrán más valor.»
El futuro de la colaboración en IA
La posibilidad de una colaboración entre China y EE.UU. en seguridad de la IA es un tema complejo. Knight sugirió que podría haber algún tipo de acuerdo o reglas de comunicación, especialmente en situaciones militares. «Si algo sale mal, si tienes un sistema de IA que comienza a hacer algo muy agresivo o atacar sistemas, tienes una manera de decir, ‘Esto es un error'», señaló.
Sin embargo, la colaboración no será fácil. Las negociaciones entre Washington y Beijing han sido difíciles, y construir confianza será un desafío significativo. «Especialmente cuando se trata de ciberseguridad, durante mucho tiempo no ha habido mucha cooperación en absoluto», admitió Knight.
A pesar de los desafíos, la necesidad de colaboración es clara. Los investigadores de ambos países están preocupados por los mismos problemas, desde el hackeo de sistemas hasta la posibilidad de que los agentes de IA se repliquen y escapen del control. Como señaló Knight, «es un problema que todos deberíamos conocer».
