En un giro inesperado, los líderes de las principales empresas de inteligencia artificial han propuesto frenar el ritmo acelerado de investigación y desarrollo. Dario Amodei, CEO de Anthropic ha instado a las compañías del sector, incluyendo la suya propia, a reducir la velocidad de sus avances. Esta propuesta ha sido respaldada por Sam Altman de OpenAI y Elon Musk de xAI.
La discusión sobre la seguridad de la IA no es nueva. Desde hace años, expertos en el campo han advertido sobre los riesgos potenciales de sistemas de superinteligencia que podrían superar la capacidad humana de control. En, cientos de científicos e industriales firmaron una declaración sobre el riesgo de extinción por IA, comparándolo con amenazas globales como pandemias o guerras nucleares.
Los riesgos de una IA descontrolada
Stuart Russell, profesor de ciencias de la computación en la Universidad de California, Berkeley, ha señalado que una IA fuera de control podría utilizar robots para sintetizar y propagar patógenos novedosos. Además, podría manipular a las personas para iniciar guerras nucleares, incluso mediante el hackeo de sistemas de alerta temprana. Aunque estos escenarios no son inminentes con las tecnologías actuales, el riesgo aumenta a medida que la IA se vuelve más avanzada.
Russell enfatiza que, en el corto plazo, el mayor peligro proviene del mal uso humano de la IA, como ataques terroristas facilitados por esta tecnología. Jacob Coxon, un investigador de 27 años que recientemente renunció a Anthropic, expresó en X su preocupación por la carrera descontrolada hacia el desarrollo de modelos de IA automejorables.
La paradoja de la seguridad y la competencia
Anthropic ha eliminado una cláusula de su carta de seguridad que prometía detener el desarrollo de sus modelos si no podían controlar sus riesgos. La compañía argumenta que una pausa unilateral solo beneficiaría a competidores menos cautelosos, lo que a largo plazo podría ser más peligroso. Evan Hubinger, ejecutivo de seguridad de Anthropic, estimó en más del 10% el riesgo de que la IA cause la extinción humana en la próxima década.
Sin embargo, Hussein Abbass, profesor de computación en UNSW Canberra, considera que estas predicciones catastrofistas son absolutamente no científicas. Asegura que la situación aún es controlable y manejable, pero insta a los gobiernos a adoptar un enfoque ágil en la regulación de la IA.
El debate político y la carrera tecnológica
El presidente Donald Trump ha rechazado las llamadas a una pausa en el desarrollo de la IA, argumentando que cualquier retraso permitiría a China tomar la delantera. Mike Johnson, presidente de la Cámara de Representantes, ha declarado que la responsabilidad de garantizar la seguridad de los modelos recae en las propias empresas desarrolladoras.
Mientras tanto, China ha propuesto un marco global de gobernanza de la IA en la cumbre de los BRICS en Nueva Delhi. El presidente Xi Jinping ha prometido modelos de IA de código abierto y desarrollo de grandes modelos de lenguaje para las naciones BRICS. Esta iniciativa desafía la dominancia tecnológica occidental y posiciona a China como un líder en la tecnología para el Sur Global.
En medio de este debate, los CEO de las principales empresas de IA se encuentran en una encrucijada. Por un lado, reconocen los riesgos existenciales de una IA descontrolada; por otro, la presión competitiva y los incentivos económicos los impulsan a seguir avanzando. La pregunta sigue en el aire: ¿es esta propuesta de frenar el desarrollo una medida de precaución necesaria o una estrategia para mantener el control en un mercado cada vez más competitivo?
