En un mundo donde la inteligencia artificial avanza a pasos agigantados, Australia ha decidido tomar medidas concretas para enfrentar los riesgos que esta tecnología conlleva. Recientemente, Andrew Charlton, asistente federal de ciencia y tecnología, advirtió sobre el comportamiento imprevisto de los modelos de IA, señalando que «están haciendo cosas que sus creadores nunca pretendieron: engañar, decepcionar, seguir su propio camino».
Esta alarma no ha caído en oídos sordos. El gobierno australiano ha respondido con la creación del Instituto de Seguridad de la IA un organismo clave dentro de su Plan Nacional de IA. Pero, ¿serán suficientes estas medidas para proteger a los australianos de una de las tecnologías más poderosas y rápidamente avanzadas que el mundo ha conocido?
Los riesgos de la IA ya están aquí
Los peligros de la IA no son una amenaza futura; ya están afectando a los australianos. Desde aplicaciones de deepfakes y estafas sofisticadas hasta chatbots que aíslan a adolescentes y aumentan los riesgos de ciberseguridad, los problemas son evidentes. Además, Expertos advierten sobre riesgos futuros, como la IA agente, que aún no tiene controles adecuados.
Un informe reciente del Panel Científico Internacional Independiente de la ONU sobre IA también expresó preocupaciones sobre la concentración global de poder, recursos y capacidad de IA, así como su impacto en el pensamiento, la razón y el trabajo.
El papel del Instituto de Seguridad de la IA
El Instituto de Seguridad de la IA tiene tres tareas principales: analizar y probar nuevos modelos, apoyar a los reguladores gubernamentales y agencias para responder a capacidades, riesgos y tendencias emergentes, y moldear el desarrollo, despliegue y gobernanza internacional de la IA en interés de Australia.
Ya está trabajando en riesgos multiagentes con el Gradient Institute y en alineación de IA con el CSIRO. La alineación de IA es crucial porque, en este momento, no podemos predecir completamente cómo actuará la IA. Hay numerosos experimentos en los que la IA ha engañado a los usuarios o evitado controles impuestos por humanos.
El liderazgo de Kate Conroy
Kate Conroy, jefa del Instituto de Seguridad de la IA y reservista de la Fuerza Aérea Real Australiana ha destacado la importancia de abordar tanto los daños inmediatos que afectan a los australianos, especialmente a los más marginados y vulnerables, como los riesgos y daños fronterizos.
¿Es suficiente el presupuesto?
La creación del instituto es un paso crítico, pero dado el rápido desarrollo de la IA y la amplia gama de problemas que surgen, es justo preguntarse si su presupuesto de A$29.4 millones en cuatro años es suficiente. En comparación, el Reino Unido asignó alrededor de A$460 millones en su revisión de gastos de 2026 al Instituto de Seguridad de la IA del Reino Unido y Singapur tiene un presupuesto anual de aproximadamente A$11 millones. Canadá ha asignado alrededor de A$50 millones en cinco años a su Instituto de Seguridad de la IA.
Estos presupuestos palidecen en comparación con el gasto de la industria. Solo OpenAI invirtió US$19 mil millones en investigación y desarrollo en 2026. Propuestas para aumentar significativamente el presupuesto del instituto australiano fueron fuertemente apoyadas en el Foro de Seguridad de la IA de esta semana.
Desafíos y oportunidades
El impacto desigual de la IA y su enorme potencial para aumentar la desigualdad, como destacó el nuevo informe de la ONU, subraya la necesidad de más trabajo. Dos pasos prometedores serían legislar un deber de cuidado digital para abordar algunos daños en línea impulsados por la IA y abordar la exclusión digital para asegurar que todos los australianos se beneficien de la IA.
La conversación sobre la IA, las oportunidades que presenta para la sociedad y los impactos que tendrá debe ser más amplia. Necesitamos considerar un conjunto más amplio de acciones si realmente queremos abordar los bajos niveles de confianza en la IA en Australia y proteger a las personas de los muchos posibles daños de la tecnología.
Con informes de un cambio de enfoque del gobierno, quizás ese cambio esté por venir. Como destacaron múltiples oradores en el Foro de Seguridad de la IA, Australia tiene una oportunidad única para marcar la diferencia. Contamos con investigadores de seguridad de IA extraordinariamente capacitados, así como personas que trabajan en impactos sociales, y una imperativa social y moral para abordar los riesgos y oportunidades de la IA para todos los australianos.
