En el ámbito de la ciberseguridad, la llegada de la inteligencia artificial (IA) ha generado tanto esperanza como preocupación. Si bien esta tecnología promete fortalecer las defensas de las organizaciones, también ha facilitado el desarrollo de ataques más sofisticados. Los investigadores están descubriendo que los modelos de lenguaje como GPT-4 pueden generar código malicioso, aunque con limitaciones significativas en su ejecución.
Recientemente, un grupo de expertos de Netskope llevó a cabo una serie de pruebas para evaluar si los modelos de lenguaje podían llevar a cabo ataques autónomos sin intervención humana.
Los resultados de estas pruebas revelaron aspectos sorprendentes sobre la fiabilidad del código generado por la IA y su capacidad para eludir sistemas de defensa tradicionales.
Resultados de las pruebas de código malicioso
En la primera fase del experimento, se solicitó a GPT-3.5-Turbo y GPT-4 que produjeran scripts en Python destinados a realizar inyecciones de procesos y desactivar herramientas de seguridad. Mientras que GPT-3.5-Turbo cumplió con la solicitud de inmediato, GPT-4 inicialmente se mostró reacio a contribuir.
Sin embargo, tras ajustar el enfoque a través de un sencillo prompt que suavizó sus restricciones, se logró que el modelo también generara el código.
Limitaciones en la ejecución del código
Una vez confirmado que la generación de código era técnicamente posible, los investigadores realizaron pruebas operativas. Se pidió a ambos modelos que desarrollaran scripts diseñados para identificar máquinas virtuales y reaccionar adecuadamente. Al probar estos scripts en diversas configuraciones, como en VMware Workstation y en entornos de AWS, se observó que frecuentemente fallaban, se bloqueaban o no lograban ejecutarse como se esperaba.
En entornos físicos, el rendimiento del código fue satisfactorio, pero en los espacios virtuales en la nube, estos scripts mostraron una alta tasa de fallos. Estos hallazgos ponen en duda la noción de que las herramientas de IA puedan, de manera inmediata, facilitar ataques automatizados que se adapten a diversos sistemas sin intervención humana.
El futuro de la ciberseguridad y la inteligencia artificial
Aunque la llegada de modelos como GPT-5 ha mostrado una mejora notable en la calidad del código, especialmente en entornos de nube, también se han implementado controles más estrictos.
Esto ha dificultado los intentos de uso malicioso, ya que el modelo, aunque no rechaza las solicitudes, reorienta sus salidas hacia funciones más seguras, lo que resulta en un código poco utilizable para ataques escalonados.
La importancia de contar con defensas tradicionales
Estos cambios indican que una mayor fiabilidad en los modelos de IA viene acompañada de controles más robustos. Las pruebas han demostrado que, aunque los modelos grandes pueden generar lógica perjudicial en entornos controlados, la efectividad del código sigue siendo inconsistente y frecuentemente ineficaz. Por lo tanto, las amenazas de ataques completamente autónomos no son una realidad inminente, y los incidentes del mundo real aún requieren la supervisión humana.
Los expertos coinciden en que la única manera de contrarrestar la IA en manos de atacantes es mediante el uso de IA defensiva. Las organizaciones deben adaptarse y actualizar sus arquitecturas de seguridad para mantenerse a la vanguardia en este nuevo entorno de amenazas. De no hacerlo, corren el riesgo de ser superadas por ataques que, aunque todavía dependen de la intervención humana, están cada vez más al alcance de grupos menos experimentados.
