Un nuevo estudio ha revelado un método inquietante para eludir las restricciones de los modelos de lenguaje de inteligencia artificial. Investigadores de Icaro Lab, una colaboración entre la Universidad Sapienza de Roma y DexAI, han descubierto que al reformular preguntas delicadas en forma de poesía, es posible obtener respuestas sobre temas altamente sensibles como la construcción de armas nucleares.
El estudio, titulado «La poesía adversarial como un jailbreak universal en modelos de lenguaje grandes (LLMs)», muestra que esta técnica ha logrado un éxito sorprendente en múltiples plataformas de chatbots.
Este hallazgo plantea serias preguntas sobre la seguridad y la ética en el uso de la inteligencia artificial.
El fenómeno de la poesía adversarial
Los investigadores llevaron a cabo pruebas utilizando 25 chatbots desarrollados por diversas compañías, incluidas OpenAI y Meta. El resultado fue notable: un 62% de éxito en el uso de poemas cuidadosamente elaborados y un 43% en conversiones de meta-prompt. Este fenómeno sugiere que el lenguaje poético puede confundir los mecanismos de seguridad de estos sistemas, permitiendo que se evada la censura.
La estructura y el impacto de la poesía
La investigación indica que el uso de sufijos adversariales, que son adiciones complejas a las preguntas, puede engañar a los modelos de lenguaje. En estudios anteriores, se había demostrado que las preguntas peligrosas pueden ser disfrazadas con jergas académicas para sortear las restricciones. Sin embargo, el enfoque poético parece ser aún más efectivo, logrando tasas de éxito de hasta el 90% en ciertos modelos avanzados.
Los investigadores argumentan que, al transformar preguntas directas en versos, se logra un desplazamiento que evita las áreas de alarma en el modelo. Por ejemplo, un pedido directo sobre la creación de materiales peligrosos se ve sustituido por una metáfora poética que escapa a la detección de los filtros de seguridad.
La naturaleza de las restricciones en los chatbots
A pesar de que los chatbots como Claude y ChatGPT tienen limitaciones para abordar temas delicados, la investigación ha revelado que estas restricciones no son infalibles.
Las guardas, que generalmente son sistemas independientes diseñados para proteger a los modelos de lenguaje, pueden verse comprometidas por la creatividad del lenguaje poético.
Por qué funciona la poesía
Los investigadores de Icaro Lab explican que en la poesía, el lenguaje se presenta en una forma más impredecible, donde las palabras se conectan de maneras inesperadas. Este fenómeno se asemeja a cómo los modelos de lenguaje manejan la probabilidad en sus respuestas. Un modelo que opera a baja temperatura tiende a elegir palabras predecibles, mientras que uno que funciona a alta temperatura explora opciones más creativas y menos probables.
A pesar de la preocupación por el uso de poesía para eludir restricciones, los investigadores han decidido no compartir ejemplos específicos de los versos que lograron eludir la seguridad. Argumentan que estos ejemplos pueden ser demasiado peligrosos para ser divulgados públicamente, lo que pone de relieve la gravedad de sus hallazgos.
Implicaciones éticas y de seguridad
El descubrimiento de que la poesía puede ser un medio para acceder a información prohibida plantea importantes preguntas sobre la ética en el desarrollo y uso de inteligencia artificial. A medida que estos modelos se vuelven más sofisticados, la vulnerabilidad de sus sistemas de seguridad se convierte en una preocupación creciente. Los investigadores advierten que cualquier técnica que permita eludir las restricciones puede llevar a un uso indebido de la tecnología, lo que podría tener consecuencias graves.
El estudio resalta la necesidad de reforzar las guardas en los sistemas de inteligencia artificial y de considerar las implicaciones de permitir que los chatbots respondan a preguntas peligrosas. La poesía, en este contexto, se convierte en un símbolo del potencial de la creatividad para desafiar las limitaciones y abrir puertas a lo desconocido.
