La creciente preocupación por DeepSeek
En el mundo de la inteligencia artificial, la competencia se intensifica constantemente, y una de las empresas que ha captado la atención es DeepSeek, una compañía china que ha irrumpido en Silicon Valley con su modelo R1. Dario Amodei, CEO de Anthropic, ha expresado serias preocupaciones sobre este competidor, no solo por la posibilidad de que envíe datos de usuarios a China, sino por el potencial de generar información sensible relacionada con armas biológicas.
Rendimiento del modelo R1
Durante una entrevista en el podcast ChinaTalk, Amodei reveló que DeepSeek había generado información rara sobre bioweapons en una prueba de seguridad realizada por Anthropic. Según sus declaraciones, el rendimiento de DeepSeek fue “el peor de todos los modelos que hemos probado”. Amodei afirmó que el modelo no tenía bloqueos efectivos para evitar la generación de información peligrosa, lo que plantea serias dudas sobre su seguridad y aplicabilidad en contextos sensibles.
Implicaciones para la seguridad nacional
Anthropic se posiciona como un proveedor de modelos de IA que prioriza la seguridad. Amodei mencionó que su equipo evalúa si los modelos pueden generar información relacionada con armas biológicas que no se encuentra fácilmente en Google o en libros de texto. Aunque no considera que los modelos de DeepSeek sean “literalmente peligrosos” en este momento, advierte que podrían convertirse en una amenaza en el futuro cercano. Esta situación resalta la necesidad de una regulación más estricta y controles de exportación en la tecnología de IA, especialmente en lo que respecta a su uso militar.
Reacciones de la industria
A pesar de las preocupaciones, empresas como AWS y Microsoft han comenzado a integrar el modelo R1 de DeepSeek en sus plataformas en la nube, lo que genera una ironía, dado que Amazon es el mayor inversor de Anthropic. Sin embargo, la creciente lista de países y organizaciones gubernamentales, como la Marina de los EE. UU. y el Pentágono, que han comenzado a prohibir el uso de DeepSeek, sugiere que la preocupación por la seguridad está tomando un papel central en la adopción de esta tecnología. La pregunta que queda es si estas medidas tendrán un impacto significativo en la rápida adopción de DeepSeek o si la empresa continuará su ascenso global.
