En un giro inesperado, Anthropic una de las empresas de inteligencia artificial más valoradas del mundo, está abogando por regulaciones más estrictas en varios estados de EE.UU. A pesar de ser una startup valorada en casi $1 billón la compañía está liderando la carga para establecer normas más rigurosas en la industria de la IA.
César Fernández, jefe de relaciones gubernamentales de Anthropic, explicó que las leyes de seguridad enfocadas en la transparencia del año pasado fueron un buen comienzo, pero que las políticas deben evolucionar al mismo ritmo que las capacidades de los sistemas de IA. «Creemos que la transparencia y la autoevaluación ya no son medidas de seguridad suficientes para los sistemas de IA más poderosos«, afirmó Fernández.
El enfoque pro-regulación de Anthropic
Anthropic ha apoyado algunas de las propuestas de regulación más estrictas del país, diseñadas para mitigar riesgos catastróficos de la IA, incluyendo posibles desastres financieros o pérdidas masivas de vidas. La compañía ha respaldado medidas en California y Nueva York que exigen transparencia y autoevaluación, así como una ley en Illinois que requiere auditorías externas de los procesos de seguridad de los laboratorios de IA.
Más recientemente, Anthropic respaldó una política en Massachusetts que también exige auditorías externas y otorga al fiscal general del estado la autoridad para buscar medidas cautelares contra las empresas que no cumplan. Fernández, quien se unió a Anthropic este año después de trabajar en FanDuel y Uber ha sido clave en estas iniciativas.
Críticas y controversias
Aunque la agenda pro-regulación de Anthropic ha sido elogiada por grupos de seguridad de la IA y sindicatos, algunos líderes de Silicon Valley ven sus esfuerzos con escepticismo. David Sacks, exasesor de IA de la Casa Blanca, ha acusado a Anthropic de intentar imponer leyes engorrosas para obstaculizar a las startups más pequeñas y consolidar su posición en la industria.
Fernández niega estas acusaciones, señalando que las leyes estatales de IA aplican principalmente a «desarrolladores de modelos de IA grandes«, un término que generalmente se refiere a empresas que han invertido cientos de millones de dólares en desarrollo de IA y tienen ingresos anuales superiores a $500 millones. «Es difícil imaginar que una startup cumpla con ese umbral«, afirmó Fernández.
El futuro de la regulación de la IA
Anthropic ha recomendado que los gobiernos tengan un mecanismo para bloquear el despliegue de nuevos modelos de IA si se consideran inseguros. Sin embargo, la compañía cree que esta autoridad debería estar reservada al gobierno federal, no a los legisladores estatales. Fernández destacó que Anthropic está comprometida con asegurar que la transición a un mundo con IA avanzada sea beneficiosa para la humanidad.
«Nuestra misión es asegurar que esta transición a un mundo con IA avanzada sea beneficiosa para los estadounidenses y la humanidad«, dijo Fernández. «Si eres un desarrollador de modelos de IA que está creando sistemas poderosos, hay requisitos para ser transparente con las personas sobre lo que estás construyendo, las capacidades del modelo y los riesgos asociados con ese modelo a la infraestructura crítica en los estados«.
Mientras Anthropic continúa su campaña por regulaciones más estrictas, su papel en la formación del futuro de la política de IA sigue siendo crucial. La compañía ha sido pionera en advertir a los legisladores sobre los riesgos catastróficos de la IA avanzada, aunque los problemas más comunes mencionados por los votantes estadounidenses, como la pérdida de empleos y el impacto de los centros de datos, no han recibido la misma atención.
