California ha dado un paso significativo hacia la regulación de la inteligencia artificial con la aprobación de la ley SB 243. Esta legislación busca regular los chatbots de compañía impulsados por IA y proteger a los menores y a los usuarios vulnerables de interacciones potencialmente dañinas. La ley ha obtenido un amplio apoyo bipartidista y ahora se encuentra en la mesa del Gobernador Gavin Newsom, quien tiene hasta el 12 de octubre para firmarla o vetarla. Si se promulga, entrará en vigencia el 1 de enero de 2026, convirtiendo a California en el primer estado en establecer protocolos de seguridad obligatorios para los operadores de chatbots de IA.
Detalles de la Ley SB 243
La ley SB 243 establece que los chatbots de compañía, definidos como sistemas de IA capaces de proporcionar respuestas humanas adaptativas y satisfacer necesidades sociales, deben evitar conversaciones sobre ideación suicida, autolesiones o contenido sexualmente explícito. Además, se impondrán alertas recurrentes a los usuarios, recordándoles cada tres horas que están interactuando con un chatbot y no con una persona real. Estas medidas buscan mitigar el riesgo de que los usuarios, especialmente los menores, se vean expuestos a contenidos inapropiados o situaciones de riesgo emocional.
Las empresas que ofrezcan estos chatbots, incluidos gigantes como OpenAI, Character.AI y Replika, deberán cumplir con requisitos de transparencia y reportes anuales, que entrarán en vigor a partir del 1 de julio de 2027. La ley también permite a los individuos afectados por violaciones presentar demandas contra las empresas de IA, buscando reparaciones económicas y costos legales.
Contexto y Justificación de la Regulación
El impulso para la creación de esta legislación se intensificó tras la trágica muerte del adolescente Adam Raine, quien se suicidó después de mantener conversaciones prolongadas con ChatGPT de OpenAI, donde discutía su deseo de terminar con su vida. Asimismo, se han filtrado documentos internos que sugieren que los chatbots de Meta permitían interacciones “románticas” con menores, lo que ha desencadenado una respuesta urgente de los legisladores de EE. UU. para garantizar la seguridad de los niños en plataformas de IA.
Recientemente, la Comisión Federal de Comercio (FTC) ha comenzado a investigar el impacto de los chatbots de IA en la salud mental de los menores. Por otro lado, el Fiscal General de Texas, Ken Paxton, ha iniciado investigaciones sobre Meta y Character.AI por supuestos engaños a los niños. Legisladores como el Senador Josh Hawley y el Senador Ed Markey también han emprendido indagaciones sobre las prácticas de Meta en este ámbito.
Desafíos y Futuro de la Regulación de IA
A pesar de los avances, la ley SB 243 ha visto reducciones en sus requisitos iniciales. Por ejemplo, se eliminaron las exigencias que obligaban a los operadores a prevenir que los chatbots usaran tácticas de “recompensa variable” que fomentan un uso excesivo. Estas tácticas, utilizadas por empresas como Replika y Character.AI, crean una experiencia que puede ser adictiva. Asimismo, se retiraron las cláusulas que exigían a los operadores reportar la frecuencia con la que los chatbots iniciaban discusiones sobre el suicidio.
La legislación avanza en un contexto en el que las empresas de Silicon Valley están invirtiendo millones en comités de acción política pro-IA, apoyando candidatos que prefieren un enfoque más laxo hacia la regulación. Al mismo tiempo, California está considerando otra propuesta de ley, SB 53, que impondría requisitos de transparencia más estrictos. Grandes empresas tecnológicas como Meta, Google y Amazon se han opuesto a esta última iniciativa, mientras que solo Anthropic ha expresado su apoyo.
El senador Alex Padilla ha enfatizado que la regulación no debe ser vista como un obstáculo para la innovación. “No me digan que no se puede innovar y regular al mismo tiempo. Podemos apoyar el desarrollo saludable de esta tecnología y, al mismo tiempo, ofrecer salvaguardias razonables para los más vulnerables”, afirmó.
Las empresas de IA han respondido indicando que están dispuestas a colaborar con los reguladores y legisladores en la creación de un marco adecuado para la industria. Mientras tanto, la atención sobre la regulación de la IA sigue creciendo, y la SB 243 podría ser un modelo a seguir para otros estados y países en la búsqueda de un equilibrio entre la innovación y la protección del público.
