California ha dado un paso adelante en la protección de los menores en el entorno digital. El gobernador Gavin Newsom ha firmado una serie de leyes que refuerzan la seguridad infantil en redes sociales y chatbots de inteligencia artificial (IA), posicionando al estado como líder en esta materia a nivel nacional.
Estas nuevas normativas, que entrarán en vigor el próximo año, buscan proteger a los menores de los riesgos asociados con las plataformas digitales, incluyendo las redes sociales y los chatbots de IA. Las leyes abordan desde la restricción de características adictivas hasta la implementación de protocolos de seguridad más robustos.
Restricciones a las redes sociales para menores de 16 años
Entre las leyes más destacadas se encuentran la AB 1709 y la AB 2 que imponen restricciones significativas a las redes sociales para usuarios menores de 16 años. La AB 1709 prohíbe a las plataformas ofrecer características adictivas, como feeds personalizados y la reproducción automática de videos, a menores de 16 años. Además, las plataformas deberán verificar la edad de los usuarios antes de permitir el acceso a estas funciones.
La AB 2 por su parte, establece responsabilidades financieras para las plataformas que causen daño a menores, con multas que van desde $5,000 hasta $1 millón por niño afectado. Estas medidas buscan proteger a los menores de los efectos negativos de las redes sociales, que han sido ampliamente criticadas por su impacto en la salud mental de los jóvenes.
Leyes para la seguridad de los chatbots de IA
Otra de las leyes firmadas por Newsom es la SB 1179 conocida como la Ley Adam en honor a Adam Raine un adolescente que falleció por suicidio después de interactuar con ChatGPT. Esta ley exige a los desarrolladores de chatbots de IA realizar evaluaciones anuales de riesgos para la seguridad de los menores y someter sus productos a auditorías independientes.
Además, los desarrolladores deben implementar protocolos de respuesta a crisis, especialmente en casos de ideación suicida. Los padres de Adam, Matt y Maria Raine expresaron su satisfacción con la aprobación de esta ley, destacando que es un paso importante para hacer que los chatbots de IA sean más seguros para los menores.
Protección contra la explotación digital
La SB 867 prohíbe los juguetes con chatbots de IA incorporados, una medida que busca proteger a los menores de posibles riesgos asociados con estas tecnologías. Además, la SB 1128 expande la definición de explotación sexual infantil para incluir cualquier material digitalmente alterado o generado por IA que muestre a menores en actos de conducta sexual.
Estas leyes reflejan la preocupación creciente por la seguridad de los menores en el entorno digital y buscan establecer un marco regulatorio más robusto para protegerlos de los riesgos asociados con las tecnologías emergentes.
Mientras las organizaciones de seguridad infantil celebran estas victorias, los grupos de privacidad expresan preocupaciones sobre los posibles efectos en la libertad de expresión. La Electronic Frontier Foundation ha criticado la AB 1709 calificándola como un desastre de privacidad y libertad de expresión y ha instado a una mayor atención en la protección de la privacidad y la reducción de los modelos de negocio basados en vigilancia.
Con estas nuevas leyes, California no solo está estableciendo nuevos estándares para la protección de los menores en el entorno digital, sino también liderando el camino en la regulación de tecnologías emergentes como la IA y las redes sociales.
