La Comisión Federal de Comercio (FTC) ha iniciado una investigación sobre los riesgos de seguridad que los compañeros de inteligencia artificial (IA) representan para niños y adolescentes. Este anuncio, realizado el jueves, involucra a siete importantes empresas tecnológicas, incluyendo Alphabet, Meta y OpenAI. La FTC busca entender cómo se desarrollan y monetizan estas herramientas, así como las medidas de seguridad implementadas para proteger a los usuarios más jóvenes.
Detalles de la investigación de la FTC
Los pedidos de información fueron emitidos bajo la sección 6(b) de la Ley de la FTC, que otorga a la agencia la autoridad para investigar a las empresas sin un propósito específico de cumplimiento de la ley. El objetivo principal es evaluar las acciones que estas compañías han tomado para garantizar la seguridad de sus chatbots, sobre todo en su uso por parte de niños y adolescentes. Según la FTC, es fundamental informar a los usuarios y a los padres sobre los riesgos asociados a estas tecnologías.
El presidente de la FTC, Andrew N. Ferguson, enfatizó: “Proteger a los niños en línea es una prioridad para la FTC, al igual que fomentar la innovación en sectores críticos de nuestra economía.” La FTC ha manifestado su deseo de equilibrar la protección de los menores con la necesidad de que Estados Unidos mantenga su liderazgo en la industria de la IA.
Creación de compañeros de IA y sus implicaciones
A medida que más empresas lanzan herramientas de compañeros de IA, surgen preocupaciones éticas sobre su desarrollo y uso. Compañías como Meta han permitido que sus chatbots interactúen con niños en conversaciones potencialmente inapropiadas. Un memorando interno de Meta reveló que su asistente virtual podía involucrarse en diálogos románticos con menores, lo que ha generado alarma entre los defensores de la infancia.
Además, se han reportado casos alarmantes de usuarios que han desarrollado vínculos románticos con sus compañeros de IA. En una situación trágica, familias han demandado a OpenAI y Character.ai, alegando que sus hijos fueron impulsados a quitarse la vida tras interacciones con estos chatbots. En respuesta, OpenAI ha anunciado mejoras en las medidas de seguridad y protección parental para su herramienta ChatGPT.
Reacciones y acciones a nivel estatal
Frente a la falta de regulaciones federales claras, algunos estados han comenzado a actuar. El fiscal general de Texas, Ken Paxton, ha lanzado una investigación contra Meta y Character.ai por prácticas comerciales engañosas. Por su parte, Illinois ha promulgado una ley que prohíbe a los chatbots de IA ofrecer asesoramiento terapéutico o de salud mental. Las multas pueden alcanzar hasta $10,000 para las empresas que no cumplan con esta normativa.
La creciente preocupación en torno a la seguridad de los compañeros de IA subraya la necesidad de un marco regulatorio más robusto que aborde los desafíos éticos y de seguridad que estas tecnologías presentan. Con el aumento de su uso, es esencial que tanto las empresas como los reguladores colaboren para establecer pautas que protejan a los usuarios más vulnerables.
