Durante la primera mitad de 2025, OpenAI informó un aumento notable en los reportes de incidentes de explotación infantil, enviando 80 veces más informes al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) en comparación con el mismo periodo del año anterior. Este incremento ha suscitado un debate sobre las prácticas de seguridad en las plataformas de inteligencia artificial y la eficacia de sus sistemas de moderación.
El NCMEC gestiona su CyberTipline, un recurso autorizado por el Congreso para recopilar reportes de material de abuso sexual infantil (CSAM) y otras formas de explotación.
Las empresas están obligadas por ley a reportar cualquier indicio de explotación infantil a esta línea directa. Posteriormente, el NCMEC evalúa los casos y los dirige a las autoridades pertinentes para su investigación.
Un panorama de los informes de OpenAI
Los datos sobre los reportes del NCMEC pueden ser complejos de interpretar. Un aumento en la cantidad de informes no siempre indica un incremento en la actividad delictiva. Puede deberse a cambios en los algoritmos de moderación de contenido o en los criterios utilizados para determinar la necesidad de un reporte.
Por ejemplo, un solo contenido puede ser reportado varias veces, mientras que un informe puede abarcar múltiples piezas de contenido.
Detalles sobre el aumento significativo
OpenAI ha adoptado un enfoque más transparente, proporcionando cifras sobre los informes y el contenido relacionado. Según Gaby Raila, portavoz de la empresa, las inversiones realizadas hacia finales de 2025 han permitido a OpenAI mejorar su capacidad de revisión de informes. Esta estrategia se ha visto impulsada por el crecimiento en el uso de sus productos, incluida la posibilidad de subir imágenes en su aplicación ChatGPT, que ha ganado popularidad.
En los primeros seis meses de 2025, OpenAI envió aproximadamente 75,027 informes a la CyberTipline, correspondientes a 74,559 piezas de contenido. Esto representa un aumento significativo en comparación con los 947 informes sobre 3,252 piezas de contenido del primer semestre de 2024. Este crecimiento subraya un cambio notable en el enfoque de OpenAI hacia la detección y el reporte de contenido potencialmente dañino.
El impacto de la inteligencia artificial generativa
El incremento en los informes de OpenAI también refleja una tendencia observada en el NCMEC. Se ha notado que los reportes relacionados con la inteligencia artificial generativa aumentaron un asombroso 1,325% entre 2024 y 2025. Si bien los datos de 2025 aún no han sido publicados, otros laboratorios de IA, como Google, también han compartido estadísticas de sus informes a NCMEC, aunque sin especificar qué porcentaje corresponde a actividades relacionadas con la IA.
Acciones proactivas de OpenAI
El año pasado, OpenAI enfrentó un creciente escrutinio sobre la seguridad infantil. Varios fiscales generales de los Estados Unidos enviaron una carta advirtiendo a empresas como OpenAI y Meta sobre su responsabilidad en la protección de los menores. En respuesta, OpenAI ha implementado nuevas herramientas enfocadas en la seguridad, incluyendo controles parentales en su aplicación ChatGPT, que permiten a los padres gestionar la configuración de las cuentas de sus hijos.
Además, OpenAI se comprometió a alertar a los padres si las conversaciones de sus hijos revelaran señales de autolesionismo y, si fuera necesario, notificar a las autoridades sobre amenazas inminentes a la vida. Este enfoque proactivo busca mitigar los riesgos asociados con el uso de la inteligencia artificial por parte de los adolescentes.
Más recientemente, OpenAI firmó un acuerdo con el Departamento de Justicia de California para seguir implementando medidas que reduzcan los riesgos relacionados con el desarrollo de su tecnología. También introdujo su Hoja de Ruta de Seguridad Juvenil, que detalla cómo la compañía continúa mejorando su capacidad para identificar y reportar material de abuso infantil, reafirmando su compromiso con la seguridad de los menores.
