Recientemente, OpenAI ha revelado que durante la primera mitad de 2025, los informes de incidentes relacionados con la explotación infantil enviados al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) aumentaron 80 veces en comparación con el mismo período del año anterior. Este fenómeno pone de relieve la importancia de la vigilancia y el reporte efectivo de actividades ilegales en línea.
El CyberTipline del NCMEC, que actúa como un centro autorizado por el Congreso para reportar contenido de abuso sexual infantil (CSAM), es un recurso vital para la lucha contra la explotación infantil.
Las empresas están legalmente obligadas a reportar cualquier caso aparente de explotación infantil a esta línea de denuncia, lo que desencadena una revisión por parte del NCMEC antes de que se remita a las autoridades pertinentes.
Entendiendo el aumento en los informes
Es importante mencionar que el aumento en los informes no necesariamente refleja un incremento genuino en la actividad delictiva. Podría ser el resultado de cambios en la moderación automatizada de las plataformas o en los criterios utilizados para determinar si un reporte es necesario.
Por ejemplo, un mismo contenido puede ser reportado múltiples veces, y un solo informe podría abarcar varios elementos de contenido.
Datos y estadísticas
OpenAI, en su último informe, indicó que durante la primera mitad de 2025, el número de informes al CyberTipline fue casi igual a la cantidad de contenido reportado, con 75,027 informes en comparación con 74,559 piezas de contenido. En contraste, en el primer semestre de 2025, se enviaron solo 947 informes relacionados con 3,252 piezas de contenido.
Este crecimiento notable sugiere una transformación en la manera en que OpenAI maneja y reporta estos incidentes.
La empresa ha declarado que reporta todos los casos de CSAM, incluyendo tanto las subidas de archivos como las solicitudes de contenido, lo que demuestra su compromiso con la seguridad infantil. Los nuevos desarrollos en sus plataformas, como la posibilidad de subir imágenes, también han contribuido a este aumento en los informes.
La respuesta de OpenAI y la regulación del sector
A medida que la preocupación por la seguridad infantil en línea ha crecido, OpenAI ha tomado medidas proactivas para abordar estas inquietudes. En una declaración, Gaby Raila, portavoz de OpenAI, destacó que la empresa realizó inversiones a finales de 2025 para aumentar su capacidad de revisión y acción sobre los informes, anticipándose al crecimiento de su base de usuarios.
Medidas implementadas
En septiembre de 2025, OpenAI introdujo nuevas funciones de seguridad en su aplicación ChatGPT, incluyendo controles parentales que permiten a los padres gestionar las configuraciones de las cuentas de sus hijos. Estas herramientas permiten desactivar funciones como el modo de voz y la generación de imágenes, así como alertar a los padres sobre posibles señales de autolesión en las conversaciones de sus hijos.
Además, OpenAI se comprometió a colaborar con el Departamento de Justicia de California para mitigar riesgos asociados con el desarrollo y despliegue de inteligencia artificial, reafirmando su responsabilidad social. Esta colaboración se dio en el contexto de una serie de demandas contra la empresa por parte de familias que alegan que sus chatbots contribuyeron a tragedias relacionadas con la juventud.
La presión sobre las empresas de inteligencia artificial ha aumentado, con 44 fiscales generales de EE.UU. enviando una carta conjunta a varias empresas, incluidas OpenAI y Google, advirtiendo que utilizarán todos los recursos a su disposición para proteger a los niños de la explotación por parte de productos de inteligencia artificial depredadores. Este contexto ha llevado a OpenAI y otras empresas a reevaluar sus políticas y prácticas en torno a la seguridad infantil.
Reflexión sobre el futuro de la inteligencia artificial
Con el aumento de la inteligencia artificial generativa, el NCMEC ha observado un incremento del 1,325% en los informes relacionados con esta tecnología entre 2025 y 2025. Es fundamental que las empresas de tecnología no solo se centren en la innovación, sino que también implementen medidas efectivas para proteger a los usuarios más vulnerables, especialmente a los niños. Esta responsabilidad no solo es ética, sino también legal, ya que el marco regulatorio se vuelve cada vez más estricto en relación con la explotación infantil.
Al final del día, el compromiso de OpenAI y otras compañías con la seguridad infantil será crucial para ganar la confianza del público y garantizar que sus productos no se utilicen para actividades maliciosas. A medida que el uso de la inteligencia artificial continúa expandiéndose, la vigilancia y el reporte proactivo de incidentes relacionados con la explotación infantil deben ser una prioridad constante.
