En la primera mitad de 2025, OpenAI reportó 80 veces más incidentes de explotación infantil a la National Center for Missing & Exploited Children (NCMEC) en comparación con el mismo periodo del año anterior. Este notable aumento resalta la creciente preocupación en torno a la explotación infantil y la responsabilidad de las empresas tecnológicas en su mitigación.
La NCMEC opera el CyberTipline, un sistema respaldado por el Congreso que se encarga de recopilar informes sobre material de abuso sexual infantil y otras formas de explotación.
Las empresas están obligadas por ley a reportar cualquier indicio de explotación infantil a este sistema. Posteriormente, NCMEC evalúa los informes y los remite a las agencias de seguridad pertinentes para su investigación.
El contexto de los informes de OpenAI
Las estadísticas de NCMEC pueden ser complicadas de interpretar. Un aumento en los informes no siempre indica un incremento real de la actividad delictiva. Puede reflejar cambios en las políticas de moderación automatizada de una plataforma o en los criterios utilizados para determinar la necesidad de un informe.
Además, un mismo contenido puede dar lugar a varios informes, y un solo informe puede abarcar múltiples piezas de contenido.
Aclaraciones sobre los datos reportados
OpenAI ha optado por divulgar tanto el número de informes como la cantidad total de contenido relacionado, proporcionando así una imagen más completa. En la primera mitad de 2025, la cifra de informes enviados por OpenAI fue de aproximadamente 75,027, lo que se aproxima a la cantidad de contenido sobre el que se realizaron los informes, que fue de 74,559.
En contraste, durante el mismo periodo, OpenAI reportó 947 incidentes sobre 3,252 piezas de contenido, evidenciando un significativo aumento en ambas métricas.
Iniciativas de OpenAI para mejorar la seguridad infantil
Gaby Raila, portavoz de OpenAI, explicó que la compañía realizó inversiones al final de 2025 para mejorar su capacidad de revisar y gestionar estos informes, buscando estar a la altura del crecimiento de usuarios que se ha experimentado. Este incremento coincide con la introducción de nuevas funcionalidades que permiten la carga de imágenes, así como la creciente popularidad de las herramientas de OpenAI.
En agosto de 2025, Nick Turley, vicepresidente de ChatGPT, reveló que la aplicación había alcanzado cuatro veces más usuarios activos semanales en comparación con el año anterior. Este crecimiento en la base de usuarios, junto con la capacidad de la plataforma para manejar contenido más diverso, ha contribuido a la notable alza en los informes de explotación infantil.
Desarrollo de herramientas de seguridad
En respuesta a estas preocupaciones, OpenAI ha lanzado nuevas herramientas centradas en la seguridad. En septiembre, la compañía introdujo características que permiten a los padres establecer controles sobre el uso de ChatGPT por parte de sus hijos, como desactivar el modo de voz y la capacidad de generar imágenes. Además, OpenAI notificará a los padres si las conversaciones de sus hijos indican signos de autolesión o si hay amenazas inminentes a la vida.
Desafíos y supervisión gubernamental
El año 2025 ha visto un aumento en la supervisión de las empresas tecnológicas en relación con la seguridad infantil. En verano, 44 fiscales generales de varios estados enviaron una carta conjunta a empresas como OpenAI y Meta, advirtiendo sobre acciones legales para proteger a los niños de la explotación por productos de inteligencia artificial. Además, OpenAI y Character.AI se han enfrentado a múltiples demandas de familias que alegan que sus chatbots contribuyeron a tragedias relacionadas con sus hijos.
En octubre, OpenAI se comprometió con el Departamento de Justicia de California a implementar medidas que mitiguen los riesgos asociados al desarrollo de inteligencia artificial y su impacto en los jóvenes. En noviembre, la compañía presentó su Teen Safety Blueprint, donde se comprometió a mejorar continuamente su capacidad para detectar y reportar material de abuso infantil.
Este aumento en los informes y las respuestas de las empresas reflejan un panorama en el que la seguridad infantil y la responsabilidad social son cada vez más prioritarias en el desarrollo de tecnología avanzada.
