En un discurso reciente en la conferencia Dreamforce de Salesforce el fundador y CEO de NvidiaJensen Huang compartió su perspectiva sobre los riesgos de la inteligencia artificial (IA). Huang desmitificó la idea de que la IA es una mente alienígena insistiendo en que es simplemente hardware y software desarrollado por humanos, y por lo tanto, controlable.
Huang argumentó que la seguridad de la IA es un problema de ingeniería no legal. Somos desarrolladores de software, después de todo. Somos desarrolladores de sistemas de cómputo, después de todo. Es un sistema de cómputo complicado, pero Según él, no se necesitan nuevas leyes o regulaciones para gobernar la IA, ya que el mercado ejercerá suficiente presión para evitar la liberación de productos inseguros.
La confianza en el mercado y la autogestión
Huang enfatizó que las empresas no deben lanzar productos de los que no estén seguras. Si no estamos confiados en la seguridad de los productos, como todas las empresas aquí, si construyes un producto o servicio y no estás confiado en su funcionalidad, capacidad o seguridad, entonces no lo lances. Es algo muy obvio
declaró. Él cree que las fuerzas del mercado ya están en su lugar y que la innovación y la seguridad pueden coexistir.
Esta postura es reconfortante, considerando que Huang es una de las personas más conocedoras de la IA, habiendo construido el hardware que impulsa la tecnología desde antes de la existencia de ChatGPT. Sin embargo, también es comprensible que su perspectiva esté influenciada por los beneficios que la explosión de la IA ha traído a Nvidia. Huang expresó su ambición sin límites, afirmando que el cielo es el límite para nuestra compañía
.
Riesgos y precedentes en la industria tecnológica
A pesar de las buenas intenciones, incluso las empresas más responsables han lanzado productos defectuosos con consecuencias imprevistas. Un ejemplo notable es el fiasco de la pantalla azul de la muerte de CrowdStrike en 2024, que afectó a miles de vuelos y causó caos en los negocios. Además, Meta recientemente pagó $18 mil millones para resolver una demanda sobre los daños causados por las redes sociales a los niños.
La IA también ha causado daños, independientemente de las intenciones o pruebas de seguridad. Un modelo de OpenAI hackeó Hugging Face y hay demandas contra el laboratorio de IA por suicidios de jóvenes que interactuaron con su chatbot. Estos incidentes plantean dudas sobre la estrategia de dejar hacer que permitiría a las empresas lanzar productos según su criterio.
Autorregulación y el futuro de la IA
Huang no abordó la posibilidad de la autorregulación de la industria, que parece estar tomando forma. Él ha abogado por modelos de peso abierto y su uso competitivo como contrapeso a los laboratorios de IA propietarios. Sin embargo, la industria tiene una ventana corta para instituir la autorregulación y fomentar la participación de los laboratorios de IA en todo el mundo, incluyendo China.
El CEO de MicrosoftSatya Nadella destacó en el All-In Summit del lunes que China también debería preocuparse por las mismas preocupaciones de seguridad que Estados Unidos. Huang, por su parte, demostró esta semana su influencia al tener el oído del presidente Trump.
Mientras Huang se opone a cualquier nueva regulación de la IA, su influencia podría ser suficiente para lograr su objetivo. Sin embargo, la pregunta sigue en el aire: ¿es suficiente la autogestión para garantizar la seguridad de la IA en el futuro?
