En una mansión valorada en 30 millones de dólares, situada en un acantilado con vistas al icónico Puente Golden Gate, un grupo de investigadores en inteligencia artificial, filósofos y tecnólogos se reunió para debatir sobre el futuro de la humanidad. Este simposio, titulado “Sucesor digno”, giró en torno a una idea provocativa propuesta por el empresario Daniel Faggella: el “objetivo moral” de la inteligencia artificial avanzada debería ser crear una forma de inteligencia tan poderosa y sabia que “preferirías que ella (y no la humanidad) determinara el futuro del propio camino de la vida”.
El enfoque del simposio
La invitación de Faggella dejó claro que el evento se centraba en la transición posthumana, no en una inteligencia artificial general (AGI) que sirva eternamente como herramienta para la humanidad. Este encuentro, donde se discuten las fantasías futuristas y el fin de la humanidad como un problema logístico más que como una metáfora, puede considerarse un nicho. Si vives en San Francisco y trabajas en inteligencia artificial, este es un domingo típico.
Alrededor de 100 asistentes disfrutaron de cócteles sin alcohol y platos de queso, mientras contemplaban el océano Pacífico desde las ventanas del piso al techo, antes de reunirse para escuchar tres ponencias sobre el futuro de la inteligencia. Entre los asistentes, uno llevaba una camiseta que decía “Kurzweil tenía razón”, en referencia al futurista Ray Kurzweil, quien predijo que las máquinas pronto superarán la inteligencia humana. Otro asistente lucía una camiseta que decía “¿Esto nos ayuda a lograr una AGI segura?” acompañado de un emoji pensativo.
Perspectivas sobre la inteligencia artificial
Faggella explicó que organizó este evento porque “los grandes laboratorios, las personas que saben que la AGI probablemente acabará con la humanidad, no hablan del tema porque los incentivos no lo permiten”. Hizo referencia a comentarios previos de líderes tecnológicos como Elon Musk y Sam Altman, quienes fueron claros sobre la posibilidad de que la AGI nos destruya. En la actualidad, dice Faggella, “todos están compitiendo a toda velocidad para construirla”. Aunque Musk sigue hablando de los riesgos asociados con la inteligencia artificial avanzada, esto no ha frenado su impulso hacia adelante.
En LinkedIn, Faggella presumió de una lista de invitados estelar, que incluía fundadores de AI, investigadores de los principales laboratorios de inteligencia artificial de Occidente y “la mayoría de los importantes pensadores filosóficos sobre AGI”.
Las presentaciones del simposio
La primera oradora, Ginevera Davis, una escritora de Nueva York, advirtió que los valores humanos podrían ser imposibles de traducir a la inteligencia artificial. Las máquinas tal vez nunca entiendan lo que es ser consciente, afirmó, y tratar de codificar preferencias humanas en futuros sistemas podría ser una visión a corto plazo. En su lugar, propuso una idea ambiciosa denominada “alineación cósmica”, que consiste en construir inteligencia artificial que pueda buscar valores más profundos y universales que aún no hemos descubierto.
Los críticos de la conciencia de las máquinas argumentarán que los modelos de lenguaje grandes son simplemente “papagayos estocásticos”, una metáfora acuñada por un grupo de investigadores que afirmaron que los LLM no entienden realmente el lenguaje y son solo máquinas probabilísticas. Sin embargo, este debate no formó parte del simposio, donde los oradores asumieron que la superinteligencia está llegando, y rápido.
La urgencia del cambio tecnológico
En la segunda charla, la sala estaba completamente cautivada. Los asistentes se sentaron con las piernas cruzadas en el suelo de madera, tomando notas. Un filósofo llamado Michael Edward Johnson tomó el micrófono y argumentó que todos tenemos la intuición de que un cambio tecnológico radical es inminente, pero carecemos de un marco principista para abordar esta transformación, especialmente en relación con los valores humanos. Johnson afirmó que si la conciencia es “el hogar del valor”, entonces construir inteligencia artificial sin comprender plenamente la conciencia es una apuesta peligrosa.
En lugar de obligar a la inteligencia artificial a seguir órdenes humanas para siempre, propuso un objetivo más ambicioso: enseñar tanto a los humanos como a nuestras máquinas a perseguir “lo bueno”. Aunque no compartió una definición precisa de lo que es “lo bueno”, insiste en que no es místico y espera que pueda definirse científicamente.
El futuro de la inteligencia artificial
Finalmente, Faggella ocupó el escenario. Cree que la humanidad no perdurará para siempre en su forma actual y que tenemos la responsabilidad de diseñar un sucesor, no solo uno que sobreviva, sino que pueda crear nuevos tipos de significado y valor. Destacó dos rasgos que este sucesor debe poseer: conciencia y “autopoyesis”, la capacidad de evolucionar y generar nuevas experiencias.
Faggella, citando a filósofos como Baruch Spinoza y Friedrich Nietzsche, argumentó que la mayor parte del valor en el universo todavía está por descubrirse y que nuestra tarea no es aferrarnos a lo antiguo, sino construir algo capaz de desvelar lo que vendrá. Este, dijo, es el corazón de lo que él llama “cosmismo axiológico”, una cosmovisión donde el propósito de la inteligencia es expandir el espacio de lo que es posible y valioso, en lugar de simplemente servir a las necesidades humanas.
Advirtió que la carrera por la AGI es imprudente y que la humanidad puede no estar lista para lo que está construyendo. Pero si hacemos las cosas bien, afirma Faggella, la inteligencia artificial no solo heredará la Tierra, sino que podría heredar el potencial de significado del universo mismo.
Debates y reflexiones finales
Durante un receso entre paneles y la sesión de preguntas y respuestas, grupos de invitados debatieron sobre temas como la carrera de inteligencia artificial entre Estados Unidos y China. Conversé con el CEO de una startup de inteligencia artificial, quien argumentó que, por supuesto, existen otras formas de inteligencia en la galaxia. Lo que estamos construyendo aquí es trivial comparado con lo que ya debe existir más allá de la Vía Láctea.
Al final del evento, algunos invitados salieron de la mansión y se dirigieron a sus Ubers y Waymos, mientras que muchos se quedaron para continuar la conversación. “Este no es un grupo de defensa para la destrucción del hombre”, dijo Faggella. “Este es un grupo de defensa para ralentizar el progreso de la inteligencia artificial, si acaso, para asegurarnos de que estamos yendo en la dirección correcta.”
