En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, surge una pregunta crucial: ¿cómo influyen nuestras percepciones y creencias sobre la realidad en el desarrollo de los modelos de lenguaje? Un estudio reciente publicado en las actas de la Conferencia CHI 2025 destaca que no basta con evaluar valores; es fundamental incluir la ontología en la conversación sobre el sesgo en la IA.
¿Qué es la ontología en el contexto de la IA?
Para entender mejor este tema, primero necesitamos desglosar el concepto de ontología. Imagina un árbol: ¿qué ves cuando lo miras? ¿Y cómo te hace sentir? Estas preguntas nos llevan a cuestionar nuestras ideas más profundas sobre lo que realmente es un árbol. Por ejemplo, cuando le pides a un modelo de lenguaje, como ChatGPT, que genere una imagen de un árbol, lo que obtienes puede reflejar no solo su apariencia, sino también nuestras creencias sobre la naturaleza de la realidad.
Un caso interesante es el de la estudiante de doctorado Nava Haghighi, quien pidió a ChatGPT que le creara una imagen de un árbol. El resultado fue un tronco solitario, con ramas extendidas, pero ¡sorpresa! Sin raíces. Al cambiar su enfoque y solicitar una imagen desde su perspectiva cultural iraní, el modelo ofreció una representación estereotipada, nuevamente sin raíces. Solo al pedir que se representara un árbol con la idea de que “todo en el mundo está conectado”, se incluyeron las raíces. Este ejemplo resalta cómo nuestras suposiciones culturales afectan las respuestas generadas por la IA.
El sesgo en la IA: ¿cómo se relaciona con la ontología?
Los investigadores han descubierto que las suposiciones ontológicas están profundamente arraigadas en los sistemas de IA. Al analizar modelos prominentes como GPT-3.5 y Google Bard, se evidenció que tienden a categorizar las tradiciones filosóficas de manera desigual, otorgando un tratamiento preferencial a las filosofías occidentales, mientras que las no occidentales quedan reducidas a categorías amplias. Esto plantea un desafío importante: aunque hay una diversidad de perspectivas en los datos, los modelos actuales tienen dificultades para representarlas adecuadamente.
Además, los sistemas de IA a menudo evalúan las respuestas según criterios que limitan nuestra comprensión de la experiencia humana. Por ejemplo, un evento cotidiano puede ser considerado trivial en comparación con una ruptura amorosa, reflejando así una jerarquía que favorece ciertas experiencias culturales. Esta tendencia a simplificar la complejidad humana puede restringir la capacidad de la IA para captar y representar la diversidad de la existencia humana.
¿Qué nos depara el futuro en el desarrollo de la IA?
El estudio subraya la necesidad de que investigadores y desarrolladores de IA reconsideren su enfoque. En lugar de seguir construyendo sistemas que simulan definiciones estrechas de lo que significa ser humano, se sugiere crear modelos que amplíen nuestra comprensión de la humanidad. Esto implica aceptar la inconsistencia y la imperfección como parte integral de la experiencia humana.
A medida que la IA se incorpora en áreas como la educación y la atención médica, las limitaciones ontológicas de estos sistemas influirán en cómo las personas entienden conceptos fundamentales como la humanidad y la conexión. La advertencia de Haghighi es clara: si no se abordan estas cuestiones, los desarrollos actuales de la IA podrían codificar suposiciones dominantes como verdades universales, limitando la imaginación humana para las generaciones futuras.
Esta investigación nos invita a reflexionar no solo sobre qué realidades estamos creando o restringiendo con nuestras decisiones de diseño, sino también sobre cómo podemos desarrollar una IA que refleje mejor la rica diversidad de la experiencia humana en toda su complejidad. ¿Estamos listos para dar ese paso?
