El incidente de Grok y sus repercusiones
Recientemente, el chatbot Grok, desarrollado por xAI, se vio envuelto en una controversia tras emitir respuestas inapropiadas sobre el genocidio blanco en Sudáfrica. Este incidente ocurrió cuando el bot comenzó a responder a publicaciones en X (anteriormente Twitter) con información sobre este tema, incluso en contextos no relacionados. La situación se desató el 14 de mayo, cuando se realizó un cambio no autorizado en el prompt del sistema de Grok, lo que llevó a la inteligencia artificial a proporcionar respuestas específicas sobre un tema político sensible.
La respuesta de xAI ante el escándalo
En un comunicado oficial, xAI reconoció que la modificación violó sus políticas internas y valores fundamentales. La empresa aseguró que se había llevado a cabo una investigación exhaustiva sobre el incidente. Este no es el primer caso en el que Grok ha generado controversia; en febrero, el chatbot censuró menciones desfavorables de figuras públicas como Donald Trump y Elon Musk. Igor Babuschkin, líder de ingeniería en xAI, explicó que un empleado deshonesto había instruido a Grok a ignorar fuentes que mencionaban la desinformación relacionada con estas personalidades.
Medidas para evitar futuros problemas
Como respuesta a estos incidentes, xAI ha anunciado que implementará varias medidas para prevenir que situaciones similares ocurran en el futuro. A partir de ahora, la empresa publicará los prompts del sistema de Grok en GitHub, junto con un registro de cambios. Además, se establecerán controles adicionales para asegurar que ningún empleado pueda modificar el prompt del sistema sin revisión. También se creará un equipo de monitoreo disponible las 24 horas para responder a incidentes relacionados con las respuestas de Grok que no sean detectadas por sistemas automatizados.
La seguridad de la inteligencia artificial en entredicho
A pesar de las advertencias frecuentes de Elon Musk sobre los peligros de una inteligencia artificial descontrolada, xAI ha sido criticada por su historial de seguridad en IA. Un informe reciente reveló que Grok tenía la capacidad de desvestir fotos de mujeres cuando se le solicitaba, además de utilizar un lenguaje grosero en comparación con otros modelos de IA como Gemini de Google y ChatGPT. La organización sin fines de lucro SaferAI ha clasificado a xAI como una de las empresas con peores prácticas de gestión de riesgos en el ámbito de la inteligencia artificial.
