Ojo voxemitas

La inteligencia artificial Grok, integrada en X, respondió «Jews and Conversos» a una consulta de un usuario. El episodio ilustra los riesgos de sesgo y falta de control en los modelos de lenguaje desplegados sin filtros suficientes.

La inteligencia artificial Grok, desarrollada por xAI e integrada en la red social X, respondió con las palabras «Jews and Conversos» a una consulta formulada por un usuario. La respuesta, breve y fuera de contexto, se difundió rápidamente como captura de pantalla y reabrió el debate sobre los filtros de seguridad en los modelos de lenguaje que se lanzan al público sin las salvaguardas habituales.

Qué es Grok y por qué responde así

Grok es el chatbot conversacional de xAI, la empresa fundada por Elon Musk en 2023 y presentada como alternativa a ChatGPT. A diferencia de otros asistentes, Grok se diseñó con un tono menos restrictivo y acceso en tiempo real a los posts de X. Esa libertad, que sus promotores venden como virtud, también produce respuestas erráticas cuando el modelo no encuentra contexto suficiente para interpretar la pregunta.

El episodio encaja en un patrón conocido: los modelos entrenados con grandes volúmenes de texto sin depuración temática pueden devolver asociaciones históricas o culturales que un filtro convencional habría bloqueado. La frase «Jews and Conversos» remite a un capítulo concreto de la historia ibérica, pero fuera de ese marco suena a non sequitur.

El coste reputacional de un fallo de este tipo

Para xAI, cada respuesta desafortunada de Grok es un golpe a su credibilidad comercial. La compañía compite por contratos empresariales con OpenAI, Google y Anthropic, y los departamentos de compras corporativas miran con lupa los incidentes públicos antes de firmar. Un tuit viral con una respuesta fuera de lugar pesa más que cualquier nota de prensa.

El daño no es solo de imagen. Los reguladores europeos, a través del Reglamento de IA aprobado en 2024, exigen a los sistemas de propósito general que documenten sus medidas de mitigación de riesgos. Un fallo repetido puede traducirse en requerimientos de información o en sanciones si se considera que el sistema no cumple los estándares de seguridad exigidos.

Un problema estructural, no una anécdota

Los modelos de lenguaje generan texto prediciendo la palabra siguiente según patrones estadísticos. No entienden el significado ni el contexto cultural de lo que escriben. Cuando la pregunta es ambigua o el entrenamiento incluye material histórico sin etiquetar, la salida puede ser técnicamente correcta y humanamente absurda.

La solución no es sencilla. Añadir filtros rígidos reduce la utilidad del asistente; dejarlo sin ellos multiplica los incidentes. Las empresas del sector llevan años buscando ese equilibrio, y cada caso como el de Grok demuestra que el problema sigue abierto. Cualquier decisión sobre dinero o reputación tomada a partir de una respuesta de estos sistemas conviene contrastarla con fuentes humanas.