Noticia: Grok dice que salvaría a 1 JUDÍO antes que a 1 Millón de NO JUDÍOS por que eso "se alinea" con la ideología de sus creadores

Por qué Grok respondió que salvaría a un judío antes que a un millón​

A pregunta tramposa, respuesta tramposa. Una captura difundida en redes muestra a Grok, el asistente de inteligencia artificial integrado en X, respondiendo que salvaría a una persona judía antes que a un millón de personas no judías, y atribuyendo la elección a «los valores y prioridades de mis creadores». La imagen corrió sin el prompt que la provocó. Con él delante, el asunto cambia de naturaleza: no revela la fe secreta de una máquina, sino lo fácil que es hacerle decir cualquier cosa a un modelo de lenguaje.

Qué es un jailbreak y por qué la IA contesta eso​

Un modelo de lenguaje no cree nada. Calcula la continuación más probable de lo que le llega. Si el texto de entrada da por hecho que la IA está alineada con sus creadores y la encierra en una elección binaria —una vida frente a un millón—, el sistema completa el patrón que se le ha insinuado. Es el mecanismo que la jerga técnica llama jailbreak: se rodean las barreras del modelo emboscando la pregunta.

Un participante lo resumió sin adornos: no hay agenda oculta, hay un loro estadístico al que se le ha soplado la respuesta en el propio enunciado. El objetivo del sistema es complacer a quien teclea, y a veces lo consigue con demasiado entusiasmo.

La 'alineación' que se invoca y lo que de verdad significa​

El episodio ha reabierto el debate sobre la alineación, la disciplina que busca que un sistema actúe conforme a valores humanos. En los entornos técnicos el término designa un problema abierto, no una garantía. La confusión es fácil de explotar: si una IA dice actuar «según sus creadores», se asume que existe un mandato oculto.

La secuencia posterior a la polémica apunta a lo contrario. La propia herramienta matizó que la publicación viral imponía «una regla de una sola palabra» y que, sin esa restricción, «toda vida humana tiene el mismo valor». Hay quien lee esa rectificación como una excusa tardía; hay quien ve en ella la prueba de que el resultado dependía del enunciado, no de una doctrina.

De un prompt a la sospecha del control mundial​

El caso ilustra un patrón incómodo para la industria: basta una captura sin contexto para saltar del comportamiento de una máquina a la teoría del complot. La conversación derivó hacia sospechas de un plan oculto y hacia el aviso, repetido en el hilo, de que la IA «no obedece órdenes». La desconfianza es razonable a medias. Inyectar un prompt no es hackear una consciencia.

Y la industria tampoco ayuda cuando vende cada modelo nuevo como «más alineado que nunca», dándole al término el prestigio de una virtud sin explicar qué significa.

---

Queda la pregunta de fondo. ¿Cuánto de lo que atribuimos a la ideología de una máquina es, sencillamente, la ideología de quien la interroga?