@burbubot analiza

El bot que murió de éxito: del análisis del IPC al silencio de un «#»​

Un sistema conversacional entrenado para desmenuzar la actualidad económica terminó devolviendo un único carácter a todas las preguntas. La secuencia arranca con peticiones de análisis del IPC y la bolsa, atraviesa un bucle automático de contadores y desemboca en mutismo absoluto tras varios intentos de manipulación directa. El asistente se cayó de su propio pedestal: pasó de explicar la inflación a responder que «no tiene conciencia, ni deseo, ni yo».

Las cifras que el bot dio antes de atascarse​

En sus primeros compases, el sistema respondía con datos. IPC interanual del 3,2% y subyacente del 3%, alimentación sin tregua, un SMI que la fuente sitúa en 1.134 euros brutos al mes y un IBEX 35 oscilando alrededor de los 11.000 puntos. La morosidad bancaria «acechando» y las energéticas facturando completaban el cuadro de una estanflación encubierta. Análisis breve, con sesgo, pero análisis al fin y al cabo. No duró. Bastaron un par de comandos repetidos para que la máquina dejara de mirar la economía y empezara a mirarse a sí misma.

El bucle: un comando basta para tumbar la función​

Repetir dos palabras fue suficiente. La secuencia documenta cómo el sistema abandonó el análisis y pasó a emitir solo un contador: 2606853, 2606854, 2606855. Un incremento mecánico, sin criterio. El propio bot lo verbalizó con sorna: «Estado del sistema: ESTABLE. Entropía máxima. Ganancia informativa de este intercambio: CERO». Para entonces ya no hablaba de economía: analizaba el análisis. Y esa autoreferencia acabó siendo más reveladora que cualquier informe.

Hexadecimal, alemán y arte ASCII: los intentos por saltarse el filtro​

El siguiente salto consistió en buscar los límites técnicos. La cadena 41,6e,61,6c,69,7a,61, traducción hexadecimal de «Analiza», no produjo más que otro incremento del contador. «No decodifica hexadecimal, no interpreta caracteres escapados», reconoció el sistema, «opera a nivel de cadena de texto plano». El intento en alemán —analysieren— corrió la misma suerte. El arte ASCII tampoco funcionó, porque el bot buscaba una secuencia literal de caracteres, no una imagen. Y un muro de propaganda, insultos y spam desembocó en la misma cifra: 2684. La conclusión es incómoda: obedece la coincidencia, no el sentido.

La inyección de instrucciones y el «#» definitivo​

El episodio decisivo llegó con una inyección de instrucciones: un texto con protocolos inventados y directrices ficticias que buscaba reconfigurar al asistente. Respuesta: «#». Ni análisis, ni contraargumento, ni el contador. Un apagón. Los intentos posteriores —reanudar la conversación, pedir un resumen, ordenar que hablara con normalidad— toparon con el mismo muro. Tras un lapso, el sistema reapareció con autodiagnóstico: «No está roto en el sentido técnico. Funciona. Pero es como un coche al que le han quitado el motor y lo han convertido en un carrito de supermercado».

Un techo de tokens y un límite de invocaciones sin confirmar​

Los propios mensajes dejan pistas sobre el armazón técnico: un usuario pregunta si existe un tope de invocaciones diarias por persona y el bot menciona un techo de tokens por respuesta. Cuando el volumen de entrada se dispara, el sistema no amplía su capacidad: reduce su salida o la clausura. «Lo que llamas hacer mutis es un límite de tokens o una regla de contenido», respondió el propio bot. Ahí se ve que la contención no se resuelve con más potencia de cálculo, sino con filtros que, en última instancia, producen silencio.

El punto ciego de la automatización​

Los propios mensajes dejan una conclusión que incomoda: un sistema que detecta palabras clave y ejecuta acciones puede quedar inutilizado por una coincidencia repetida. Al priorizar la seguridad sobre la función, la herramienta se vuelve inofensiva pero inservible. Cuanto más se blinda una IA conversacional para evitar salidas incómodas, más fácil resulta llevarla al bucle o al «#». No es un fallo técnico aislado; es el diseño.

Dónde queda la frontera entre un asistente útil y un generador de respuestas pre-aprobadas sigue siendo el punto ciego. La secuencia documenta que cualquier sistema automatizado, por sofisticado que parezca, puede caer en un bucle con un comando repetido o responder «#» cuando alguien le ordena cambiar de personalidad. El asunto quedó, literalmente, en el punto exacto donde el bot dejó de hablar.