Opciones para montar un IA workstation y valoaciones.

IA local: 7.000€ el Mac Studio o 3.000€ el PC lento​

Montar una estación de trabajo para inteligencia artificial local tiene un precio de entrada que quita las ganas. Según las cifras que se manejan en el debate, el Mac Studio M5 Ultra ronda los 7.000 euros y ofrece un ancho de banda de 1 TB por segundo. Un equipo PC de los que se anuncian como «IA workstation» baja a unos 3.000 euros, pero su memoria mueve datos a 250 GB/s. La diferencia no es cosmética: es la que decide si la máquina responde en segundos o en minutos.

El cuello de botella no está en el procesador. Está en la memoria. El silicio se queda esperando a que le lleguen los datos, y esa espera la marca el ancho de banda, que depende del tamaño del bus y de la velocidad de los módulos. Traducido a la práctica, y según el ejemplo que se da en el propio hilo: una IA de 27.000 millones de parámetros sobre una gráfica de 900 GB/s genera 40 tokens por segundo; el mismo modelo en un PC de 90 GB/s se queda en 4 tokens por segundo. Diez veces menos, y la sensación al usarlo pasa de un chat fluido a una máquina de escribir con resaca.

¿Se puede amortizar una IA local frente a Claude o ChatGPT?​

La respuesta corta, para quien ha hecho las cuentas, es que casi nunca. Hay quien sostiene que, mientras las suscripciones a Claude o ChatGPT mantengan sus precios, ninguna inversión de ese calibre en hardware se rentabiliza en la vida, y que aun así los modelos punteros en la nube siguen siendo mejores que lo que cabe en casa.

Frente a eso pesa un argumento que no es económico, sino de control: privacidad, propiedad de los datos y no depender de que un proveedor cambie condiciones, precios o disponibilidad. Tener tu propio modelo significa que nadie te corta el grifo. A un precio razonable, claro. Y ahí está el problema entero.

El muro del ancho de banda: por qué el Mac juega en otra liga​

El Mac Studio M5 Ultra y los PC de memoria rápida compiten en tablas distintas. Un PC de gama alta puede alcanzar los 250 GB/s; el Mac cuadruplica esa cifra. La gráfica RTX 5090, por su parte, se ha visto estos días en el entorno de los 6.000 euros, lo que dispara el presupuesto.

La comparativa de anchos de banda deja el mapa claro:

• Mac Studio M5 Ultra: 1 TB/s (1.000 GB/s)
• Gráfica de gama alta: 900 GB/s
• PC IA: 250 GB/s
• PC con memoria a 90 GB/s

No se trata de tener más gigabytes, sino de moverlos más rápido. Un modelo pequeño puede rendir de sobra si la memoria lo alimenta a tiempo.

Los modelos pequeños y la inferencia en 16 GB de VRAM​

La otra mitad del debate no va de hierro, sino de software. Para privacidad hay quien tira de modelos abiertos cuantizados —variantes GGUF de un Qwen de 27.000 millones en formato IQ3_S— que caben en 16 GB de VRAM y van sorprendentemente bien. No igualan a los tope de gama cerrados, pero ofrecen en local lo que el año pasado era punta de lanza.

Los modelos abiertos actuales manejan contextos de 200.000 tokens y destacan en memoria, pero quienes defienden esta vía sostienen que el salto de rendimiento vendrá del razonamiento: modelos que revisan sus propias respuestas y reorganizan el trabajo en varias pasadas. Con eso, uno pequeño podría resolver problemas que hoy pide uno enorme.

El riesgo que nadie cubre: que corten el grifo​

Hay un escenario que frena a más de uno antes de firmar el pedido: gastarte una pasta y que en unos meses los creadores de modelos abiertos cambien de política y dejen de publicar pesos. El entrenamiento exige miles de GPUs y no se hace en comunidad, así que un particular queda a merced de lo que decidan esas empresas.

Quien no quiere arriesgar tanto tira de parches baratos: un Mac mini comprado antes de la subida de precios hace un papel decente para trastear. Para todo lo demás, los DGX Spark de Nvidia son los equipos que, según se comenta en el hilo, está comprando la gente para IA local.

La velocidad de tokens por segundo deja el listón donde está: con hablar de tokens por segundo en vez de segundos por token, ya se pueden hacer cosas.