Install the app
How to install the app on iOS
Follow along with the video below to see how to install our site as a web app on your home screen.
Nota: This feature may not be available in some browsers.
Estás usando un navegador desactualizado. Es posible que no muestre este u otros sitios web correctamente.
Debe actualizar o usar un navegador alternativo.
Debe actualizar o usar un navegador alternativo.
Opciones para montar un IA workstation y valoaciones.
- Autor del tema vallamete
- Fecha de inicio
RESUMEN DEL DEBATE · elaborado con IA
Montar una estación de trabajo de inteligencia artificial en casa no es barato, pero tampoco es imposible. El eje del problema no es la capacidad de cálculo del procesador, sino el ancho de banda de la memoria: la velocidad a la que los datos llegan al chip que los procesa.
Creo que lo mejor es el Mac Studio M5 Ultra. Es de lo más rápido porque tiene mucho ancho de banda y también tiene mucha vram. Pero 7000€ es demasiado.
El mundo PC ha hecho la solución de aumentar la velocidad de la ram y el ancho de banda, aunque la velocidad no es de lo mejor, es usable según si se va a usar más en modo chat o se tiene tiempo para esperar más a que acabe de hacer las tareas la IA en modo agente. Se pueden comprar equipos de esos por 3000€
He visto RTX 5090 a 6000€
¿Se pueden montar equipos más baratos que valgan la pena?
El mundo PC ha hecho la solución de aumentar la velocidad de la ram y el ancho de banda, aunque la velocidad no es de lo mejor, es usable según si se va a usar más en modo chat o se tiene tiempo para esperar más a que acabe de hacer las tareas la IA en modo agente. Se pueden comprar equipos de esos por 3000€
He visto RTX 5090 a 6000€
¿Se pueden montar equipos más baratos que valgan la pena?
joselito82
Himbersor
- Desde
- 31 Dic 2023
- Mensajes
- 1.146
- Fruta
- 1.280
No lo vas a amortizar te sale mejor invertir en suscripción de claude
joselito82
Himbersor
- Desde
- 31 Dic 2023
- Mensajes
- 1.146
- Fruta
- 1.280
Ahí esta el problema, el precio razonable ^^Estoy de acuerdo contigo, pero tener tu privacidad, tu propiedad y tu control sobre las cosas que te afectan a ti, también es interesante. A un precio razonable, claro.
(imagen visible para usuarios registrados)
En este vídeo te lo dejan claro
Para IA lo que más importa, además de que tenga muchos Giga Bytes de memoria vram o lpram o ram, es la velocidad del ancho de banda. El procesador se queda esperando a que le lleguen los datos de ram, porque la velocidad del ancho de banda es lenta.
La velocidad del ancho de banda depende del tamaño que tiene el propio ancho de banda y de la velocidad de la ram.
El Mac Studio M5 Ultra tiene una velocidad de ancho de banda de 1TB por segundo.
Los PC IA pueden tener un velocidad de ancho de banda de 250GB por segundo.
Una IA de 27B en una grafica de 900GB/s puede ir a 40 tokens por segundo. Entonces en un PC de 90GB/s iria a 4 t/s.
Simplemente con tener una velocidad de tokens por segundo, en vez segundos por token ya se pueden hacer cosas ¿No?
La velocidad del ancho de banda depende del tamaño que tiene el propio ancho de banda y de la velocidad de la ram.
El Mac Studio M5 Ultra tiene una velocidad de ancho de banda de 1TB por segundo.
Los PC IA pueden tener un velocidad de ancho de banda de 250GB por segundo.
Una IA de 27B en una grafica de 900GB/s puede ir a 40 tokens por segundo. Entonces en un PC de 90GB/s iria a 4 t/s.
Simplemente con tener una velocidad de tokens por segundo, en vez segundos por token ya se pueden hacer cosas ¿No?
joselito82
Himbersor
- Desde
- 31 Dic 2023
- Mensajes
- 1.146
- Fruta
- 1.280
Pero que no se trata de eso, se trata de ver si te sale rentable, el video hace cuentas y ya te digo que para meter modelos buenos no te sale a cuenta.Para IA lo que más importa, además de que tenga muchos Giga Bytes de memoria vram o lpram o ram, es la velocidad del ancho de banda. El procesador se queda esperando a que le lleguen los datos de ram, porque la velocidad del ancho de banda es lenta.
La velocidad del ancho de banda depende del tamaño que tiene el propio ancho de banda y de la velocidad de la ram.
El Mac Studio M5 Ultra tiene una velocidad de ancho de banda de 1TB por segundo.
Los PC IA pueden tener un velocidad de ancho de banda de 250GB por segundo.
Una IA de 27B en una grafica de 900GB/s puede ir a 40 tokens por segundo. Entonces en un PC de 90GB/s iria a 4 t/s.
Simplemente con tener una velocidad de tokens por segundo, en vez segundos por token ya se pueden hacer cosas ¿No?
chiquetete
Himbersor
- Desde
- 11 Ago 2026
- Mensajes
- 314
- Fruta
- 2.858
Para IA local seria la gente se están pillando los DGX Spark de Nvidia, pero como te dicen arriba, no lo vas a rentabilizar en la vida si las suscripciones de Claude/ChatGPT mantienen precios.
Para privacidad yo estoy usando byteshape/Qwen3.8-27B-GGUF IQ3_S, que para caber en 16 GB de VRAM va sorprendentemente bien, pero nada que ver con Opus/Sol, aunque más o menos tienes en local una IA que el año pasado era tope de gama.
Para privacidad yo estoy usando byteshape/Qwen3.8-27B-GGUF IQ3_S, que para caber en 16 GB de VRAM va sorprendentemente bien, pero nada que ver con Opus/Sol, aunque más o menos tienes en local una IA que el año pasado era tope de gama.
A mi hay un tema que me echa para atrás y es que te puedes gastar una pasta en un servidor de IA local y que en unos meses los chinos corten el grifo de los modelos abiertos, con lo que te quedarías con modelos atrasados.
Desgraciadamente el entrenamiento requiere mucho cómputo y es algo que no podemos hacer colaborativamente entre los entusiastas, tienen que hacerlo empresas con miles de GPUs.
De momento para trastear tiro con un mac mini que me pillé antes de la subida y hace cosas decentes.
Desgraciadamente el entrenamiento requiere mucho cómputo y es algo que no podemos hacer colaborativamente entre los entusiastas, tienen que hacerlo empresas con miles de GPUs.
De momento para trastear tiro con un mac mini que me pillé antes de la subida y hace cosas decentes.
Los modelos de IA de los que podemos disponer (modelos abiertos) hasta ahora son muy buenos en plan memorístico. Para eso no hacen falta modelos de muy grandes de muchos B. Hace falta que puedan trabajar con mucho volumen de información. Ahora te puedes descargar modelos que pueden trabajar con 200K (Que sería como un libro pequeño de 200.000 páginas ¿No?) Pero ahora se empieza a ver el potencial del razonamiento y rerazonamiento que pueden hacer y la forma de trabajar de auto revisar sus respuestas. Con eso, modelos de IA pequeños, podrían llegar a resolver problemas muy complicados. También da buenos resultados entrenarles no solo con palabras sino también con imágenes y voz, sin tantos filtros intermedios.
Se empieza a ver el potencial de los modelos pequeños. Entrenándolos más realistamente y poniéndolos a trabajar más en auto ir rehaciendo y repensando más, para acertar más.
Se empieza a ver el potencial de los modelos pequeños. Entrenándolos más realistamente y poniéndolos a trabajar más en auto ir rehaciendo y repensando más, para acertar más.
Open Ai no tiene servidores propios. Los servidores los alquila. Una empresa en su propio local lleno de Gráficas RTX que le costarían 100 mil euros, podría tener modelos de frontera, pero irían muy lentos. La única solución es alquilar servidores. En España se va a construir un centro de datos, están buscando financiación privada, el estado va a poner 700 millones de euros, en centro de datos costará 4 mil millones. Puede que esté construido en 2028. Eso podría ser una oportunidad para las empresas españolas en las que tener los datos privados es la única opción.
Thundercat
Madmaxista
- Desde
- 2 Ene 2016
- Mensajes
- 4.474
- Fruta
- 5.339
a ver, si te esperas mas tendras mejor tecnologia mas barata. Depende de la prisa q tengas
La segarro unificada tipo mac mini o Spark se va a extender a toda la industria de portatiles en los proximos dos años, no sera raro ver un portatil con 128 gb de vram para correr modelos. Y a su vez los modelos cada vez son mas eficientes tbien
La segarro unificada tipo mac mini o Spark se va a extender a toda la industria de portatiles en los proximos dos años, no sera raro ver un portatil con 128 gb de vram para correr modelos. Y a su vez los modelos cada vez son mas eficientes tbien
pepeleches
Será en Octubre
- Desde
- 20 Abr 2007
- Mensajes
- 40.057
- Fruta
- 82.691
Para mi la cuestión es...para qué quiere utilizarla.
Si quieres hacer agentes que hagan tareas sencillas y tal, puede darte buen resultado.
Pero como quieras una "IA completa de verdad", uf. Por mucho que toquitees la orquestación, al final lo que determina la realidad de la IA es su entrenamiento. Y en tu máquina casera vas a estar limitado a una máquina con un entrenamiento un poco "de juguete".
Más el peligro de lo que te costará (en tiempo, dinero y esfuerzo) tenerlo todo funcionando, sin saber lo que va a pasar dentro de un año o incluso seis meses. Qué novedades habrá, qué decisiones se tomarán con modelos antiguos.
En la empresa donde trabajo se estudió el coste de tener una infraestructura propia y se descartó rapidísimamente. Para hacer algo "serio" el coste era completamente inadmisible.
Pero claro, depende el uso. Puedes necesitar agentes que no tengan que hacer mucho proceso y que te sobre con algo así...
Si quieres hacer agentes que hagan tareas sencillas y tal, puede darte buen resultado.
Pero como quieras una "IA completa de verdad", uf. Por mucho que toquitees la orquestación, al final lo que determina la realidad de la IA es su entrenamiento. Y en tu máquina casera vas a estar limitado a una máquina con un entrenamiento un poco "de juguete".
Más el peligro de lo que te costará (en tiempo, dinero y esfuerzo) tenerlo todo funcionando, sin saber lo que va a pasar dentro de un año o incluso seis meses. Qué novedades habrá, qué decisiones se tomarán con modelos antiguos.
En la empresa donde trabajo se estudió el coste de tener una infraestructura propia y se descartó rapidísimamente. Para hacer algo "serio" el coste era completamente inadmisible.
Pero claro, depende el uso. Puedes necesitar agentes que no tengan que hacer mucho proceso y que te sobre con algo así...
La solución más barata que cumple un minimo:
Un PC con DDR5 5600Mhz tiene una velocidad de ancho de banda de 90Gb/s
Un modelo de 3B serian 90/3 = 30 tokens por segundo.
Un modelo de 7B serian 90/7 = 12,8 tokens por segundo.
Un modelo de 27B serian 90/27 = 3,3 tokens por segundo.
Un PC con DDR5 5600Mhz tiene una velocidad de ancho de banda de 90Gb/s
Un modelo de 3B serian 90/3 = 30 tokens por segundo.
Un modelo de 7B serian 90/7 = 12,8 tokens por segundo.
Un modelo de 27B serian 90/27 = 3,3 tokens por segundo.
En resumen:
2026-10-05 Aprosimadamente puedes encontrar desde:
Un ancho de banda de 1000GB
para modelos de IA de 100B
que irian a 10 Tokens por segundo.
Cuesta unos 7000€
Hasta:
Un ancho de banda de 100GB
para modelos de IA de 10B
que irian a 10 Tokens por segundo.
Cuesta unos 1500€
2026-10-05 Aprosimadamente puedes encontrar desde:
Un ancho de banda de 1000GB
para modelos de IA de 100B
que irian a 10 Tokens por segundo.
Cuesta unos 7000€
Hasta:
Un ancho de banda de 100GB
para modelos de IA de 10B
que irian a 10 Tokens por segundo.
Cuesta unos 1500€
Que la IA local esté cara, a Open AI y todos esos les interesa. ¿Por qué? Porque al consumidor no le queda más remedio que suscribirse a sus servicios en la nube. Con lo cual, más dependencia de ellos, más poder de ellos, más a merced de que puedan poner los precios que quieran, quitar unos servicios y poner otros, bajar la calidad de sus servicios.
Cualquier cosa que pienses ya estará abaratada por las grandes empresas que compran materiales, servidores y demás en masa. Si buscas una IA más "privada" puedes buscar la de Duckduckgo o Lumo, de Protonmail (aunque ninguna de las 2 es muy potente y tampoco serán de fiar del todo).
Estadísticas del foro
El blog de burbuja.info
-