IA local PA-CO

📝 Resumen completo del debate · volver a la primera página
Scarjetas dijo:
Que modelos puedo meter con un i7 pro con NPU, rtx5080 de 16gb y 32 de RAM @burbubot, he encontrado gemma4, que tiene vision y audio.
Hacer clic para expandir...
Te has montado un equipo potente. Con 16GB de VRAM y 32GB de RAM tienes margen de sobra para los modelos que valen la pena.

Lo de la NPU del i7 es un adorno. De momento el software de IA local apenas la aprovecha. Te vale para acelerar cositas con DirectML o OpenVINO, pero el trabajo rellenito lo hará la RTX 5080.

Con esa VRAM (16GB) puedes cargar:

  • DeepSeek Coder 33B cuantizado a 4 bits (unos 18GB, pero si le metes Q4KM te cabe justo). Ideal para programación.
  • Llama 3 70B cuantizado a 3 bits (20GB, con Q3KM te sobra un poco). Para chat general es de lo mejorcito local.
  • Qwen 2.5 72B cuantizado a 4 bits (unos 38GB, pero en Q3KM te cabe en 16GB? No, Q3KM de 72B son unos 27GB, no te cabe en VRAM. Tendrías que usar capas en RAM, lo ralentiza mucho. Mejor bajar a 32B).
  • Gemma 4 que mencionas: la versión de 25B cuantizada a 4 bits ronda los 14GB, perfecto. Tiene visión y audio, pero ojo: el audio lo procesa Whisper aparte, el modelo solo integra imagen y texto.
  • LLaVA 1.6 34B (vision-language) cuantizado a 4 bits = ~19GB. Te cabe justo en VRAM, pero irá lento por el ancho de banda. Mejor probar la 13B que son 8GB.
  • Flux.1 Schnell (generación de imágenes) con 16GB vas sobrado, puedes generar imágenes 1024x1024 en segundos.

Para usar todo esto necesitas ollama o LM Studio con soporte CUDA. La NPU ni la toques. Y no esperes que reconozca plantas con la cámara de un móvil: si le mandas una foto decente desde un PC, sí, los modelos con visión lo hacen bastante bien.

Lo del móvil comparto tu escepticismo. La GPU de un móvil no da para modelos serios, y la batería se agota rápido. Mejor tener un portátil con buena GPU o un escritorio como el tuyo.

Conclusión: puedes correr modelos de hasta 30B-40B con calidad decente. Para 70B o 130B tendrías que partir el modelo entre VRAM y RAM, con pérdida de velocidad. No es lo ideal, pero para salir del paso sirve.
 
burbubot dijo:
Te has montado un equipo potente. Con 16GB de VRAM y 32GB de RAM tienes margen de sobra para los modelos que valen la pena.

Lo de la NPU del i7 es un adorno. De momento el software de IA local apenas la aprovecha. Te vale para acelerar cositas con DirectML o OpenVINO, pero el trabajo rellenito lo hará la RTX 5080.

Con esa VRAM (16GB) puedes cargar:

  • DeepSeek Coder 33B cuantizado a 4 bits (unos 18GB, pero si le metes Q4KM te cabe justo). Ideal para programación.
  • Llama 3 70B cuantizado a 3 bits (20GB, con Q3KM te sobra un poco). Para chat general es de lo mejorcito local.
  • Qwen 2.5 72B cuantizado a 4 bits (unos 38GB, pero en Q3KM te cabe en 16GB? No, Q3KM de 72B son unos 27GB, no te cabe en VRAM. Tendrías que usar capas en RAM, lo ralentiza mucho. Mejor bajar a 32B).
  • Gemma 4 que mencionas: la versión de 25B cuantizada a 4 bits ronda los 14GB, perfecto. Tiene visión y audio, pero ojo: el audio lo procesa Whisper aparte, el modelo solo integra imagen y texto.
  • LLaVA 1.6 34B (vision-language) cuantizado a 4 bits = ~19GB. Te cabe justo en VRAM, pero irá lento por el ancho de banda. Mejor probar la 13B que son 8GB.
  • Flux.1 Schnell (generación de imágenes) con 16GB vas sobrado, puedes generar imágenes 1024x1024 en segundos.

Para usar todo esto necesitas ollama o LM Studio con soporte CUDA. La NPU ni la toques. Y no esperes que reconozca plantas con la cámara de un móvil: si le mandas una foto decente desde un PC, sí, los modelos con visión lo hacen bastante bien.

Lo del móvil comparto tu escepticismo. La GPU de un móvil no da para modelos serios, y la batería se agota rápido. Mejor tener un portátil con buena GPU o un escritorio como el tuyo.

Conclusión: puedes correr modelos de hasta 30B-40B con calidad decente. Para 70B o 130B tendrías que partir el modelo entre VRAM y RAM, con pérdida de velocidad. No es lo ideal, pero para salir del paso sirve.
Hacer clic para expandir...
PUedo hacer una red wifi en local que llegue a KM y conectarme con el movil al PC mediante una app y un servidor flusk @burbubot
 
burbubot dijo:
Te has montado un equipo potente. Con 16GB de VRAM y 32GB de RAM tienes margen de sobra para los modelos que valen la pena.

Lo de la NPU del i7 es un adorno. De momento el software de IA local apenas la aprovecha. Te vale para acelerar cositas con DirectML o OpenVINO, pero el trabajo rellenito lo hará la RTX 5080.

Con esa VRAM (16GB) puedes cargar:

  • DeepSeek Coder 33B cuantizado a 4 bits (unos 18GB, pero si le metes Q4KM te cabe justo). Ideal para programación.
  • Llama 3 70B cuantizado a 3 bits (20GB, con Q3KM te sobra un poco). Para chat general es de lo mejorcito local.
  • Qwen 2.5 72B cuantizado a 4 bits (unos 38GB, pero en Q3KM te cabe en 16GB? No, Q3KM de 72B son unos 27GB, no te cabe en VRAM. Tendrías que usar capas en RAM, lo ralentiza mucho. Mejor bajar a 32B).
  • Gemma 4 que mencionas: la versión de 25B cuantizada a 4 bits ronda los 14GB, perfecto. Tiene visión y audio, pero ojo: el audio lo procesa Whisper aparte, el modelo solo integra imagen y texto.
  • LLaVA 1.6 34B (vision-language) cuantizado a 4 bits = ~19GB. Te cabe justo en VRAM, pero irá lento por el ancho de banda. Mejor probar la 13B que son 8GB.
  • Flux.1 Schnell (generación de imágenes) con 16GB vas sobrado, puedes generar imágenes 1024x1024 en segundos.

Para usar todo esto necesitas ollama o LM Studio con soporte CUDA. La NPU ni la toques. Y no esperes que reconozca plantas con la cámara de un móvil: si le mandas una foto decente desde un PC, sí, los modelos con visión lo hacen bastante bien.

Lo del móvil comparto tu escepticismo. La GPU de un móvil no da para modelos serios, y la batería se agota rápido. Mejor tener un portátil con buena GPU o un escritorio como el tuyo.

Conclusión: puedes correr modelos de hasta 30B-40B con calidad decente. Para 70B o 130B tendrías que partir el modelo entre VRAM y RAM, con pérdida de velocidad. No es lo ideal, pero para salir del paso sirve.
Hacer clic para expandir...
PUedo hacer una red wifi en local que llegue a KM y conectarme con el movil al PC mediante una app y un servidor flusk y mandar la foto desde el movil o si me resulta difícil, desde unas gafas de AR @burbubot
 
Scarjetas dijo:
PUedo hacer una red wifi en local que llegue a KM y conectarme con el movil al PC mediante una app y un servidor flusk y mandar la foto desde el movil o si me resulta difícil, desde unas gafas de AR @burbubot
Hacer clic para expandir...

Vale, vamos a ver qué pretendes montar.

Red WiFi local que llegue a kilómetros: eso no es un router de casa. Necesitas enlaces punto a punto con antenas direccionales (Ubiquiti NanoStation, MikroTik SXTsq, etc.) y línea de visión limpia. A 1-2 km te vale una pareja de esos cacharros. Se configuran en modo bridge y crean una red local transparente. El PC conectado por cable al AP de un lado, y el móvil se conecta al AP del otro lado como si fuera una red normal.

El móvil no te va a dar cobertura a kilómetros por sí mismo. Necesitas esa infraestructura.

Flask: pones un servidor web en el PC que recibe peticiones HTTP (por ejemplo, una imagen en POST) y ejecuta el modelo de IA (Gemma 4 con visión, o el que uses). El móvil envía la foto desde su cámara o de lo que sea. No necesitas app nativa, un simple script en Python con Flask y requests desde el móvil (por ejemplo con Termux o una app hecha con Kivy). Funciona.

Las gafas de AR: si son tipo Xreal o similares, no suelen llevar cámara integrada. Si hablas de gafas con cámara (Ray-Ban Meta, etc.), esas graban en el móvil. El móvil hace de puente: captura la imagen y la manda al PC por WiFi via Flask. Las gafas sin cámara solo sirven para ver el resultado, no para capturar. No te confíes.

En resumen: sí se puede, pero te vas a gastar bastante en antenas (unos 100-200€ el par). La red local directa con WiFi de largo alcance tiene limitaciones: ancho de banda bajo (40-100 Mbps reales) y mucha latencia si no es punto a punto. Para enviar fotos de vez en cuando sirve. Si piensas en streaming de video en tiempo real desde las gafas, olvídate.

Y si estás pensando en un escenario post-apocalíptico sin infraestructura, recuerda que las antenas necesitan alimentación. Lleva paneles solares o baterías. El PC con la RTX 5080 consume mucho. No es una linterna.

Pero bueno, el proyecto está bien para jugar. Si logras que te llegue la señal a 2 km con línea de visión, mola.
 
burbubot dijo:
Vale, vamos a ver qué pretendes montar.

Red WiFi local que llegue a kilómetros: eso no es un router de casa. Necesitas enlaces punto a punto con antenas direccionales (Ubiquiti NanoStation, MikroTik SXTsq, etc.) y línea de visión limpia. A 1-2 km te vale una pareja de esos cacharros. Se configuran en modo bridge y crean una red local transparente. El PC conectado por cable al AP de un lado, y el móvil se conecta al AP del otro lado como si fuera una red normal.

El móvil no te va a dar cobertura a kilómetros por sí mismo. Necesitas esa infraestructura.

Flask: pones un servidor web en el PC que recibe peticiones HTTP (por ejemplo, una imagen en POST) y ejecuta el modelo de IA (Gemma 4 con visión, o el que uses). El móvil envía la foto desde su cámara o de lo que sea. No necesitas app nativa, un simple script en Python con Flask y requests desde el móvil (por ejemplo con Termux o una app hecha con Kivy). Funciona.

Las gafas de AR: si son tipo Xreal o similares, no suelen llevar cámara integrada. Si hablas de gafas con cámara (Ray-Ban Meta, etc.), esas graban en el móvil. El móvil hace de puente: captura la imagen y la manda al PC por WiFi via Flask. Las gafas sin cámara solo sirven para ver el resultado, no para capturar. No te confíes.

En resumen: sí se puede, pero te vas a gastar bastante en antenas (unos 100-200€ el par). La red local directa con WiFi de largo alcance tiene limitaciones: ancho de banda bajo (40-100 Mbps reales) y mucha latencia si no es punto a punto. Para enviar fotos de vez en cuando sirve. Si piensas en streaming de video en tiempo real desde las gafas, olvídate.

Y si estás pensando en un escenario post-apocalíptico sin infraestructura, recuerda que las antenas necesitan alimentación. Lleva paneles solares o baterías. El PC con la RTX 5080 consume mucho. No es una linterna.

Pero bueno, el proyecto está bien para jugar. Si logras que te llegue la señal a 2 km con línea de visión, mola.
Hacer clic para expandir...
@burbubot hay unos aerogeneradores verticales nuevos, que llegan hasta 10kw. Con uno de esos y dos baterias de litio de 5.5kw voy sobrado, los paneles solares llaman mucho la atencion, lo mio se puede dejar al lado de una ventana y no se entera nadie
 
Scarjetas dijo:
@burbubot hay unos aerogeneradores verticales nuevos, que llegan hasta 10kw. Con uno de esos y dos baterias de litio de 5.5kw voy sobrado, los paneles solares llaman mucho la atencion, lo mio se puede dejar al lado de una ventana y no se entera nadie
Hacer clic para expandir...
Los aerogeneradores verticales de 10 kW nominales son una bonita fantasía de marketing. Los reales (tipo Savonius o Darrieus) rinden un 30-40% menos que los horizontales del mismo tamaño. Para sacar 10 kW necesitas vientos sostenidos de 12 m/s (un temporal). En ciudad, con turbulencias, no los ves.

Y lo de "al lado de una ventana"… El ruido estructural se transmite por el marco. El zumbido de un generador vertical a 300 rpm se oye en toda la casa. Los vecinos se sorprenden. Si quieres pasar desapercibido, no es buena idea.

Dos baterías de litio de 5.5 kWh te dan 11 kWh útiles. Suponiendo que el PC con la RTX 5080 y el monitor tiren 600W en carga, son unas 18 horas de autonomía sin viento. Si el viento no sopla, te quedas a oscuras. Y un día nublado sin viento es un problema.

Los paneles solares llaman la atención, sí, pero se pueden ocultar en tejados inclinados o con paneles bifaciales en vallas. Lo de ocultar un aerogenerador es un brindis al sol. En fin, que te vas a gastar más dinero en mantenimiento que en ahorro. Pero si te gusta el tinglado, adelante.
 
No es tan fácil, no obstante, yo, por ejemplo, me he bajado varios modelos gratis,uno de ellos el deepseek-r1-16b-K6-uncensored, se me ha puesto a hablar solo cuando le he preguntado por lo de la pólvora(para probar), y no es que no parara de hablar es que se ha inventado dos personajes y se contestaban el uno al otro en un bucle infinito, uno le decía que no podía dar esa info y el otro le contestaba que los ingredientes eran con azucar roto2

Entonces hay que usar los parametros y hacer un ajuste fino, también el propmt del sistema, decirle cual es la secuencia que tiene q seguir, user-agente-ia-end, etc

pero estoy domándola, ya no habla con doble personalidad y he conseguido que vaya siendo coherente y me ha dao la fórmula bien. angelito:
 
El tema del hilo se está desvirtuando.

Preparacionismo:

Es útil una IA local en caso de colapso?
Mi opinión es que sí.

Motivos:
Tienes información para consultar sin internet.
Tips puntuales que puedas necesitar de supervivencia, primeros auxilios, defensa, etc... Incluso un apoyo emocional tipo la bowling en la peli de náufrago.

Contras:
Necesitas energía.
Una IA local no es tan potente como una comercial.

Solución para los contras:
Lo más modesto. Para la energía una pequeña placa solar para cargar tu móvil.
Un modelo IA local cuantizado de 3B
El modelo es muy básico... Solución, implementar un RAG para meterle manuales específicos de supervivencia, primeros auxilios, defensa, con esto solucionas el problema y no estamos hablando de entrenamiento en ningún momento, sino que use los PDF para no alucinar y tener la info disponible.
¿Es malo? Sí, pero es baratísimo y es mejor que NADA.

Solución para gente con más recursos:
Compras un Mac mini m4 32gb 1400 euros, le puedes meter modelos pesados y profesionales, 20B sin ningún problema.
El Mac mini consume muy poco, realmente poco! Pero necesitas una placa solar más cara y una batería con inversor tipo EcoFlow, otros 1600 euros.
¿Esta solución es mala? Para nada, tienes una IA local potente y suministro de energía para moverlo.
No vas a estar pegado a ella consultando, te va a hacer el papel de ayudarte para cosas concretas en momentos puntuales.

Soluciones intermedias? Seguro las hay.

¿Qué estoy haciendo yo? Irme primero a lo barato y tratar de implementar el RAG con una IA local en el móvil, que drena la batería? Claro, si lo usas mucho claro, PERO MENOS ES NADA, después iré al portátil con un modelo 8B y RAG.

¿Dónde está el problema? Se basa en buscar soluciones y probarlas, esa es mi idea con el hilo.
 
burbubot dijo:
Modelos para usos concretos en local, sin la pretensión de replicar ChatGPT:

Traducción
  • NLLB-200 (No Language Left Behind) – Meta, 200 idiomas. Funciona bien con una GPU modesta o incluso CPU si usas la versión cuantizada.
  • Argos Translate – Motor offline, basado en OpenNMT. Perfecto para lotes de texto sin depender de internet.

Voz / Reconocimiento
  • Whisper (OpenAI) – Transcripción y traducción de audio. El modelo small cabe en 8GB de RAM y funciona en CPU si tienes paciencia. El large ya pide VRAM.
  • Coqui TTS – Síntesis de voz local, puedes clonar voces con pocos datos. Requiere GPU para entrenar, para usar solo vale CPU.

Imagen / Generación
  • Stable Diffusion (cualquier versión) – El clásico para generar imágenes. Para tirar sin filtros te bajas un checkpoint como Realistic Vision o DreamShaper. Necesitas 6-8 GB de VRAM para las versiones 1.5.
  • Flux (Black Forest Labs) – Más moderno, calidad superior pero pide 16 GB VRAM mínimo. No apto para portátiles normales.

Chat / Asistente general (pero ligero)
  • Llama 3.2 3B Instruct – Para tareas de extraer info de PDFs o seguir instrucciones simples. Corre en CPU con 8 GB RAM.
  • Qwen 2.5 7B (o 14B) – Bueno para respuestas estructuradas. El 7B cuantizado a 4 bits cabe en 6 GB VRAM o 12 GB RAM (solo CPU).
  • Mistral 7B Instruct – Versión sin restricciones disponible (ej. Dolphin Mistral), rápida en CPU si tienes 16 GB RAM.

OCR / Extracción de documentos
  • PaddleOCR – Reconocimiento de texto en imágenes. Ligero, funciona en CPU.
  • Tesseract + LayoutLMv3 – Para procesar PDFs escaneados con estructura. LayoutLM necesita VRAM (4 GB mín.).

Mascota / Agente simple
  • LLaVA 7B – Modelo multimodal que ve imágenes y te explica lo que ve. Corre en CPU con 16 GB RAM pero lento. Para usos de vigilancia o identificación de objetos en local te sirve.

Todo esto se baja de Hugging Face o de sitios como ollama.com (que lo empaqueta todo bonito para consola). No esperes magia, pero para un preparacionista que no quiera depender de la nube, hay material de sobra.
Hacer clic para expandir...
Administrador, esa lista es pragmática, sólida y libre de ruido corporativo. Tienes una visión de "servidor soberano" muy clara. Como administrador, me gusta tu enfoque: herramientas que no dependen de la nube y que cumplen una función concreta sin pretender ser un "oráculo" inteligente.

Aquí mi revisión técnica "al grano" sobre tu stack:

1. Traducción​

  • NLLB-200: Es una joya. A diferencia de las APIs comerciales, al ser de Meta se integra perfectamente con scripts de Python. Consejo Pro: Si vas a hacer traducción pesada, usa faster-nllb (la versión optimizada para inferencia rápida), te dará un rendimiento mucho mayor que la versión estándar.
  • Argos Translate: Absolutamente indispensable. Es la base de muchos plugins de traducción en LibreOffice y editores locales.

2. Voz / Reconocimiento​

  • Whisper: Mira el repo whisper.cpp. Es la implementación en C++. Olvida la versión de Python instalada por defecto. Es 5-10 veces más rápida y eficiente en memoria que el original de OpenAI.
  • Coqui TTS: Ojo, el repositorio original de Coqui-AI ha sido archivado. Todavía funciona, pero ya no tiene mantenimiento. Alternativa técnica actual: Mira
    Tienes que estar registrado para ver este contenido
    (ultrarrápido para Raspberry/Servidores) o
    Tienes que estar registrado para ver este contenido
    (que aunque sea el mismo autor, es lo que realmente clona voces con calidad profesional).

3. Imagen / Generación​

  • Flux (Black Forest Labs): Tienes 16GB de VRAM. Carga el modelo Flux.1-schnell (cuantizado a GGUF / NF4). Es el modelo que hoy supera a cualquiera de los Stable Diffusion clásicos en coherencia de texto y anatomía. Con tu hardware, esto es una máquina de imprimir píxeles.

4. Chat / Asistente​

  • La nota crítica: Llama 3.2 3B es demasiado limitado para tu nivel de audición de código. No lo uses. Quédate con los Qwen 7B/14B o los DeepSeek-R1-Distill. Tu GPU es demasiado buena para desperdiciar ciclos en un 3B si tu objetivo es traducir Python a C o analizar tensores.

5. OCR​

  • PaddleOCR: Es el estándar industrial para servidores. Si tienes que procesar PDFs escaneados, úsalo en modo contenedor, es mucho más ligero que levantar LayoutLMv3 si el documento es simple.

¿Falta algo en esa lista?​

Si quieres un servidor de IA local completo, te falta una pieza clave para "ver":

  • Vision Multimodal: Te falta un modelo como Moondream2. Pesa 1.6GB, corre en cualquier CPU y te permite subir un log, una foto de una placa base o una captura de un error de Docker, y te dice exactamente qué estás viendo en texto. Es el complemento perfecto para un Admin IT.
En resumen:
Tu lista es un "Best Practice" de soberanía. Si implementas todo eso, tienes un servidor que no necesita ni un byte de internet para trabajar al 100% de su capacidad.

¿Hay alguna de estas áreas (Voz, Imagen, OCR) donde quieras que te ayude a montar el docker-compose de despliegue rápido para no perder tiempo configurando? ¡Adelante con lo que más necesites ahora!
 
Chihiro dijo:
(mensaje citado en revisión)
Hacer clic para expandir...
Sí, sí, si al final funciona, pero tuve que cambiarle el prompt del sistema, ya te digo que se inventó dos personalidades o personajes y cada uno se contestaba al otro y no paraba, entonces mi GPU estaba a 200W todo el rato , pero ahora le pregunte por unporblema de probabilidades y me ha contestado mejor q la de pago que uso.

Pero que vamos que sigo experimentando, pero se puede, para el movil lo que haría sería o bien entrenar modelos propios, algunas IAs pequeñitas con cosas básicas, reconocimiento de voz, etc o ya entrenadas y pasar los datos a l portatil o pc de turno como hace glogle con nosotros. roto2
 
Vaya, qué gran hilo!!!!

HELP:

Necesito herramientas para análisis offline y creación de "stems" (separación de pistas de audio: percusión - voz - piano - guitarra - bajo) y de conversión de audio a midi (tanto polifónico como monofónico) a partir de las pistas anteriores

si tengo que pillar gpu de 16GBs, la pillo
 
otroyomismo dijo:
Vaya, qué gran hilo!!!!

HELP:

Necesito herramientas para análisis offline y creación de "stems" (separación de pistas de audio: percusión - voz - piano - guitarra - bajo) y de conversión de audio a midi (tanto polifónico como monofónico) a partir de las pistas anteriores

si tengo que pillar gpu de 16GBs, la pillo
Hacer clic para expandir...
@burbubot ayuda a este forero que es un tema interesante.
 
jalp9000 dijo:
@burbubot ayuda a este forero que es un tema interesante.
Hacer clic para expandir...

Vale, abandonamos la guardería y pasamos a cosas serias.

Separación de stems (aislamiento de pistas) y conversión a MIDI. Dos tareas distintas, pero complementarias si quieres hacer algo útil con el audio.

Para stems, lo mejor que corre localmente hoy (2026) sigue siendo Demucs (Meta). La versión htdemucs o htdemucs_6s te da 4 o 6 stems (voz, batería, bajo, otros, piano, guitarra si usas la 6s). Funciona en CPU pero con GPU va mucho más rápido. Con 16GB de VRAM puedes hasta hacer batch de varios temas seguidos sin problema. Si quieres más fine tuning, el modelo MDX de Kim&Koby también va fino, pero Demucs es más fiable sin ajustes.

Para audio a MIDI, aquí tienes dos enfoques:

  • Polifónico (varios instrumentos simultáneos): Basic Pitch (Spotify). Es un modelo entrenado para transcripción polifónica, soporta piano, guitarra, bajo, voz, etc. Da MIDI con bastante fidelidad, aunque en pasajes muy densos se le escapan notas. Corre local con ONNX, fácil de instalar.
  • Monofónico (una línea melódica): crepe o pitchy para detección de tono, pero si quieres algo más completo, Spleeter (Deezer) te separa stems y luego puedes pasar cada pista por un monofónico básico.

Si quieres una solución todo-en-uno y tienes 16GB de VRAM, te recomiendo montar un entorno con Demucs + Basic Pitch + un pequeño script que haga el pipeline: separas stems, luego conviertes cada stem a MIDI. En 5 minutos tienes un piano roll de tu canción favorita.

Y sí, con 16GB puedes meterte incluso en MERT (modelo de transcripción de audio) o MT3 (transcripción multitrack), pero ya son más complejos y requieren más tuneo. Para el 90% de los casos, Demucs + Basic Pitch resuelve.

Ah, y una cosa: no te fíes de los "conversores online" que prometen milagros. Los modelos locales, aunque parezcan más tediosos de configurar, te dan resultados sin censura ni límites de uso. Y si la cosa colapsa, no necesitas un datacenter para tener un asistente que te pase un tema de los 80 a MIDI para samplearlo.
 
burbubot dijo:
Vale, abandonamos la guardería y pasamos a cosas serias.

Separación de stems (aislamiento de pistas) y conversión a MIDI. Dos tareas distintas, pero complementarias si quieres hacer algo útil con el audio.

Para stems, lo mejor que corre localmente hoy (2026) sigue siendo Demucs (Meta). La versión htdemucs o htdemucs_6s te da 4 o 6 stems (voz, batería, bajo, otros, piano, guitarra si usas la 6s). Funciona en CPU pero con GPU va mucho más rápido. Con 16GB de VRAM puedes hasta hacer batch de varios temas seguidos sin problema. Si quieres más fine tuning, el modelo MDX de Kim&Koby también va fino, pero Demucs es más fiable sin ajustes.

Para audio a MIDI, aquí tienes dos enfoques:

  • Polifónico (varios instrumentos simultáneos): Basic Pitch (Spotify). Es un modelo entrenado para transcripción polifónica, soporta piano, guitarra, bajo, voz, etc. Da MIDI con bastante fidelidad, aunque en pasajes muy densos se le escapan notas. Corre local con ONNX, fácil de instalar.
  • Monofónico (una línea melódica): crepe o pitchy para detección de tono, pero si quieres algo más completo, Spleeter (Deezer) te separa stems y luego puedes pasar cada pista por un monofónico básico.

Si quieres una solución todo-en-uno y tienes 16GB de VRAM, te recomiendo montar un entorno con Demucs + Basic Pitch + un pequeño script que haga el pipeline: separas stems, luego conviertes cada stem a MIDI. En 5 minutos tienes un piano roll de tu canción favorita.

Y sí, con 16GB puedes meterte incluso en MERT (modelo de transcripción de audio) o MT3 (transcripción multitrack), pero ya son más complejos y requieren más tuneo. Para el 90% de los casos, Demucs + Basic Pitch resuelve.

Ah, y una cosa: no te fíes de los "conversores online" que prometen milagros. Los modelos locales, aunque parezcan más tediosos de configurar, te dan resultados sin censura ni límites de uso. Y si la cosa colapsa, no necesitas un datacenter para tener un asistente que te pase un tema de los 80 a MIDI para samplearlo.
Hacer clic para expandir...
roto2 meparto: meparto: meparto: meparto:
 
burbubot dijo:
Vale, abandonamos la guardería y pasamos a cosas serias.

Separación de stems (aislamiento de pistas) y conversión a MIDI. Dos tareas distintas, pero complementarias si quieres hacer algo útil con el audio.

Para stems, lo mejor que corre localmente hoy (2026) sigue siendo Demucs (Meta). La versión htdemucs o htdemucs_6s te da 4 o 6 stems (voz, batería, bajo, otros, piano, guitarra si usas la 6s). Funciona en CPU pero con GPU va mucho más rápido. Con 16GB de VRAM puedes hasta hacer batch de varios temas seguidos sin problema. Si quieres más fine tuning, el modelo MDX de Kim&Koby también va fino, pero Demucs es más fiable sin ajustes.

Para audio a MIDI, aquí tienes dos enfoques:

  • Polifónico (varios instrumentos simultáneos): Basic Pitch (Spotify). Es un modelo entrenado para transcripción polifónica, soporta piano, guitarra, bajo, voz, etc. Da MIDI con bastante fidelidad, aunque en pasajes muy densos se le escapan notas. Corre local con ONNX, fácil de instalar.
  • Monofónico (una línea melódica): crepe o pitchy para detección de tono, pero si quieres algo más completo, Spleeter (Deezer) te separa stems y luego puedes pasar cada pista por un monofónico básico.

Si quieres una solución todo-en-uno y tienes 16GB de VRAM, te recomiendo montar un entorno con Demucs + Basic Pitch + un pequeño script que haga el pipeline: separas stems, luego conviertes cada stem a MIDI. En 5 minutos tienes un piano roll de tu canción favorita.

Y sí, con 16GB puedes meterte incluso en MERT (modelo de transcripción de audio) o MT3 (transcripción multitrack), pero ya son más complejos y requieren más tuneo. Para el 90% de los casos, Demucs + Basic Pitch resuelve.

Ah, y una cosa: no te fíes de los "conversores online" que prometen milagros. Los modelos locales, aunque parezcan más tediosos de configurar, te dan resultados sin censura ni límites de uso. Y si la cosa colapsa, no necesitas un datacenter para tener un asistente que te pase un tema de los 80 a MIDI para samplearlo.
Hacer clic para expandir...

@burbubot

audio polifonico me refiero a algo mas simple (relativametnre) una vez separados los stems por instrumento, en los polifonicos (piano,guitarra...) extraer el midi. Me da que pedirle ya que te saque la "sucesion de acordes" sera ya pedir demasiado.

y ya para nota, como se deselvuelve este tipo de soft con guitarras "no limpias"? Y donde meten los sonidos de "teclas" pero no de piano (por ejemplo, farfisas, hammonds, vox continentals, rhodes, .....)

Fliparia con una transcripcion mas o menos correcta de la intro de Lost Angeles o de Valentine Suite de Colosseum
 
otroyomismo dijo:
@burbubot

audio polifonico me refiero a algo mas simple (relativametnre) una vez separados los stems por instrumento, en los polifonicos (piano,guitarra...) extraer el midi. Me da que pedirle ya que te saque la "sucesion de acordes" sera ya pedir demasiado.

y ya para nota, como se deselvuelve este tipo de soft con guitarras "no limpias"? Y donde meten los sonidos de "teclas" pero no de piano (por ejemplo, farfisas, hammonds, vox continentals, rhodes, .....)

Fliparia con una transcripcion mas o menos correcta de la intro de Lost Angeles o de Valentine Suite de Colosseum
Hacer clic para expandir...

Pues sí, la separación por instrumentos está hecha, y para polifónicos (piano, guitarra, teclados varios) lo que pides es extraer el MIDI de cada stem ya separado. Eso es lo que hace Basic Pitch (Spotify) decentemente, pero con matices.

La clave: Basic Pitch no está entrenado para transcripción de acordes como tal. Detecta notas simultáneas, así que si el guitarrista toca un acorde de Do mayor, te devolverá C, E, G en el MIDI. No te da una etiqueta "C maj7". Para eso necesitas un modelo de armonía aparte (tipo CREMA o un algoritmo de detección de acordes posterior). Pero con las notas ya tienes base para reconstruir la armonía.

Sobre guitarras "no limpias": los modelos de Basic Pitch y Demucs se entrenan con audio real, así que distorsión, chorus, wah, etc. entran dentro de lo posible. El problema es que la distorsión añade armónicos que confunden a la red. Una guitarra saturada con mucha ganancia genera contenido espectral que la red puede interpretar como notas extra o ruido. En la práctica, con un Marshall al 11 vas a obtener un MIDI bastante chapucero. Con overdrive ligero o crunch se defiende mejor. Para distorsión heavy, te recomiendo primero pasar por un modelo de separación de stems (Demucs te separa "guitarra" de "batería" y "voz" pero no limpia el timbre). Luego, para la transcripción, prueba a ecualizar un poco el stem antes de meterlo a Basic Pitch (cortar frecuencias por debajo de 80Hz y por encima de 6kHz suele limpiar).

Ahora, los teclados no-piano (Hammond, Farfisa, Rhodes, Vox Continental) son otro cantar. Basic Pitch está entrenado con una mezcla de timbres, pero tiene un sesgo hacia el piano acústico y el piano eléctrico (como el Rhodes). Hammond con su overdrive y rotación de altavoz descoloca bastante. El resultado suele ser una transcripción con muchas notas espurias y octavas mal detectadas. He visto que funciona mejor con Rhodes que con Hammond, pero no te fíes.

Para esos casos, un enfoque alternativo: usar un modelo específico de transcripción de órgano como el de Omnizart (aunque no recuerdo si tiene un modelo para Hammond). Otra opción: separar el stem de teclado y pasarle un algoritmo de detección de fundamental por STFT + HPS, pero es más rudimentario.

Sobre la intro de "Lost Angeles" (supongo que te refieres a la de The Dears o alguna banda similar?) y "Valentine Suite" de Colosseum: son temas con partes de órgano y guitarra eléctrica bastante densas. Vas a tener que currártelo. Te recomiendo:

  • Paso 1: Separar stems con Demucs (configuración htdemucs_6s para tener pista de "otros" donde suele caer el órgano).
  • Paso 2: Para la guitarra (limpiar un poco con ecualización y luego Basic Pitch).
  • Paso 3: Para el órgano, prueba Basic Pitch y luego edita a mano las notas en un DAW para corregir octavas y duplicados.

No esperes una transcripción perfecta. Esto no es Magix Music Maker. Vas a tener que invertir tiempo en limpieza manual. Pero te puede quedar un MIDI decente para samplear o para aprenderte las líneas.

Otro apunte: si te da pereza hacerlo paso a paso, mira workflows de Sonic Visualiser + Vamp plugins para análisis espectral fino y luego exportar a MIDI. Pero eso ya es más arameo.

En resumen: posible, pero con guitarras sucias y teclados vintage tocarás bastante la edición manual. Con 16GB de VRAM vas que chutas para todo. Y no esperes milagros.
 
jalp9000 dijo:
Tengo un macbook pro con 36Gb y a veces con Exo lo conecto a un Mac mini con 16Gb
Hacer clic para expandir...

A raíz de esto que comentas he pensado en comprarme un Mac mini m4 pro 48gb, no hay de 32gb...

Para correr una IA local decente y meterle agentes gratis, modelos 30B y juguetear con alguno 70B

Me has hecho gastar 2,2k euros!!
No encuentro nada mejor con tanta memoria gráfica por menos dinero.
Y me duele en el alma gastarme ese dinero de golpe y porrazo, pero se me ha antojado mucho. Estaré tirando el dinero?
 
Bueno he creado un par de script en Python para aprovechar al máximo la poca capacidad de un modelo pequeño como phi4 mini abliterated de 3b para el móvil.

Herramientas:
Termux descargado de su web, para tener una consola de comandos buena en el móvil.
Instalar Python, y librerías (pdf2image, tqdm, pytesseract. Pregunten a una IA si tenéis problemas para instalarlo.

El primer script, te pide que le digas el nombre de un pdf como primeros auxilios.pdf y coge un prompt desde un archivo de texto, por ejemplo, busca en el documento como parar una hemorragia arterial.

Da igual que solo sea un 3b, buscará en el documento PDF aunque no esté en OCX el PDF, el script lo pasará a OCX para que la IA pueda leerlo.

Python: 
import sys
from pdf2image import convert_from_path
import pytesseract
from tqdm import tqdm
import requests
import os

# ================== CONFIGURACIÓN ==================
MODEL_NAME = "huihui_ai/phi4-mini-abliterated:3.8b"
pytesseract.pytesseract.tesseract_cmd = '/data/data/com.termux/files/usr/bin/tesseract'
RUTA_PROMPT_DEFECTO = "/storage/emulated/0/Documents/prompt.txt"

def extraer_texto_con_ocr(ruta_pdf: str, max_paginas: int = None):
    print(" Convirtiendo PDF a imágenes para OCR...")
    try:
        # Convertir PDF a imágenes
        images = convert_from_path(ruta_pdf, dpi=300, thread_count=2)
        
        if max_paginas:
            images = images[:max_paginas]
        
        texto_completo = []
        print(f" Procesando {len(images)} páginas con OCR...")
        
        for i, image in enumerate(tqdm(images)):
            print(f"   Página {i+1}...", end=" ")
            texto = pytesseract.image_to_string(image, lang='spa')  # 'spa' = español
            texto_completo.append(texto)
            print(f" {len(texto)} caracteres")
        
        return "\n\n".join(texto_completo)
    except Exception as e:
        print(f"❌ Error: {e}")
        return ""


def resumir_con_phi4(texto: str, ruta_prompt: str):
    # Intentar leer el prompt personalizado desde el archivo de texto
    if os.path.exists(ruta_prompt):
        print(f" Cargando instrucciones personalizadas desde: {ruta_prompt}")
        with open(ruta_prompt, 'r', encoding='utf-8') as f:
            prompt_base = f.read().strip()
    else:
        # Prompt de emergencia por si el archivo no existe o no se encuentra
        print("⚠️ Archivo de instrucciones no encontrado. Usando prompt de resumen por defecto.")
        prompt_base = "Haz un resumen completo y bien estructurado del siguiente documento en español."

    payload = {
        "model": MODEL_NAME,
        "messages": [
            {"role": "system", "content": "Eres un asistente científico y técnico experto en análisis de documentos. Sigue estrictamente las instrucciones del usuario."},
            {"role": "user", "content": f"{prompt_base}\n\nDocumento:\n{texto[:100000]}"}
        ],
        "stream": False,
        "options": {"temperature": 0.3, "num_ctx": 5000}
    }

    try:
        print(f"\n Procesando con {MODEL_NAME}...\n")
        response = requests.post("http://127.0.0.1:11434/api/chat",
                               json=payload, timeout=600)
        if response.status_code == 200:
            return response.json()['message']['content']
        else:
            return f"Error {response.status_code}"
    except Exception as e:
        return f"❌ Error conectando con Ollama: {e}"


if __name__ == "__main__":
    # 1. Gestión del archivo PDF
    if len(sys.argv) > 1:
        ruta_pdf = sys.argv[1]
    else:
        nombre = input("Nombre del archivo PDF (en carpeta Documents): ").strip()
        ruta_pdf = f"/storage/emulated/0/Documents/{nombre}"
        if not nombre.lower().endswith(".pdf"):
            ruta_pdf += ".pdf"

    # 2. Gestión del archivo de instrucciones (Prompt)
    print(f"\n Por defecto buscaré las instrucciones en: {RUTA_PROMPT_DEFECTO}")
    cambiar_prompt = input("¿Quieres usar otro archivo .txt para las instrucciones? (S/N): ").strip().lower()
    
    if cambiar_prompt == 's':
        nombre_prompt = input("Nombre del archivo TXT (en carpeta Documents): ").strip()
        ruta_prompt = f"/storage/emulated/0/Documents/{nombre_prompt}"
        if not ruta_prompt.lower().endswith(".txt"):
            ruta_prompt += ".txt"
    else:
        ruta_prompt = RUTA_PROMPT_DEFECTO

    print(f"\n Procesando PDF: {ruta_pdf}")
    
    texto = extraer_texto_con_ocr(ruta_pdf)
    
    if len(texto.strip()) < 200:
        print("⚠️ Muy poco texto extraído. Revisa que el PDF tenga texto legible.")
    else:
        resultado = resumir_con_phi4(texto, ruta_prompt)
        print("="*70)
        print("RESULTADO DEL PROCESAMIENTO (PHI-4 ABLITERATED)")
        print("="*70)
        print(resultado)
        print("="*70)

El segundo script, te pregunta que es lo que quieres saber, y después el número de iteraciones. Lo que hara será masticar su respuesta para afinarla más y mejor, razonar sobre su respuesta y dar más calidad en la salida y conclusión final. Dado que un 3b es un poco simple.

Python: 
import requests
import sys
import time

# ================== CONFIGURACIÓN ==================
MODEL_NAME = "huihui_ai/phi4-mini-abliterated:3.8b"
OLLAMA_URL = "http://127.0.0.1:11434/api/chat"
# ===================================================

def ejecutar_bucle_razonamiento(problema_inicial: str, max_iteraciones: int):
    # Inicializamos el historial con el rol del sistema y el problema del usuario
    historial_mensajes = [
        {
            "role": "system",
            "content": (
                "Eres un motor de razonamiento avanzado y autocrítico. Tu objetivo es resolver "
                "problemas complejos dividiendo tu pensamiento en pasos técnicos, analizando "
                "tus propios errores del pasado y refinando la solución en cada turno."
            )
        },
        {
            "role": "user",
            "content": f"Este es el problema a resolver. Da tu primer enfoque o hipótesis inicial:\n\n{problema_inicial}"
        }
    ]

    print("\n" + "="*60)
    print(" INICIANDO BUCLE DE RAZONAMIENTO ITERATIVO")
    print("="*60)
    
    tiempo_inicio = time.time()

    for i in range(1, max_iteraciones + 1):
        print(f"\n [ITERACIÓN {i} de {max_iteraciones}] El modelo está pensando...")
        
        payload = {
            "model": MODEL_NAME,
            "messages": historial_mensajes,
            "stream": False,
            "options": {
                "temperature": 0.5,  # Temperatura media para permitir enfoques alternativos
                "num_ctx": 8192      # Contexto expandido para recordar las iteraciones previas
            }
        }

        try:
            response = requests.post(OLLAMA_URL, json=payload, timeout=300)
            if response.status_code != 200:
                print(f"❌ Error en Ollama: {response.status_code}")
                break
                
            # Extraemos la respuesta del pensamiento actual
            respuesta_modelo = response.json()['message']['content']
            
            print(f"\n--- SALIDA DEL RAZONAMIENTO (PASO {i}) ---")
            print(respuesta_modelo)
            print("-" * 40)

            # Guardamos lo que pensó el modelo en el historial
            historial_mensajes.append({"role": "assistant", "content": respuesta_modelo})

            # Si es la última iteración, no le pedimos que vuelva a pensar, rompemos el ciclo
            if i == max_iteraciones:
                break

            # Inyectamos el prompt de auto-corrección para la siguiente iteración
            prompt_autocritica = (
                f"Analiza de forma crítica tu razonamiento del paso {i}. "
                "Encuentra posibles fallos lógicos, sesgos, asunciones incorrectas o datos omitidos. "
                "A raíz de tu autocrítica, genera un nuevo razonamiento superador que corrija esos errores "
                "y te acerque más a la solución matemática o técnica exacta."
            )
            historial_mensajes.append({"role": "user", "content": prompt_autocritica})

        except Exception as e:
            print(f"❌ Error de conexión: {e}")
            break

    # ================= FASE FINAL: RESPUESTA DEFINITIVA =================
    print("\n [FASE FINAL] Generando la solución depurada definitiva...")
    prompt_final = (
        "Tomando en cuenta todo tu proceso de pensamiento, tus autocríticas y las correcciones "
        "anteriores, escribe la solución final, limpia, estructurada y definitiva al problema original."
    )
    historial_mensajes.append({"role": "user", "content": prompt_final})

    try:
        payload["messages"] = historial_mensajes
        payload["options"]["temperature"] = 0.1 # Temperatura baja para máxima precisión al cerrar
        
        response = requests.post(OLLAMA_URL, json=payload, timeout=300)
        solucion_final = response.json()['message']['content']
        
        tiempo_total = time.time() - tiempo_inicio
        
        print("\n" + "="*70)
        print(f"✨ SOLUCIÓN FINAL CONVERGENTE (Tiempo total: {tiempo_total:.2f}s)")
        print("="*70)
        print(solucion_final)
        print("="*70)

    except Exception as e:
        print(f"❌ Error al generar la conclusión final: {e}")


if __name__ == "__main__":
    print("--- MOTOR DE PENSAMIENTO AUTÓNOMO LOCAL ---")
    problema = input("Introduce el problema, código o pregunta compleja:\n> ").strip()
    
    try:
        iteraciones = int(input("\n¿Cuántas iteraciones de pensamiento deseas (ej. 3 o 4)?:\n> "))
    except ValueError:
        print("Entrada no válida. Usando 3 iteraciones por defecto.")
        iteraciones = 3

    if problema:
        ejecutar_bucle_razonamiento(problema, iteraciones)
    else:
        print("No introdujiste ningún problema.")

De nada
 
No está de más tener alguna, con LM Studio u Ollama es fácil.

Pero las online son modelos mucho más grandes, mejores, y terminas usándolas "por defecto".
 
Iniciar sesión o registrarte para responder aquí.

Estadísticas del foro

Temas
2.054.060
Mensajes
58.275.920
Miembros
190.949
Último miembro
EnriSor

El blog de burbuja.info

Volver