*Tema mítico* : Deepseek lo cambia todo: cisne zaino en ciernes

SHARKHAN

Madmaxista
Desde
28 Oct 2008
Mensajes
3.484
Fruta
5.726
¿La burbuja de la IA estalló?

Si los resultados de DeepSeek son realmente reales, NVIDIA podría encontrarse en una situación inquietantemente similar a la que enfrentó Cisco después de que estallara la burbuja puntocom a principios de la década de 2000.Durante la burbuja, Cisco fue un proveedor dominante de equipos de red y aprovechó una ola de demanda masiva a medida que las empresas emergentes y tecnológicas se apresuraban a construir infraestructura de Internet.

Cuando estalló la burbuja, muchas de estas empresas se declararon en quiebra y el mercado se inundó de equipos Cisco de segunda mano. La demanda de nuevo hardware se evaporó y el crecimiento meteórico de Cisco se estancó durante años. En el caso de NVIDIA, el auge de la industria de la IA ha creado una fiebre del oro para sus GPU, con empresas emergentes y gigantes tecnológicos invirtiendo miles de millones en su hardware.Muchas empresas emergentes de IA, con abundante capital de riesgo, han comprado miles de GPU NVIDIA para entrenar modelos y operar sus negocios. Si DeepSeek elimina la necesidad de dicho hardware o provoca fallas generalizadas en estas empresas emergentes, una avalancha de GPU NVIDIA de segunda mano podría llegar al mercado, imitando el escenario posterior a la burbuja que soportó Cisco.

Principales efectos de DeepSeek en NVIDIA. Startups en quiebra inundan el mercado: muchas startups de IA con grandes inventarios de GPU NVIDIA podrían colapsar, lo que las obligaría a liquidar su hardware, lo que reduciría el valor de las nuevas GPU.
Las empresas emergentes que operan centros de datos que alquilan GPU NVIDIA podrían no poder generar retornos suficientes sobre sus inversiones, lo que saturaría aún más el mercado con GPU sin usar.
Desaceleración de los “7 magníficos”: las principales empresas tecnológicas, que han impulsado gran parte del crecimiento de NVIDIA, pueden desacelerar o incluso detener las compras de GPU, con miles de GPU existentes ya subutilizadas y sin usar en los almacenes.Esta posible reacción en cadena podría crear una tormenta perfecta para NVIDIA, similar a cómo se deshizo el negocio principal de Cisco.¿Por qué es similar a Cisco?

1. Sobreproducción y exceso de oferta:Ambas empresas prosperaron durante períodos de auge especulativo, produciendo hardware a niveles sin precedentes para satisfacer la demanda. Cuando esa demanda colapsó, se enfrentaron a mercados sobresaturados.
2. Dependencia de las startups:Así como Cisco dependió de las empresas punto-com, NVIDIA está ligada al éxito de las startups de IA, que son inherentemente de alto riesgo.
3. Inundación del mercado para Cisco, las empresas en quiebra inundaron el mercado con equipos de segunda mano. Para NVIDIA, una inundación similar de GPU podría reducir drásticamente la demanda de nuevo hardware.4. Estancamiento del crecimiento:El dominio de Cisco fue seguido por años de crecimiento lento debido a la disminución de los pedidos. NVIDIA podría enfrentar un destino similar si la demanda tanto de las empresas emergentes como de los gigantes tecnológicos se debilita.Implicaciones más amplias para la industriaLas empresas que dependen de GPU costosas podrían cambiar a nuevos paradigmas de IA, lo que dejaría a NVIDIA con una relevancia reducida en un mercado transformado.

La valoración actual de NVIDIA, impulsada por la publicidad de la IA, podría enfrentar una corrección significativa si el crecimiento se desacelera y el mercado de segunda mano socava las nuevas ventas.Otras empresas del ecosistema de hardware de IA también podrían enfrentar consecuencias, especialmente aquellas que dependen directamente del dominio de NVIDIA.NVIDIA ha estado a la vanguardia del auge de la IA, al igual que Cisco lo estuvo en la revolución de Internet. Sin embargo, la historia ha demostrado que la dependencia excesiva de la demanda especulativa y un mercado sobresaturado pueden suponer un desafío incluso para las empresas más dominantes.El potencial de DeepSeek para cambiar el panorama de la IA podría marcar el comienzo del propio ajuste de cuentas “post-burbuja” de NVIDIA.
 
Última edición:
Pues yo veo un golpe en la cara al plan Stargate de trump para financiar la IA, oracle y ser la capital mundial de la innovación. Los chinos igualan o mejoran con equipos más viejos, cuidado que el castillo de naipes puede caerse.
Todo lo contrario, más y más potencia, más bestia, más VRUTAL MÁS TODO

MAS RESULTADOS

MAS FUERZA IA

BRUUUUUUUUUUUTAL



Relojes incluso con capacidad de razonamiento!!!!
 
Todo lo contrario, más y más potencia, más bestia, más VRUTAL MÁS TODO

MAS RESULTADOS

MAS FUERZA IA

BRUUUUUUUUUUUTAL



Relojes incluso con capacidad de razonamiento!!!!

No me vale. Yo quiero lentillas y pinganillos con altas capacidades de procesamiento, conectividad y razonamiento para convertirme en un cyborg que todo lo ve, todo lo oye y todo lo sabe.

Y ya dejarte dejarte ir y que piense, actúe y hable por ti, porque a esas alturas ya hasta abrir la boca para hablar dará una pereza enorme.

Podremos generar ingresos pasivos alquilando nuestro propio cuerpo a la IA, dedicarnos a dormir en un estado de trance permanente mientras nuestro cuerpo físico va y viene haciendo cosas que sólo recordamos vagamente, como sueños difusos.

Hasta que los robots y drones controlados por la misma IA sean más eficientes que nuestro cuerpo obsoleto y decida descartarnos. Hileras de personas esperando con paciencia su turno para tirarse plácidamente a una trituradora de carne, y por el extremo opuesto saliendo la biomasa ya procesada, lista para ser usada como combustible.
 
¿La burbuja de la IA estalló?

Si los resultados de DeepSeek son realmente reales, NVIDIA podría encontrarse en una situación inquietantemente similar a la que enfrentó Cisco después de que estallara la burbuja puntocom a principios de la década de 2000.Durante la burbuja, Cisco fue un proveedor dominante de equipos de red y aprovechó una ola de demanda masiva a medida que las empresas emergentes y tecnológicas se apresuraban a construir infraestructura de Internet.

Cuando estalló la burbuja, muchas de estas empresas se declararon en quiebra y el mercado se inundó de equipos Cisco de segunda mano. La demanda de nuevo hardware se evaporó y el crecimiento meteórico de Cisco se estancó durante años. En el caso de NVIDIA, el auge de la industria de la IA ha creado una fiebre del oro para sus GPU, con empresas emergentes y gigantes tecnológicos invirtiendo miles de millones en su hardware.Muchas empresas emergentes de IA, con abundante capital de riesgo, han comprado miles de GPU NVIDIA para entrenar modelos y operar sus negocios. Si DeepSeek elimina la necesidad de dicho hardware o provoca fallas generalizadas en estas empresas emergentes, una avalancha de GPU NVIDIA de segunda mano podría llegar al mercado, imitando el escenario posterior a la burbuja que soportó Cisco.

Principales efectos de DeepSeek en NVIDIA. Startups en quiebra inundan el mercado: muchas startups de IA con grandes inventarios de GPU NVIDIA podrían colapsar, lo que las obligaría a liquidar su hardware, lo que reduciría el valor de las nuevas GPU.
Las empresas emergentes que operan centros de datos que alquilan GPU NVIDIA podrían no poder generar retornos suficientes sobre sus inversiones, lo que saturaría aún más el mercado con GPU sin usar.
Desaceleración de los “7 magníficos”: las principales empresas tecnológicas, que han impulsado gran parte del crecimiento de NVIDIA, pueden desacelerar o incluso detener las compras de GPU, con miles de GPU existentes ya subutilizadas y sin usar en los almacenes.Esta posible reacción en cadena podría crear una tormenta perfecta para NVIDIA, similar a cómo se deshizo el negocio principal de Cisco.¿Por qué es similar a Cisco?

1. Sobreproducción y exceso de oferta:Ambas empresas prosperaron durante períodos de auge especulativo, produciendo hardware a niveles sin precedentes para satisfacer la demanda. Cuando esa demanda colapsó, se enfrentaron a mercados sobresaturados.
2. Dependencia de las startups:Así como Cisco dependió de las empresas punto-com, NVIDIA está ligada al éxito de las startups de IA, que son inherentemente de alto riesgo.
3. Inundación del mercado para Cisco, las empresas en quiebra inundaron el mercado con equipos de segunda mano. Para NVIDIA, una inundación similar de GPU podría reducir drásticamente la demanda de nuevo hardware.4. Estancamiento del crecimiento:El dominio de Cisco fue seguido por años de crecimiento lento debido a la disminución de los pedidos. NVIDIA podría enfrentar un destino similar si la demanda tanto de las empresas emergentes como de los gigantes tecnológicos se debilita.Implicaciones más amplias para la industriaLas empresas que dependen de GPU costosas podrían cambiar a nuevos paradigmas de IA, lo que dejaría a NVIDIA con una relevancia reducida en un mercado transformado.

La valoración actual de NVIDIA, impulsada por la publicidad de la IA, podría enfrentar una corrección significativa si el crecimiento se desacelera y el mercado de segunda mano socava las nuevas ventas.Otras empresas del ecosistema de hardware de IA también podrían enfrentar consecuencias, especialmente aquellas que dependen directamente del dominio de NVIDIA.NVIDIA ha estado a la vanguardia del auge de la IA, al igual que Cisco lo estuvo en la revolución de Internet. Sin embargo, la historia ha demostrado que la dependencia excesiva de la demanda especulativa y un mercado sobresaturado pueden suponer un desafío incluso para las empresas más dominantes.El potencial de DeepSeek para cambiar el panorama de la IA podría marcar el comienzo del propio ajuste de cuentas “post-burbuja” de NVIDIA.

Hasta donde sé ahora mismo NVIDIA es monopolista no?

Deepseek simplemente consiguió algunos chips de NVIDIA y consiguió sacarles un rendimiento 10X
 
Los modelos en la nube no tienen futuro por el tema de la privacidad y la protección de datos. Ninguna empresa va a enviar datos de sus proyectos a ChatGPT por este motivo, de manera que harán falta modelos potentes pero que se ejecuten en local.
Por lo que he leído descargar Deepseek son tropecientos mil megas y luego está el tema de que el servidor lo pueda liquidar de modo fluido.
Usar la API de Deepseek está tirada de precio no?
 
lolo

estoy probando una supuesta destilacion de DeepSeek

pero es acondroplásica y funciona con muchos fallos

solo tiene 1 gb de esos

por que el siguiente de 7B ya no me coge en memoria


nada de momento no se puede probar ninguna en local con poca ram

SOLO HE CONSEGUIDO CARGAR ESTA DE 1 GB

Y VA UN POCO MAL
5raw9z.png

Respuesta
Para un PC con 8 GB de RAM y una tarjeta gráfica de 8 GB, las versiones más adecuadas de DeepSeek R1 que puedes considerar son las variantes DeepSeek R1-lite. Estas versiones han sido diseñadas para ser más accesibles en términos de requisitos de hardware.

Opciones de DeepSeek R1​

Modelos Recomendados​

  1. DeepSeek R1-lite 1.5B
    • Requisitos: Este modelo puede ejecutarse en una GPU modesta, incluso en tarjetas de aproximadamente 6-8 GB con ciertas optimizaciones.
    • Rendimiento: Supera a modelos como GPT-4 en tareas de matemáticas y programación .
  2. DeepSeek R1-lite 7B
    • Requisitos: Se estima que requiere entre 12-16 GB de VRAM para una inferencia fluida, lo que podría ser un poco más exigente que tu configuración actual, pero aún es viable con optimizaciones .
  3. DeepSeek R1-Distill-Llama-8B
    • Requisitos: Este modelo está diseñado para ser más ligero y podría ser adecuado para tu hardware, aunque se recomienda verificar la compatibilidad específica con tu GPU .

Consideraciones​

  • DeepSeek R1 original (671B parámetros) no es adecuado para hardware doméstico debido a sus altos requisitos de memoria y procesamiento, por lo que es mejor optar por las versiones destiladas o ligeras .
  • La destilación permite que modelos más pequeños mantengan un rendimiento competitivo al aprovechar el conocimiento adquirido del modelo más grande .

Conclusión​

Para tu PC con 8 GB de RAM y una tarjeta gráfica de 8 GB, te recomendaría comenzar con el modelo DeepSeek R1-lite 1.5B, ya que es el más accesible y debería funcionar bien dentro de tus limitaciones de hardware.
 
Significa esto que las gpus de Nvidia ya pierden su utilidad? No sirven para correr Deepseek? O es que Deepseek corre igual de rápido en una gpu de Nvidia que en una gpu normal?
 
Significa esto que las gpus de Nvidia ya pierden su utilidad? No sirven para correr Deepseek? O es que Deepseek corre igual de rápido en una gpu de Nvidia que en una gpu normal?

Significa que entrenar Deep Seek costo aproximadamente un 5-7% de lo que costo entrenar los modelos GPT mas avanzados. Con lo cual, cualquiera puede hacerlo. Hoy en dia son $5M, pero en 3-5 anos sera factible hacerlo en un cluster de GPUs pequeno.

Deep Seek uso un metodo de entrenamiento por refuerzo muy interesante que seguramente, ademas de ser mucho mas eficiente, abra la puerta a mas avances y modelos que usen mejor el razonmiento logico y la causalidad.

Evidentemente, en EEUU estan muy nerviosos porque esto significa que sus gigantes ya no tienen ninguna ventaja competitiva.
 
Significa que entrenar Deep Seek costo aproximadamente un 5-7% de lo que costo entrenar los modelos GPT mas avanzados. Con lo cual, cualquiera puede hacerlo. Hoy en dia son $5M, pero en 3-5 anos sera factible hacerlo en un cluster de GPUs pequeno.

Deep Seek uso un metodo de entrenamiento por refuerzo muy interesante que seguramente, ademas de ser mucho mas eficiente, abra la puerta a mas avances y modelos que usen mejor el razonmiento logico y la causalidad.

Evidentemente, en EEUU estan muy nerviosos porque esto significa que sus gigantes ya no tienen ninguna ventaja competitiva.

Tienes que estar registrado para ver este contenido
 

Adjuntos

Archivo oculto para usuarios no registrados
Tienes que estar registrado para ver este contenido

Puede ser mentira, pero se sabra pronto porque hay muchos esfuerzos en clonar DeepSeek.

La arquitectura con MoE y el enfoque RL que usan es interesante, veo plausible que sea mas eficiente. Es un campo muy nuevo, habra muchas mas innovaciones asi. El problema es para OpenAI y Anthropic, no tanto para Nvidia.
 
Significa que entrenar Deep Seek costo aproximadamente un 5-7% de lo que costo entrenar los modelos GPT mas avanzados. Con lo cual, cualquiera puede hacerlo. Hoy en dia son $5M, pero en 3-5 anos sera factible hacerlo en un cluster de GPUs pequeno.

Deep Seek uso un metodo de entrenamiento por refuerzo muy interesante que seguramente, ademas de ser mucho mas eficiente, abra la puerta a mas avances y modelos que usen mejor el razonmiento logico y la causalidad.

Evidentemente, en EEUU estan muy nerviosos porque esto significa que sus gigantes ya no tienen ninguna ventaja competitiva.
Ok pero Deepseek y ChatGPT son software. El que Deepseek sea 20 veces más eficiente que ChatGPT quiere decir que ChatGPT está obsoleto pero no quiere decir que el hardware de Nvidia esté obsoleto. O si?
 
Significa esto que las gpus de Nvidia ya pierden su utilidad? No sirven para correr Deepseek? O es que Deepseek corre igual de rápido en una gpu de Nvidia que en una gpu normal?


no no, aun te hacen falta algo que procese

a mi solo me van las pequeñas de 7b y 4 gbs de VRAM ( tengo 8 de Video Ram en mi tarjeta)

pero son 300 billones de parametros las DEEPSEEK real

minimo 2 graficas con mucha VRAM para mover alguna version de mucho Billones de parametros
 
Ok pero Deepseek y ChatGPT son software. El que Deepseek sea 20 veces más eficiente que ChatGPT quiere decir que ChatGPT está obsoleto pero no quiere decir que el hardware de Nvidia esté obsoleto. O si?

No, nada que ver con Nvidia, excepto como afecte a la demanda de sus tarjetas. Si los modelos no pueden seguir escalando con mas y mas entrenamiento, se reducira la demanda, porque no se necesitaran mega-centros de GPUs.

Por otro lado, puede haber una situacion como con la paradoja de Jevons. Que aumente la demanda porque sea mas eficiente el entrenamiento de esos modelos. Siempre y cuando entrenar muchos modelos distintos tenga alguna utilidad. Y tambien porque el uso local sea interesante.

Las tarjetas que puedan liquidar versiones grandes de DeepSeek localmente no estan tan lejos. Muchas versiones de Llama funcionan bien incluso en CPUs de Apple, que tienen un ancho de banda tremendo. Tambien en los nuevos PCs de Nvidia.

No obstante, yo veo a Nvidia sobrevalorada porque tanto Intel como AMD y demas competencia antes o despues sacaran tarjetas decentes a precio barato. Hoy en dia, la peor parte es que los drivers para DL que no son de Nvidia son un desastre.
 
no no, aun te hacen falta algo que procese

a mi solo me van las pequeñas de 7b y 4 gbs de VRAM ( tengo 8 de Video Ram en mi tarjeta)

pero son 300 billones de parametros las DEEPSEEK real

minimo 2 graficas con mucha VRAM para mover alguna version de mucho Billones de parametros
No, nada que ver con Nvidia, excepto como afecte a la demanda de sus tarjetas. Si los modelos no pueden seguir escalando con mas y mas entrenamiento, se reducira la demanda, porque no se necesitaran mega-centros de GPUs.

Por otro lado, puede haber una situacion como con la paradoja de Jevons. Que aumente la demanda porque sea mas eficiente el entrenamiento de esos modelos. Siempre y cuando entrenar muchos modelos distintos tenga alguna utilidad. Y tambien porque el uso local sea interesante.

Las tarjetas que puedan liquidar versiones grandes de DeepSeek localmente no estan tan lejos. Muchas versiones de Llama funcionan bien incluso en CPUs de Apple, que tienen un ancho de banda tremendo. Tambien en los nuevos PCs de Nvidia.

No obstante, yo veo a Nvidia sobrevalorada porque tanto Intel como AMD y demas competencia antes o despues sacaran tarjetas decentes a precio barato. Hoy en dia, la peor parte es que los drivers para DL que no son de Nvidia son un desastre.
La consecuencia que yo veo es que Deepseek va a "democratizar" la IA. Los servicios de IA podrán ser prestados por pequeñas empresas. Y va a haber una competencia feroz. Ya no harán falta grandes empresas con mucho capital, funcionando como monopolios y con grandes beneficios. Las grandes empresas del Nasdaq que eran candidatas a dominar los servicios de IA serán las más perjudicadas.
 
Hasta ahora las tarjetas de Nvidia eran las mejores para correr IA. Sabéis si con Deepseek seguirá siendo así?
 

Estadísticas del foro

Temas
2.048.990
Mensajes
58.135.333
Miembros
190.817
Último miembro
Pedro3000

El blog de burbuja.info

Volver