AMD explica cómo puedes usar las IA de DeepSeek, Alibaba y Meta con sus CPU Ryzen y GPU Radeon en tu PC

NVIDIA es la compañía que más creció en 2023 y 2024, pasando de estar en el Top 10 a llegar incluso al Top 1 en cuanto a capitalización de mercado. Esto se debe al boom que causó la IA y precisamente sus tarjetas gráficas eran lo más demandado para poder entrenar nuevos y más complejos modelos de inteligencia artificial. Las grandes empresas compraron cientos de miles de estas GPU con el argumento de que eran necesarias enormes cantidades para hacer IA avanzadas. DeepSeek cambió todo esto, pues con solo 50.000 GPU de NVIDIA lograron crear una IA que aseguran que supera a ChatGPT de OpenAI, provocando así una enorme caída en bolsa de NVIDIA. China no para y AMD ha explicado como usar modelos de IA con "razonamiento" DeepSeek R1 Distill usando CPU y GPU de AMD en tu PC.

DeepSeek R1 apareció como un nuevo modelo de IA creado en China que se volvió viral enseguida tras demostrar que en la práctica era mucho mejor de lo que parecía. Aunque muchos fueron escépticos sobre China y las grandes limitaciones que tiene a la hora de adquirir y fabricar hardware para IA, lo cierto es que los resultados fueron tan buenos que dejaron mal a NVIDIA, OpenAI y Microsoft. No estamos ante la IA definitiva, pero DeepSeek R1 podía ofrecer respuestas complejas y rápidas a nuestras preguntas y realizar tareas con mayor precisión que los modelos de IA de OpenAI.

AMD explica los pasos para usar DeepSeek R1 Distill en tu PC con modelos de IA de Qwen (Alibaba) y Llama (Meta)

DeepSeek R1 tenía otras ventajas como el hecho de que es Open Source y además se puede ejecutar de forma local en un PC sin necesidad de conectarse a Internet. Hay varios modelos, pero en términos de complejidad podríamos decir que R1 671B es el más avanzado y requiere un ordenador de decenas de miles de euros si queremos usarlo. Hay otros modelos con muchos menos millones de parámetros que funcionan con hardware menos potente, pero si usas AMD, quizá te interesa saber sobre DeepSeek R1 Distill, modelos de razonamiento "destilados". El término de destilación en el mundo de ML e IA implica transferir los conocimientos de un modelo de gran tamaño a uno de menor tamaño, por lo que podríamos considerar que lo "optimizan", pues son menos costosos de usar y requieren un ordenador menos potente.

AMD explica como usar estos modelos con CPU Ryzen y GPU AMD Radeon, comenzando con el primer paso que implica instalarse el driver opcional Adrenalin 25.1.1 o versiones superiores. Tras esto nos toca descargarnos LM Studio 0.3.8 a través de https://lmstudio.ai/ryzenai. Tras instalarlo vamos a saltarnos la pantalla de bienvenida e iremos a la pestaña de Discover (el icono de lupa). Aquí elegiremos el modelo DeepSeek R1 Distill que queramos, pudiendo ver que está la versión destilada en Qwen (IA de Alibaba) y en Llama (IA de Meta). Tendremos que elegir uno de estos modelos, descargarlo, elegirlo en la parte superior ajustando las opciones tal como indica el vídeo y listo.

Estas son las CPU y GPU de AMD para poder usar los distintos modelos de IA disponibles

En la imagen podemos ver que tipo de modelo debemos elegir dependiendo del hardware de AMD que tengamos. En el caso de los procesadores de portátil, si consigues un Ryzen AI Max+ 395 tendrás que tener mucha memoria RAM para poder usar los modelos más avanzados como DeepSeek R1 Distill Llama 70B (con 64 y 128 GB de RAM) y la versión Qwen 32B si dispones de 32 GB de RAM (24 GB colocada en los gráficos). Si disponemos de un Ryzen AI HX 370 o 365, tocará usar Qwen 14B y lo mismo si tenemos una CPU de portátil de pasada generación como el Ryzen 8040 o el Ryzen 7040.

Si ahora pasamos a las GPU, con una Radeon RX 7900 XTX será posible usar el modelo DeepSeek R1 Distill Qwen 32B, siendo esta la única gráfica compatible. Resulta que si tienes entre una RX 7600 XT hasta una RX 7900 XT, AMD indica que se podrá usar Qwen 14B. Por último, con una Radeon RX 7600 estaremos limitados a Llama 8B.

La entrada AMD explica cómo puedes usar las IA de DeepSeek, Alibaba y Meta con sus CPU Ryzen y GPU Radeon en tu PC aparece primero en El Chapuzas Informático.