Cómo Ejecutar DeepSeek-R1 y Modelos de Razonamiento en Local: Requisitos de Hardware, Cuantizaciones y Guía de Despliegue

1. El Fenómeno DeepSeek-R1: Razonamiento Avanzado al Alcance de Todos

El lanzamiento de DeepSeek-R1 marcó un punto de inflexión histórico en la industria de la Inteligencia Artificial. Por primera vez, una arquitectura de razonamiento profundo con capacidades competitivas frente a modelos propietarios cerrados (como OpenAI o1) fue publicada bajo licencia de código abierto permisiva (licencia MIT), permitiendo a empresas, investigadores y desarrolladores ejecutarla de forma autónoma en sus propios servidores, garantizando privacidad absoluta y soberanía sobre los datos.

Sin embargo, ejecutar modelos de razonamiento plantea desafíos técnicos particulares que difieren de los chatbots convencionales. En esta guía detallamos los requisitos exactos de hardware, las técnicas de cuantización óptimas y el procedimiento paso a paso para desplegarlo en local con Ollama y en servidores con vLLM.

2. Tabla Comparativa de Requisitos de Hardware y VRAM por Modelo

DeepSeek publicó tanto su modelo insignia completo de 671B como una colección de modelos destilados (Distilled Models) basados en Qwen 2.5 y Llama 3. A continuación se detallan los requisitos de memoria reales para inferencia en cuantización estándar de 4 bits (Q4_K_M / AWQ):

3. Despliegue Rápido en Local con Ollama

Ollama es la herramienta más sencilla y eficiente para ejecutar las versiones destiladas de DeepSeek-R1 en macOS, Windows o Linux. Con un solo comando, Ollama descarga la cuantización optimizada, configura los pesos en la GPU y expone una API compatible con OpenAI en el puerto 11434.

Paso 1: Instalación de Ollama

# En Linux / macOS:
curl -fsSL https://ollama.com/install.sh | sh

Paso 2: Descarga y Ejecución del Modelo Recomendado

Para la mayoría de usuarios con una GPU de 12 GB a 24 GB, el modelo 14B representa el equilibrio ideal entre capacidad de deducción matemática y fluidez de generación:

# Ejecutar la versión destilada de 14 mil millones de parámetros
ollama run deepseek-r1:14b

Si tu ordenador solo cuenta con gráficos integrados o una GPU de 6 GB a 8 GB, ejecuta la versión de 7B:

ollama run deepseek-r1:7b

4. Despliegue de Alta Concurrencia en Servidores con vLLM

Si deseas servir DeepSeek-R1 en un entorno de producción donde múltiples usuarios o aplicaciones consulten el modelo simultáneamente, vLLM es la plataforma obligatoria. Su motor de PagedAttention gestiona la memoria de las cadenas de pensamiento de forma exponencialmente más eficiente que las colas secuenciales.

# Despliegue de DeepSeek-R1-Distill-Qwen-32B con cuantización AWQ en vLLM
python3 -m vllm.entrypoints.openai.api_server     --model casperhansen/deepseek-r1-distill-qwen-32b-awq     --quantization awq     --dtype half     --max-model-len 16384     --gpu-memory-utilization 0.92     --port 8000

Consumo de la API con Python y Gestión de la Etiqueta <think>

A diferencia de los LLMs tradicionales, la respuesta de DeepSeek-R1 incluye la fase de deliberación interna. A continuación se ilustra cómo capturar y separar el razonamiento del resultado definitivo:

import re
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:8000/v1",
    api_key="none"
)

response = client.chat.completions.create(
    model="casperhansen/deepseek-r1-distill-qwen-32b-awq",
    messages=[
        {"role": "user", "content": "Hay 3 cajas cerradas. Una contiene solo manzanas, otra solo naranjas y otra contiene manzanas y naranjas mezcladas. Todas las etiquetas están equivocadas. Sacas una fruta de la caja etiquetada como 'Mezcla' y resulta ser una manzana. ¿Cómo puedes etiquetar correctamente todas las cajas?"}
    ],
    temperature=0.6  # Se recomienda temperatura moderada (0.5 a 0.7) en razonamiento
)

texto_completo = response.choices[0].message.content

# Separación de la cadena de razonamiento y la respuesta final
match = re.search(r"<think>(.*?)</think>(.*)", texto_completo, re.DOTALL)
if match:
    razonamiento = match.group(1).strip()
    respuesta_final = match.group(2).strip()
    
    print("🧠 Cadena de Pensamiento Interna:")
    print(razonamiento[:300] + "...
")
    print("🎯 Respuesta Final al Usuario:")
    print(respuesta_final)
else:
    print(texto_completo)

5. Consideraciones de Temperatura y Muestreo en Modelos de Razonamiento

Un error frecuente al interactuar con DeepSeek-R1 consiste en configurar la temperatura en 0.0 (muestreo codicioso o greedy). En modelos entrenados con aprendizaje por refuerzo puro (RL), una temperatura de cero suele provocar bucles de autoreflexión repetitivos en los que el modelo duda de sus propios pasos matemáticos y no logra cerrar la etiqueta </think>.

Las directrices oficiales de DeepSeek recomiendan:

• Temperatura: Configurar entre 0.5 y 0.7 (óptimo 0.6).
• Top-p: Configurar en 0.95.
• Evitar System Prompts restrictivos: No intentes forzar al modelo con instrucciones del tipo "sé breve" o "no pienses", ya que interfieren con los patrones aprendidos por los adaptadores de razonamiento. Permite que el modelo elabore su cadena de pensamiento completa y filtra el resultado en la capa de interfaz.

6. Enlaces Contextuales en The Calata para Profundizar

Sigue ampliando tu dominio sobre la Inteligencia Artificial práctica con nuestras guías especializadas:

• Aprende a exponer tu modelo en red de forma segura con la Guía de Ollama en Servidores Linux con Nginx y Firewall.
• Analiza las tecnologías de compresión en Comparativa de Cuantización GGUF vs EXL2 vs AWQ.
• Comprende los límites de memoria contextual en Ventana de Contexto y el Fenómeno Lost in the Middle.
• Optimiza tus pipelines de inferencia consultando vLLM vs TGI para Producción.