Qwen3.8-2.4T-A95B: el open-weights más grande que existe

El 12 de agosto Qwen publicó en Hugging Face Qwen3.8-2.4T-A95B, un Mixture-of-Experts con 2.4 billones de parámetros totales y 95 mil millones activos por inferencia. Es, según los números que circularon por Hacker News, el modelo open-weights más grande publicado hasta hoy por cantidad de parámetros — más grande que Kimi k3 (2.8T en QAT 4-bit pero con 1.5 TB en disco) y con un posicionamiento de benchmarks que pelea mano a mano con Opus 4.8 y GPT-5.6-Sol. La pregunta obvia es: ¿y a mí qué me sirve si quiero correrlo en casa? La respuesta corta es que a casi nadie le sirve en casa — pero la historia de por qué importa igual es la que vale la pena entender, porque redefine qué es "modelo abierto" en 2026.

Si vienes siguiendo la cadena de posts sobre IA local que escribí este año — desde Ollama para correr LLMs en tu máquina hasta Swiftlet corriendo un 80B con 4 GB de RAM y Muse Glimmer 30B always-on — ya sabes que la línea entre "corre en tu laptop" y "corre en un cluster" se movió varias veces. Qwen3.8-2.4T-A95B no es un paso más en esa línea: es la confirmación de que la frontera del open-weights vive en data centers, y que el juego local se define con sus hermanos menores.

Los números crudos, sin marketing

El modelo se publica en BF16, y la comunidad ya está sacando versiones cuantizadas:

• BF16 lossless: ~4.9 TB de pesos (2.4T parámetros × 2 bytes). Necesitas una máquina con ~7 TB de RAM sumando pesos + contexto + KV cache. Estamos hablando de varios nodos con H200 o B200, o racks de Mac Studio de gama alta coordinados por Thunderbolt. No es "homelab", es "presupuesto de startup".
• Cuantización 1-bit experimental (publicada por la comunidad vía Unsloth): 397 GB con 95B activos. Aquí sí entra en hardware al alcance de un equipo mediano con 4x Strix Halo / DGX Spark o similar. Es la métrica que cita la comunidad de LocalLLaMA cuando dice que "esto pone performance de Opus 4.5 en una máquina que una persona normal puede comprar".

Lo importante de la arquitectura MoE: aunque el modelo tiene 2.4T de parámetros totales, solo se activan 95B por token. Esto es lo que lo hace servible. Si fuera denso a 2.4T, hablar de "correrlo localmente" sería ciencia ficción. El truco de MoE es que la memoria que pagas es por la cantidad de expertos cargados, no por la cantidad de expertos que usas en cada paso.

Qué se puede hacer hoy y qué no

Para el 90% de los que leen esto, la respuesta honesta es: nada localmente con este modelo específico, salvo que tengas un cluster hogareño de varios miles de dólares. Lo que sí puedes hacer es:

1. Esperar al Qwen3.8-27B denso que sale el viernes. Es la versión que la mayoría de la gente va a terminar corriendo. 27B densos en 4-bit te entra en una Mac con 32 GB de RAM unificada o en una sola RTX 4090, y según la tarjeta de modelo de Qwen hereda mucho del training del grande.

2. Estudiar la arquitectura. El repo viene con un tech report detallado que documenta decisiones de routing, sparsity pattern, y curriculum de entrenamiento. Si estás trabajando en agentes o sistemas de inferencia custom, leer el paper vale más que probar el modelo.

3. Usar las versiones destiladas. La comunidad ya está sacando GGUF, AWQ y GPTQ del 27B denso. Como vimos en Swiftlet, cuando hay un modelo denso pequeño que hereda conocimiento de uno grande MoE, la delta de calidad para coding y agentes es marginal.

Regla de oro para IA local en 2026: la escala 2.4T MoE es un techo. Tu techo operativo real está entre 7B y 70B densos, según RAM. Cualquier cosa más grande corre en un endpoint serverless o en un cluster, no en tu Mac.

Lo que la versión open NO tiene (y por qué)

La versión open-weights de Qwen3.8-2.4T-A95B viene con tres recortes respecto a la versión comercial Qwen3.8-Max:

• Sin visión. La entrada multimodal fue removida en el release open. La comunidad ya está hablando de "boltearle" un vision tower tipo Kimi 2.6 o DeepSeek V4 Flash (hay experimentos documentados en r/LocalLLaMA con modelos similares). Funciona, pero la performance cae.
• Contexto nativo de 262k tokens, extensible hasta ~1M con técnicas de extensión de contexto. Funciona, pero como pasó con Qwen 3.5 397B (que se mantiene estable hasta ~480k), hay que probar bien antes de confiar.
• Sin soporte out-of-the-box para DSpark / DFlash (decoding speculativo). Sí viene con MTP (Multi-Token Prediction), así que hay boost de throughput vía tensor parallelism, pero no tienes el speedup agresivo de los kernels especulativos nativos.

Es la misma jugada que hizo Meta con Llama, Alibaba con Qwen, y DeepSeek con V3: abrir la arquitectura, no abrir todo el stack. El modelo base está; las optimizaciones de serving quedan pagas.

La licencia, en una línea

La licencia es permisiva, con dos caveats que importan:

• Uso libre, incluido el comercial, con una excepción: si ofreces el modelo como servicio (API o endpoint para terceros) o como asistente de IA para coding u ofimática, y tus ingresos superan los USD 50M en doce meses, necesitas una licencia aparte de Qwen.
• Atribución obligatoria si tu producto supera los 100 millones de usuarios mensuales o USD 20M de ingresos mensuales: el nombre del modelo tiene que verse en la interfaz.

Si estás trabajando en un side project o en una startup pequeña, no tienes que preocuparte. Si estás en una empresa mediana construyendo un producto comercial sobre Qwen3.8, lee la licencia antes de meterlo en producción. Es la parte que la mayoría de los tweets sobre el lanzamiento se saltean.

Benchmarks: ¿qué tan bueno es, realmente?

La tarjeta del modelo compara Qwen3.8-Max (la versión comercial basada en este modelo, no exactamente los pesos abiertos) con Opus 4.8, GPT-5.6 Sol y Fable 5: pelea mano a mano con los dos primeros y queda por debajo de Fable 5 en la mayoría de los tests. La comunidad en HN fue más escéptica: varios comentarios señalaban que la correlación benchmark→uso real de Qwen fue históricamente irregular. La advertencia honesta es: espera a evaluaciones independientes (sobre todo en coding agents, que es donde más se nota la diferencia entre "lidera el ranking" y "realmente te resuelve tu ticket") antes de apostar a este modelo sobre alternativas más probadas.

Lectura crítica: la métrica que más importa para agentes no está en los benchmarks estándar. Es "qué tan bien sigue instrucciones multi-step, con tool use real, en un loop largo". Eso se mide en logs de producción, no en tarjetas de HF. Toma los números como techo, no como piso.

Cómo se conecta con el resto de la conversación sobre IA local

Lo que Qwen3.8-2.4T-A95B confirma es una tendencia que vengo viendo este año: el techo del open-weights se está separando del piso del open-weights. El techo (este modelo, Kimi k3, GLM 5.2) vive en data centers. El piso operativo para devs (Qwen 27B denso, Llama 3.x 70B, DeepSeek V4 Flash, GLM 5.2 destilado) vive en tu Mac o en una sola GPU. Los dos extremos se entrenan juntos, se sirven distinto, y se usan para cosas distintas.

Si trabajas en coding agents o sistemas multi-agente, el flujo real es: usar el modelo grande en una API barata (Alibaba Cloud, DeepSeek, Together) para razonamiento pesado, y un modelo denso local para tareas repetitivas o sensibles a privacidad. La promesa de "todo open-weights, todo local" sigue siendo aspiracional para el 99% de los casos reales.

Para los que estén montando un homelab serio con varios miles de dólares para gastar, Swiftlet y Cua en macOS VM ya mostraron que se puede llegar muy lejos con el hardware correcto. La cuantización 1-bit de Qwen3.8 lleva esa línea más lejos: performance de Opus 4.5 en una máquina que efectivamente podrías tener en tu casa, si tu casa es un datacenter pequeño. No es para todos. Pero la opción existe.

Fuentes

• Qwen3.8-2.4T-A95B en Hugging Face — tarjeta del modelo
• Licencia de Qwen3.8
• Hilo de Hacker News