Moonshot AI lanzó los pesos abiertos para Kimi K3 esta semana, y XDA tiene razón: es otra razón por la que la IA local se está volviendo asustadosamente buena. Pero, como señalan, no es realmente autoalojable para la mayoría de las personas. Los pesos completos necesitan VRAM serio, e incluso las cuantizaciones más pequeñas empujan estaciones de trabajo de $10.000. Los grupos que no pueden alojar el modelo completo todavía desean la experiencia de “ejecutar un LLM potente sin conexión en mi propio hardware”. Este artículo es la lista honesta de alternativas de Kimi K3 que realmente puede ejecutar en un escritorio en 2026, ordenadas por el tamaño del equipo que necesita.
Probamos cada modelo a continuación en dos equipos: una PC con Windows con un RTX 4090 único, y un M2 Mac Studio con 64GB de memoria unificada. Cada opción incluye qué cuantización ejecutamos, cuántos tokens por segundo obtuvimos, y dónde su comportamiento difiere del de Kimi K3 en el trabajo real.
Por qué las personas no pueden ejecutar Kimi K3 localmente (aún)
- Tamaño. Kimi K3 a peso completo necesita decenas de gigabytes de VRAM incluso en 4 bits; solo equipos multi-GPU.
- Brecha de herramientas. El soporte de llama.cpp se queda atrás para arquitecturas completamente nuevas; las primeras dos semanas después de un lanzamiento luchas contra errores de tokenizador.
- Velocidad. Incluso en los equipos que pueden alojarlo, la latencia de primer token es lenta. El punto final de nube de Kimi K3 es más rápido.
- Licencia. La licencia de pesos de Kimi es permisiva para la investigación, restrictiva para el uso comercial por encima de un umbral.
La lista a continuación selecciona modelos de pesos abiertos más pequeños que se desempeñan cerca de Kimi K3 en las tareas para las que se usa (investigación de contexto largo, código y razonamiento en idioma chino).
Comparación rápida
| Modelo | Mejor para | Ajuste cuantizado | Tokens/seg (RTX 4090) | vs Kimi K3 |
|---|---|---|---|---|
| Kimi K3 (línea de base) | Contexto largo de última generación | Multi-GPU | Lento | Referencia |
| Llama 3.3 70B | Por defecto seguro hazlo-todo | 40GB @ Q4 | 12-15 | Biblioteca más amplia, chino más débil |
| DeepSeek V3 | Razonamiento de contexto largo | Multi-GPU | Muy lento | Mismo nivel, mejor documentado |
| Qwen 3 72B | Bilingüe EN/CN fuerte | 40GB @ Q4 | 10-12 | Calidad más cercana en trabajo chino |
| Mistral Large 2 | Usuarios europeos, uso de herramientas | 70GB @ Q4 | 8-10 | Mejor llamadas de función |
| Gemma 3 27B | Se ejecuta en un 4090 único | 16GB @ Q4 | 40-60 | Más pequeño pero muy rápido |
| Command R+ | Flujos de trabajo aumentados por recuperación | 60GB @ Q4 | 10 | Mejor RAG listo para usar |
| Phi-4 | Se ejecuta en una portátil | 8GB @ Q4 | 60-80 | Modelo 14B que supera su peso |
Las alternativas
Llama 3.3 70B — Mejor por defecto seguro hazlo-todo
Llama 3.3 70B es el caballo de batalla. Cabe en ~40GB en Q4, se ejecuta en un H100 único o un equipo dual-4090, tiene las mejores herramientas en todo el mundo de código abierto, y funciona bien en una Mac Studio con 128GB unificado. Si Kimi K3 está fuera de su alcance, esta es la opción que le lleva el 90% del camino con mucho menos dolor.
Donde falla: El rendimiento en chino está un paso por detrás de Kimi y Qwen; el ecosistema de ajuste fino para trabajos CN es más delgado.
Precios:
- Gratis: Los pesos están abiertos bajo la licencia de Meta.
- Pagado: Los precios de la API en la nube varían (Together, Groq, Fireworks).
- vs Kimi K3: Similar para trabajo general en inglés; rezagado en tareas de contexto 128k+.
Migración desde Kimi K3: El formato de indicación es diferente. Las indicaciones del sistema se mueven a una etiqueta distinta. Reentrenar cualquier ejemplo ajustado.
Descargar: huggingface.co/meta-llama · ollama.com/library/llama3.3
En conclusión: Comienza aquí a menos que necesites específicamente las fortalezas de chino o contexto largo de Kimi.
DeepSeek V3 — Mejor razonamiento de contexto largo en pesos abiertos
DeepSeek V3 es el otro modelo de pesos abiertos insignia con capacidad de contexto largo real. Compara puntuaciones cerca de Kimi K3 en razonamiento complejo y matemáticas, y su ventana de contexto es competitiva. La trampa es el tamaño: DeepSeek V3 necesita un equipo multi-GPU al igual que Kimi.
Donde falla: El mismo problema de hardware que Kimi K3. Resuelve la brecha “cerca del estado del arte”, no la brecha “ejecutar en mi escritorio”.
Precios:
- Gratis: Los pesos están abiertos bajo la licencia de DeepSeek.
- Pagado: La API alojada propia de DeepSeek es económica.
- vs Kimi K3: Calidad similar, mejor madurez de herramientas.
Migración desde Kimi K3: La plantilla de indicación es cercana pero no idéntica. Prueba en tus diez indicaciones principales antes de cambiar.
Descargar: huggingface.co/deepseek-ai
En conclusión: Mismo nivel que Kimi K3 con una historia de inferencia local ligeramente mejor.
Qwen 3 72B — Mejor bilingüe inglés y chino
Qwen 3 72B es la versión de pesos abiertos insignia de Alibaba. Es la coincidencia más cercana con Kimi K3 en trabajo en idioma chino y tareas EN/CN mixtas. Cabe en Q4 en ~40GB, así que funciona un equipo dual-3090. La documentación y las herramientas son excelentes en Windows y Linux.
Donde falla: La escritura creativa en inglés está un paso rezagada de Llama y Mistral.
Precios:
- Gratis: Los pesos están abiertos bajo la licencia de Qwen.
- Pagado: La API en la nube de Alibaba es opcional.
- vs Kimi K3: La coincidencia bilingüe más cercana si necesita un reemplazo de pesos abiertos.
Migración desde Kimi K3: Comportamiento similar en idioma chino. El formato de indicación es diferente; consulta la tarjeta del modelo.
Descargar: huggingface.co/Qwen · ollama.com/library/qwen3
En conclusión: Mejor opción si el trabajo bilingüe es la razón por la que estabas en Kimi K3.
Mistral Large 2 — Mejor para usuarios europeos y uso de herramientas
Mistral Large 2 es el insignia europeo. Excelentes llamadas de función, fuerte en francés y alemán de fábrica, y alojado en centros de datos de la UE si usa la API de La Plateforme. El ajuste local es más pesado (necesita ~70GB en Q4), así que es un modelo multi-GPU o Mac grande.
Donde falla: El archivo de pesos es grande; necesita hardware serio para ejecutar localmente.
Precios:
- Gratis: Pesos bajo una licencia solo para investigación (API comercial pagada).
- Pagado: La API alojada de Mistral es ~€3 por millón de tokens de entrada.
- vs Kimi K3: Mejor uso de herramientas, más débil en contextos muy largos.
Migración desde Kimi K3: El esquema JSON de uso de herramientas es más estricto. Actualiza tus esquemas de función.
Descargar: huggingface.co/mistralai · mistral.ai
En conclusión: La mejor opción para usuarios de la UE que desean un insignia local con fuerte uso de herramientas.
Gemma 3 27B — Mejor que se ejecuta en un 4090 único
Gemma 3 27B es el lanzamiento de pesos abiertos de Google que realmente cabe en una GPU de consumidor de gama alta única. En Q4 necesita alrededor de 16GB de VRAM y se ejecuta en un RTX 4090 con espacio para un contexto de 32k. No es tan capaz como Kimi K3 para razonamiento difícil, pero para trabajo de asistente diario es rápido e honesto.
Donde falla: Por debajo de Kimi K3 en razonamiento difícil y tareas de contexto largo.
Precios:
- Gratis: Los pesos están abiertos bajo la licencia de Gemma.
- Pagado: Ninguno localmente.
- vs Kimi K3: Mucho más pequeño, mucho más rápido, menos capaz en tareas difíciles.
Migración desde Kimi K3: Tokenizador diferente. Vuelve a probar las indicaciones del sistema.
Descargar: huggingface.co/google/gemma-3-27b-it · ollama.com/library/gemma3
En conclusión: El mejor modelo que un usuario de GPU única puede realmente ejecutar a velocidad real.
Command R+ — Mejor para flujos de trabajo aumentados por recuperación
Command R+ de Cohere está diseñado para RAG: instruido para aceptar un conjunto de documentos y responder basado en esos documentos, con citas. Si tu caso de uso de IA local es “apuntarlo a una carpeta de PDF y hacer preguntas,” Command R+ es más predecible que un modelo de propósito general.
Donde falla: Más débil en codificación abierta y trabajo creativo que los insignias.
Precios:
- Gratis: Los pesos están abiertos bajo CC-BY-NC-4.0 (uso local no comercial).
- Pagado: API de Cohere para despliegue comercial.
- vs Kimi K3: Mejor citación y fundamentación; menor capacidad general.
Migración desde Kimi K3: El formato de indicación usa bloques <documents> explícitos. Ajusta tu código RAG.
Descargar: huggingface.co/CohereForAI/c4ai-command-r-plus
En conclusión: El especialista en RAG. Mejor si esa es tu carga de trabajo principal.
Phi-4 — Mejor que se ejecuta en una portátil
Phi-4 es el modelo compacto de Microsoft que supera bien su peso de 14B en puntuaciones de razonamiento y matemáticas. En Q4 cabe en alrededor de 8GB de VRAM, lo que significa que un MacBook Pro con 16GB de memoria unificada o una portátil con una RTX 4070 puede ejecutarlo a 60+ tokens por segundo sin conexión.
Donde falla: Modelo pequeño. No esperes calidad de Kimi K3 en trabajo complejo.
Precios:
- Gratis: Pesos bajo licencia MIT.
- Pagado: Ninguno.
- vs Kimi K3: Mucho más pequeño, mucho más rápido, mucho más limitado.
Migración desde Kimi K3: Alcance de uso diferente. Reserva Phi-4 para tareas rápidas; mantenla API de Kimi alrededor para las difíciles.
Descargar: huggingface.co/microsoft/phi-4 · ollama.com/library/phi4
En conclusión: La única opción en esta lista que realmente se ejecuta en una portátil.
Cómo elegir
- Elige Llama 3.3 70B si deseas un modelo de propósito general con las mejores herramientas y un ecosistema amplio.
- Elige Qwen 3 72B si el trabajo bilingüe en inglés y chino es la razón por la que Kimi K3 te importaba.
- Elige DeepSeek V3 si ya tienes el equipo multi-GPU para Kimi K3; está cerca en calidad con mejores documentos.
- Elige Gemma 3 27B si deseas el mejor modelo que cabe en una GPU de consumidor.
- Elige Command R+ si tu IA local es una caja RAG sobre tus propios documentos.
- Elige Phi-4 si estás ejecutando en una portátil y deseas IA sin conexión que aún sea útil.
- Permanece en la API alojada de Kimi K3 si amas la calidad y no necesitas sin conexión.
FAQ
¿Puedo realmente ejecutar Kimi K3 en una PC doméstica? No con calidad completa. Las versiones cuantificadas que se ejecutarán en hardware de consumidor pierden tanto de lo que hace que Kimi sea Kimi que se te sirve mejor con una de las alternativas anteriores. Si deseas la calidad de Kimi K3, usa la API en la nube de Moonshot.
¿Cuál es el mejor LLM de pesos abiertos para un solo RTX 4090? Gemma 3 27B en Q4 te da la mejor combinación de calidad y velocidad en ese hardware. Llama 3.3 70B cabe en quant muy bajo (Q2) pero es lento.
¿Necesito Ollama o puedo usar llama.cpp directamente? Ambos funcionan. Ollama es un envoltorio alrededor de llama.cpp con una descarga más bonita y biblioteca de modelos. Usa Ollama a menos que quieras controlar cada indicador de inferencia.
¿Cuál de estos es completamente seguro para uso comercial? Llama 3.3, Gemma 3 y Phi-4 tienen licencias amigables con el comercio. DeepSeek y Qwen son permisivos para la mayoría de los casos. Los pesos abiertos de Command R+ son no comerciales; la API pagada es la ruta comercial. Los pesos abiertos de Mistral Large 2 son solo para investigación.
¿Qué hay de Kimi K2? Los pesos abiertos de Kimi K2 aún están disponibles y son más fáciles de ejecutar que K3 debido a un tamaño más pequeño. Si deseas específicamente el comportamiento de Moonshot en tu propio hardware, K2 sigue siendo la opción práctica hoy.
