XDA publicó un artículo este mes argumentando que Docker convirtió una configuración de IA local en algo que pueden reconstruir en cuatro minutos. Ese es el punto real de una pila de IA containerizada en el escritorio: los pesos del modelo y el historial de chat viven en un volumen montado, y el resto de la pila (la interfaz, el motor de inferencia, el proxy inverso) es desechable. Elimínalo, edita un archivo compose, enciéndelo de nuevo.
Probamos siete aplicaciones de IA de escritorio contra ese objetivo en Windows, macOS y Linux. Los siete envían imágenes Docker oficiales o vienen con un comando docker run de una línea, y los siete separan el estado del tiempo de ejecución para que una reconstrucción no pierda tu historial.
Qué buscar en una aplicación de IA amigable con Docker
- Imagen Docker oficial. Las imágenes de terceros se mueven lentamente y a veces se retrasan en los parches de seguridad.
- Estado montado en volumen. El historial de chat, indicaciones personalizadas y pesos de modelo deben vivir en una ruta de host.
- Paso a través de GPU. Soporte de runtime NVIDIA en Linux, WSL2 en Windows, Metal-on-host en macOS.
- API compatible con OpenAI. Te permite cambiar la aplicación sin reescribir el código del cliente.
- Web UI en una red. Una aplicación de escritorio que también sirve un navegador te permite usarla desde otras habitaciones.
- Trae tu propio modelo. Los cargadores GGUF y safetensors te permiten usar los modelos que ya descargaste.
Comparación rápida
| Aplicación | Mejor para | Plan gratuito | Precio inicial | Calificación |
|---|---|---|---|---|
| Open WebUI | Interfaz web para LLM locales | Completo | Gratis | 4.8/5 |
| Ollama | Runtime de modelo de una línea | Completo | Gratis | 4.8/5 |
| LocalAI | Sustitución compatible con OpenAI | Completo | Gratis | 4.7/5 |
| LM Studio | GUI con navegador de modelos | Completo | Gratis (nivel pago para equipos) | 4.7/5 |
| Jan | Cliente de escritorio nativo | Completo | Gratis | 4.6/5 |
| LiteLLM | Proxy multi-proveedor | Completo | Contrato Enterprise | 4.7/5 |
| Msty | Cliente multimodelo pulido | Sí | $49/año Pro | 4.6/5 |
Las aplicaciones
1. Open WebUI – La mejor interfaz web para LLM locales
Open WebUI es la interfaz que la mayoría de la gente quiere decir cuando dice “ChatGPT local”. Envía una imagen Docker oficial, monta todo (configuración, usuarios, documentos RAG) en un solo volumen y se conecta a Ollama o cualquier punto final compatible con OpenAI de serie. Una reconstrucción de cuatro minutos es realista: docker compose down, edita la etiqueta, docker compose up, y los chats están exactamente donde los dejaste.
Donde se queda corto: El techo de características de la interfaz es alto y la superficie de configuración es densa. Los nuevos usuarios necesitan una hora con los documentos.
Precios:
- Gratis, con licencia MIT.
- Soporte Enterprise ofrecido por separado.
Plataformas: Se ejecuta donde quiera que Docker se ejecute — Windows (WSL2 o Docker Desktop), macOS, Linux.
Conclusión: Instala Open WebUI primero. Es la puerta delantera sensata para una pila Docker AI.
2. Ollama – El mejor runtime de modelo
Ollama es la razón por la que el actual boom de LLM local es posible. Un CLI, una biblioteca de modelos GGUF y una API REST en el puerto 11434 que ya hablan una docena de interfaces (incluidas Open WebUI, Jan y Msty). La imagen Docker admite paso de GPU NVIDIA en Linux; la compilación nativa de macOS usa Metal directamente en el host.
Donde se queda corto: La convención de nombres de modelo de Ollama diverge de Hugging Face, lo que es confuso cuando copias un fragmento.
Precios:
- Gratis, con licencia MIT.
Plataformas: Windows, macOS, Linux nativos; imagen Docker disponible para los tres.
Conclusión: Empareja Ollama con Open WebUI para el camino más corto hacia un modelo local que funcione.
3. LocalAI – La mejor sustitución compatible con OpenAI
LocalAI es una API auto-hospedada que habla el protocolo OpenAI byte por byte, por lo que todo lo que construiste contra ChatGPT funciona contra ella. Esto incluye CrewAI, LangChain, LlamaIndex y el cliente Python de OpenAI. La imagen Docker oficial admite modelos GGUF, safetensors, whisper, stable-diffusion y text-to-speech bajo el mismo punto final.
Donde se queda corto: Sin interfaz de chat de primera parte; emparéjalo con Open WebUI.
Precios:
- Gratis, con licencia MIT.
Plataformas: Docker en Windows, macOS, Linux.
Conclusión: Elige LocalAI si el código que quieres ejecutar ya habla la API de OpenAI.
4. LM Studio – La mejor GUI con navegador de modelos
LM Studio es una aplicación de escritorio nativa con un navegador de modelos incorporado al estilo de Hugging Face y carga de un clic. Expone un servidor compatible con OpenAI en localhost:1234 y puede ejecutarse dentro de un contenedor Docker en Linux con soporte de GPU. La facilidad de reconstrucción proviene de un directorio de configuración sencillo que se monta limpiamente.
Donde se queda corto: La interfaz de escritorio no está tan pulida en Linux como en macOS. El nivel pago está dirigido a equipos, no a individuos.
Precios:
- Gratis para uso personal.
- LM Studio for Work nivel pago para equipos.
Plataformas: Windows, macOS, Linux (Docker o nativo).
Conclusión: Usa LM Studio si quieres examinar e intercambiar modelos visualmente.
5. Jan – El mejor cliente de escritorio nativo
Jan es la aplicación de escritorio de IA local más limpia completamente nativa. El cliente Electron se ejecuta en los tres sistemas operativos, envía una API local compatible con OpenAI e se integra con Ollama, LocalAI y modelos remotos. Jan también puede ejecutarse dentro de un contenedor Docker como servidor headless en una caja del hogar.
Donde se queda corto: El ecosistema de extensiones es más pequeño que el de Open WebUI.
Precios:
- Gratis, con licencia AGPL.
Plataformas: Windows, macOS, Linux.
Conclusión: Elige Jan si quieres una aplicación nativa en lugar de una pestaña del navegador.
6. LiteLLM – El mejor proxy multi-proveedor
LiteLLM es un proxy que habla la API de OpenAI con tu aplicación y reenvía a cualquier proveedor (OpenAI, Anthropic, Ollama, Bedrock, Vertex, Groq). Colócalo frente a tu pila Docker AI y cambiar proveedores es un cambio de configuración, no un cambio de código. La imagen Docker oficial maneja autenticación, límites de velocidad y presupuestos por usuario.
Donde se queda corto: Sin interfaz de chat propia; es infraestructura.
Precios:
- Gratis, con licencia MIT.
- LiteLLM Enterprise vendido por separado.
Plataformas: Docker en Windows, macOS, Linux.
Conclusión: Añade LiteLLM frente a Ollama y Open WebUI si también usas proveedores de API pagados.
7. Msty – El mejor cliente multimodelo pulido
Msty es el más pulido de los clientes de escritorio. Admite respuestas de modelos lado a lado, vistas divididas para comparar salidas y una biblioteca de indicaciones limpia. Ejecuta modelos locales a través de Ollama y modelos remotos sobre API. Msty no envía oficialmente una imagen Docker, pero la aplicación nativa juega bien con un backend Docker.
Donde se queda corto: Código cerrado; características Pro bloqueadas detrás de una suscripción.
Precios:
- Tier gratuito para uso personal.
- Msty Pro alrededor de $49/año.
Plataformas: Windows, macOS, Linux.
Descargar: Sitio web
Conclusión: Elige Msty por el cliente con mejor aspecto, especialmente para la comparación de modelos lado a lado.
Cómo elegir el correcto
- Si quieres la opción más simple: Ollama más Open WebUI en un archivo docker compose.
- Si necesitas una sustitución compatible con OpenAI: LocalAI o LiteLLM al frente.
- Si quieres examinar modelos visualmente: LM Studio.
- Si prefieres una aplicación nativa: Jan o Msty.
- Si enrutas entre OpenAI, Anthropic y local: LiteLLM.
- Si quieres comparación de modelos lado a lado: Msty.
- Si probaste un script Python casero y perdiste tu historial: Open WebUI, porque el historial vive en un volumen Docker que sobrevive a cada reconstrucción.
FAQ
¿Cuál es la forma más rápida de ejecutar un LLM local en el escritorio con Docker?
docker run ollama/ollama, luego docker run open-webui/open-webui con el flag de red apuntando a Ollama. Ambas son imágenes oficiales. El artículo de XDA que inspiró esta lista está haciendo aproximadamente esto.
¿Necesito una GPU?
No, pero la inferencia de CPU es lenta. Una tarjeta NVIDIA modesta, una Mac con Apple Silicon o un AMD Ryzen con iGPU offload funcionan todos. Ollama y LM Studio usan automáticamente el mejor backend disponible.
¿Pueden estas aplicaciones hablar también con API remotas?
Sí. Open WebUI, LiteLLM, LM Studio, Jan y Msty admiten OpenAI, Anthropic y otros proveedores remotos junto con modelos locales.
¿Cuál es la mejor aplicación de escritorio de IA gratuita?
Open WebUI más Ollama es la pila gratuita en la que convergen la mayoría de las personas. Jan y LM Studio son fuertes alternativas nativas.
¿Cómo mantengo el historial de chat en reconstrucciones de contenedores?
Monta el directorio de estado como un volumen Docker. Open WebUI almacena todo en /app/backend/data; LocalAI bajo /build/models; Jan bajo su directorio de configuración. Persiste ese volumen en el host y las reconstrucciones no perderán el historial.
