Proxmox 9.2, lanzado en agosto de 2026, llegó con una actualización del kernel que rompió los módulos del kernel abierto de NVIDIA para muchos usuarios de laboratorios caseros que ejecutan LLM locales, y la solución resultó ser un controlador parcheado que NVIDIA lanzó aproximadamente una semana después. Ese es el patrón que cada propietario de Proxmox que ejecuta una GPU para inferencia llegará a conocer: llega una actualización del kernel, el controlador rechaza los nuevos encabezados, nvidia-smi devuelve “No devices were found”, y Ollama o vLLM no se inicia hasta que reconstruyas.
Las mejores aplicaciones para gestionar controladores NVIDIA en Proxmox para cargas de trabajo LLM locales reducen ese patrón de una crisis a una rutina. Aquí hay siete herramientas de escritorio que vale la pena tener instaladas antes de la próxima actualización del kernel.
Qué buscar en una pila Proxmox NVIDIA
Comienza con la ruta de instalación del controlador. El instalador .run proporcionado por el proveedor funciona y vale la pena entender, pero para un laboratorio casero quieres la reproducibilidad de un paquete. Eso significa un .deb firmado del repositorio CUDA de NVIDIA o una ruta que se pueda escribir en script que fije una versión conocida del controlador.
Fíjate en DKMS. Dynamic Kernel Module Support reconstruye el módulo NVIDIA cuando se actualiza el kernel. Si omites DKMS, reconstruyes manualmente en cada actualización del kernel, y ahí es donde viven los errores. Confirma que el módulo DKMS realmente se reconstruye después de la actualización en lugar de fallar silenciosamente.
Vigila el lado del paso de GPU. Si la GPU se pasa a una VM en lugar de ejecutarse en el host, el módulo vive dentro de la VM y Proxmox necesita el enlace vfio-pci para mantener al host alejado de la tarjeta. El paso roto a menudo se confunde con un controlador roto.
Por último, planifica la supervisión y la reversión. nvidia-smi en un bucle te dice que la tarjeta está viva; Netdata muestra la utilización a lo largo del tiempo; una instantánea del host tomada antes de una actualización significa que la reversión es una operación de un clic de restauración de Proxmox.
Comparación rápida
| Aplicación | Rol | Plan gratuito | Nivel pagado | Característica destacada |
|---|---|---|---|---|
| Proxmox VE | El hipervisor en el que NVIDIA tiene que vivir | Gratuito, código abierto | Suscripción pagada para repositorio empresarial | Instantánea antes de cada actualización de controlador arriesgada |
| NVIDIA driver installer | Envía los módulos CUDA y del kernel | Gratuito | Gratuito | .deb firmado e instalador de red que sobreviven a las actualizaciones del kernel |
| Aprox Proxmox client | Accede a la consola de Proxmox desde el teléfono o el escritorio | Gratuito | Gratuito | Reinicia una VM sin abrir el navegador |
| Ollama | Ejecutor de LLM local que consume la GPU | Gratuito, código abierto | Gratuito | Instalación de una línea, extracción de modelo de una línea |
| Open WebUI | Interfaz de chat encima de Ollama o vLLM | Gratuito, código abierto | Gratuito | Chat multimodelo, RAG, sin dependencias en la nube |
| vLLM | Servidor de inferencia de LLM de alto rendimiento | Gratuito, código abierto | Gratuito | La alternativa de mayor rendimiento a Ollama para configuraciones ocupadas |
| NVIDIA System Management Interface | La línea de comandos nvidia-smi |
Gratuito, viene con el controlador | Gratuito | La herramienta que ejecutas primero cuando algo se rompe |
| Netdata | Métricas de GPU y sistema en vivo | Nivel gratuito | Planes de nube pagados | Utilización de GPU, temperatura y VRAM a lo largo del tiempo |
1. Proxmox VE
Proxmox VE es el hipervisor en la base de la pila. Para cargas de trabajo NVIDIA, la configuración que más importa es la disciplina de instantáneas: toma una instantánea del host y la VM portadora de GPU antes de cada cambio de controlador o kernel arriesgado, para que la reversión sea una operación de dos clics. El programa de Copia de seguridad de la interfaz web de Proxmox puede automatizar la instantánea de LXC o VM; el host mismo necesita un enfoque separado (una instalación sin estado, una instantánea ZFS del grupo raíz, o una nota manual de las banderas del instalador).
Dónde se queda corta: Proxmox en sí no ofrece un asistente de paso de GPU de primera parte. Lo configuras a través de la CLI y /etc/pve/qemu-server/<vmid>.conf.
Precios: Gratuito con repositorio de la comunidad. La suscripción pagada para el repositorio empresarial comienza con una tarifa anual modesta por socket.
Plataformas: Metal desnudo en el cuadro de cálculo.
Descargar: Proxmox VE
Resumen: la base. Toma una instantánea antes de cada actualización del controlador.
2. NVIDIA driver installer
El instalador del controlador NVIDIA viene como un paquete de repositorio CUDA firmado o un instalador .run. Para laboratorios caseros de Proxmox, el repositorio CUDA es la ruta más confiable: agrega el repositorio, instala nvidia-driver-open (los módulos del kernel abierto) con DKMS, reinicia, verifica nvidia-smi. Cuando llega una actualización del kernel, DKMS reconstruye el módulo; cuando no, reconstruyes una vez manualmente y registras la corrección.
Dónde se queda corta: los módulos del kernel abierto aún son la ruta más nueva. Algunas tarjetas más antiguas necesitan los módulos propietarios, y la matriz de versión vale la pena leer antes de actualizar.
Precios: Gratuito.
Plataformas: Linux (Debian, Ubuntu y derivados, que usa Proxmox).
Descargar: NVIDIA CUDA repository
Resumen: la instalación del repositorio con DKMS es la configuración que más sobrevive a las actualizaciones del kernel.
3. Aprox Proxmox client
Aprox es un cliente de teléfono para Proxmox. Cuando una actualización del controlador sale mal a mitad del día laboral, Aprox te permite reiniciar la VM afectada, revertir a una instantánea o consultar el historial de tareas sin abrir un navegador. Lee la misma API de Proxmox que usa la interfaz web.
Dónde se queda corta: es un cliente, no un reemplazo. La configuración profunda sigue siendo a través de la interfaz web.
Precios: Gratuito.
Plataformas: Android; utilizable desde Windows y ChromeOS a través de tiempos de ejecución de Android.
Descargar: Aptoide · Google Play
Resumen: el cliente de recuperación rápida para un laboratorio casero en el que no deseas iniciar sesión en un escritorio completo.
4. Ollama
Ollama es la forma más fácil de ejecutar un LLM local en una GPU de Proxmox. Instala en una VM o contenedor LXC con GPU pasa a través, extrae un modelo con un comando de una línea, y Ollama expone una API local en la forma estándar similar a OpenAI. Los laboratorios caseros que comenzaron con Ollama y nunca se fueron rara vez se arrepienten.
Dónde se queda corta: el rendimiento es menor que vLLM con concurrencia. Para una configuración de chat doméstico esto no importa; para un equipo pequeño podría.
Precios: Gratuito, código abierto.
Plataformas: Linux, macOS, Windows.
Descargar: Ollama
Resumen: el ejecutor por defecto para un GPU de laboratorio casero que aún no está sirviendo vLLM.
5. Open WebUI
Open WebUI es la interfaz de chat que se sienta encima de Ollama o vLLM. Maneja chat multimodelo, RAG contra documentos locales, historial de conversación compartido y varias cuentas de usuario. Ejecuta en un contenedor en la misma VM que Ollama y aparece en una URL que puedes marcar.
Dónde se queda corta: es otra pieza en movimiento. Si solo chateas desde una terminal, curl contra la API de Ollama funciona bien.
Precios: Gratuito, código abierto.
Plataformas: Docker (cualquier host).
Descargar: Open WebUI
Resumen: la interfaz amigable para una configuración de LLM doméstica.
6. vLLM
vLLM es el servidor de inferencia de mayor rendimiento para cuando un hogar o un equipo pequeño genera suficientes tokens por segundo para que Ollama se ralentice. Admite atención paginada, solicitudes por lotes y modelos de host con mucha mayor concurrencia. La configuración es más complicada y sensible a la versión de CUDA.
Dónde se queda corta: no es la experiencia “instalar y olvidar” que es Ollama. Espera leer las notas de la versión y hacer coincidir las versiones de CUDA y PyTorch.
Precios: Gratuito, código abierto.
Plataformas: Linux con CUDA.
Descargar: vLLM
Resumen: la opción cuando la concurrencia importa más que la simplicidad de la configuración.
7. NVIDIA System Management Interface
nvidia-smi es el comando que ejecuta primero cada usuario de Proxmox-plus-NVIDIA cuando algo se rompe. Muestra la versión del controlador, el tiempo de ejecución de CUDA, la utilización de la GPU, el uso de VRAM, los procesos activos, las temperaturas y la potencia. Cuando llega una actualización del kernel, nvidia-smi es la primera lectura honesta de si el controlador sobrevivió.
Dónde se queda corta: es una CLI. Hay un bucle gráfico nvidia-smi -l 1 que puedes dejar en un panel de tmux, pero no es un panel de control.
Precios: Gratuito, viene con el controlador.
Plataformas: Linux, Windows (a través del controlador NVIDIA).
Descargar: Incluido con la instalación del controlador NVIDIA anterior.
Resumen: la primera herramienta que debes ejecutar después de cada cambio de kernel o controlador.
8. Netdata
Netdata recoge el recolector NVIDIA automáticamente cuando se instala el controlador. Representa la utilización de la GPU, VRAM, potencia y temperatura a granularidad de nivel de segundo en el navegador. Históricamente, así es como detectas un estrangulamiento térmico que una ejecución de referencia no reporta.
Dónde se queda corta: la retención a largo plazo en el nivel gratuito es limitada. Almacena métricas históricas en Prometheus si un año de historial de GPU importa.
Precios: Nivel gratuito para un pequeño número de nodos. Los planes de nube pagados añaden retención.
Plataformas: Linux (agente), cualquier navegador (panel de control).
Descargar: Netdata
Resumen: la forma más rápida de detectar un comportamiento erróneo de la GPU a lo largo del tiempo.
Cómo elegir
Todo GPU de laboratorio casero debe comenzar con Proxmox VE (instantánea antes de cambios de controlador), el repositorio CUDA de NVIDIA con DKMS, y nvidia-smi como herramienta de comprobación primaria. Agrega Ollama más Open WebUI para una configuración de LLM amigable, o vLLM si el rendimiento importa. Instala Aprox para control de lado de teléfono y Netdata para visibilidad de GPU continua. Cuando llega una actualización del kernel, primero instantánea, segundo actualiza, tercero ejecuta nvidia-smi, cuarto comprueba el panel de GPU de Netdata. Si algo falla, el cliente Aprox es más rápido que abrir un navegador para revertir.
FAQ
¿Por qué Proxmox 9.2 rompió mis LLM locales?
La actualización del kernel estaba por delante del soporte del controlador NVIDIA para él. NVIDIA lanzó un controlador parcheado aproximadamente una semana después; instalando ese controlador, luego ejecutando dkms status y reiniciando, restauró nvidia-smi y Ollama.
¿Debo usar los módulos NVIDIA abiertos o propietarios en Proxmox?
Para tarjetas Ampere y más nuevas recientemente, los módulos del kernel abierto son la ruta recomendada en 2026 y lo que NVIDIA respalda hacia adelante. Las tarjetas Turing y Pascal más antiguas aún se basan en los módulos propietarios.
¿Necesito paso de GPU para Ollama en Proxmox?
Si la GPU está en el cuadro de cálculo y ejecutas Ollama en el host, no. Si ejecutas Ollama dentro de una VM, sí. Los contenedores LXC pueden compartir la GPU del host sin paso con las reglas correctas de cgroup y udev.
¿Cuál es el mejor ejecutor de LLM local en Proxmox?
Ollama para facilidad de configuración, vLLM para concurrencia. Ambos consumen el controlador NVIDIA instalado en la invitada.
¿Cómo superviso la temperatura de la GPU a lo largo del tiempo en Proxmox?
Instala Netdata en la invitada que posee la GPU. Recoge automáticamente las métricas de NVIDIA. Para retención a largo plazo, envía las métricas a Prometheus y visualízalas en Grafana.
