vLLM
Motor de inferencia y serving de LLM de alto rendimiento con un servidor compatible con OpenAI para NVIDIA, AMD, Intel, TPU y CPU.
- Licencia
- Apache-2.0
- Plataformas
- Linux, Docker, CLI
- Claves de API propias
- Sí
- Verificado
- 2026-09-24
vLLM funciona con APIs compatibles con OpenAI. Consigue una clave gratuita y un modelo del catálogo: para programar · para agentes · proveedores y base URLs
Alternativas a vLLM
Runtime popular para descargar y ejecutar LLM abiertos en local mediante CLI, app de escritorio y una API REST compatible con OpenAI.
App de escritorio para descubrir, descargar y ejecutar LLM locales (llama.cpp, MLX) con interfaz de chat y un servidor local compatible con OpenAI.
Alternativa offline a ChatGPT: ejecuta LLM locales, se conecta a APIs en la nube, admite MCP y sirve una API compatible con OpenAI en localhost.
Motor de referencia en C/C++ para modelos GGUF; llama-server ofrece una API compatible con OpenAI e interfaz web en CPU, CUDA, Metal, Vulkan y ROCm.
Reemplazo directo autoalojado de la API de OpenAI/Anthropic para LLM, imágenes, audio, video y embeddings en CPU o GPU.
Ejecutor basado en llama.cpp en un solo archivo con la interfaz KoboldAI Lite; APIs compatibles con OpenAI/Ollama, además de generación de imágenes, Whisper y TTS.
Preguntas frecuentes
¿vLLM es gratis?
Totalmente gratuito y de código abierto, pero necesita tu propio hardware, normalmente una GPU de servidor.
¿vLLM funciona con modelos gratuitos?
Sí. Admite tus propias claves y APIs compatibles con OpenAI, así que puedes conectar modelos gratuitos de OpenRouter, Groq, NVIDIA Build o un Ollama local.
¿Qué licencia usa vLLM?
Apache-2.0. El código fuente es abierto.