llama.cpp
Motor de referencia en C/C++ para modelos GGUF; llama-server ofrece una API compatible con OpenAI e interfaz web en CPU, CUDA, Metal, Vulkan y ROCm.
- Licencia
- MIT
- Plataformas
- Windows, macOS, Linux, Docker, CLI
- Claves de API propias
- Sí
- Verificado
- 2026-09-24
llama.cpp funciona con APIs compatibles con OpenAI. Consigue una clave gratuita y un modelo del catálogo: para programar · para agentes · proveedores y base URLs
Alternativas a llama.cpp
Runtime popular para descargar y ejecutar LLM abiertos en local mediante CLI, app de escritorio y una API REST compatible con OpenAI.
App de escritorio para descubrir, descargar y ejecutar LLM locales (llama.cpp, MLX) con interfaz de chat y un servidor local compatible con OpenAI.
Alternativa offline a ChatGPT: ejecuta LLM locales, se conecta a APIs en la nube, admite MCP y sirve una API compatible con OpenAI en localhost.
Motor de inferencia y serving de LLM de alto rendimiento con un servidor compatible con OpenAI para NVIDIA, AMD, Intel, TPU y CPU.
Reemplazo directo autoalojado de la API de OpenAI/Anthropic para LLM, imágenes, audio, video y embeddings en CPU o GPU.
Ejecutor basado en llama.cpp en un solo archivo con la interfaz KoboldAI Lite; APIs compatibles con OpenAI/Ollama, además de generación de imágenes, Whisper y TTS.
Preguntas frecuentes
¿llama.cpp es gratis?
Totalmente gratuito y de código abierto, sin cuentas, claves de API ni límites de uso.
¿llama.cpp funciona con modelos gratuitos?
Sí. Admite tus propias claves y APIs compatibles con OpenAI, así que puedes conectar modelos gratuitos de OpenRouter, Groq, NVIDIA Build o un Ollama local.
¿Qué licencia usa llama.cpp?
MIT. El código fuente es abierto.