Kostenlose Apps, um LLMs lokal auszuführen
Lokaler Betrieb beseitigt Kontingente und Datenschutzbedenken: Das Modell läuft auf Ihrer Hardware. Die meisten Apps stellen einen OpenAI-kompatiblen Server für IDEs und Agenten bereit.
11 Tools9 open source
| # | Tool ↕ | Was ist kostenlos | Lizenz | Plattformen | GitHub ↕ | |
|---|---|---|---|---|---|---|
| 1 | Ollama Ollama Inc. |
Der lokale Betrieb von Modellen ist kostenlos und unbegrenzt; der kostenlose Ollama-Cloud-Tarif bietet zusätzlich eine Einstiegsnutzung und 1 gleichzeitige Anfrage, bezahlte Tarife ab $20/Monat. | Open Source MIT |
WindowsmacOSLinuxDockerCLI | ★ 181.500 | |
| 2 | llama.cpp ggml-org |
Komplett kostenlos und Open Source, ohne Konten, API-Schlüssel oder Nutzungslimits. | Open Source MIT |
WindowsmacOSLinuxDockerCLI | ★ 129.300 | |
| 3 | vLLM vLLM Project |
Komplett kostenlos und Open Source, benötigt aber eigene Hardware, meist eine Server-GPU. | Open Source Apache-2.0 |
LinuxDockerCLI | ★ 92.500 | |
| 4 | LocalAI Ettore Di Giacinto & community |
Komplett kostenlos und Open Source für Self-Hosting, ohne kostenpflichtiges Angebot. | Open Source MIT |
LinuxmacOSDockerCLI | ★ 49.200 | |
| 5 | TextGen (text-generation-webui) oobabooga |
Komplett kostenlos und Open Source, vollständig offline, ohne Telemetrie. | Open Source AGPL-3.0 |
WindowsmacOSLinux | ★ 47.700 | |
| 6 | Jan Menlo Research |
Komplett kostenlos und Open Source ohne kostenpflichtige Tarife; betreiben Sie lokale Modelle oder nutzen Sie eigene Cloud-API-Schlüssel. | Open Source Apache-2.0 |
WindowsmacOSLinux | ★ 44.600 | |
| 7 | KoboldCpp LostRuins (Concedo) |
Komplett kostenlos und Open Source, als einzelne ausführbare Datei ohne Installation. | Open Source AGPL-3.0 |
WindowsmacOSLinuxDockerCLI | ★ 11.800 | |
| 8 | Lemonade Lemonade community (sponsored by AMD) |
Komplett kostenlos und Open Source, ganz ohne Telemetrie. | Open Source Apache-2.0 |
WindowsmacOSLinuxDockerCLI | ★ 5.800 | |
| 9 | LM Studio Element Labs |
Die Desktop-App, einschließlich lokaler Inferenz und des Bionic-Agenten, ist für private und berufliche Nutzung kostenlos; optionale bezahlte Tarife ergänzen Cloud-Modelle und Teamfunktionen. | Kostenlos proprietary |
WindowsmacOSLinux | — | |
| 10 | Msty Studio Msty |
Msty Studio Desktop ist nur für private, nicht kommerzielle Nutzung kostenlos; kommerzielle Nutzung und erweiterte Funktionen erfordern den kostenpflichtigen Aurum-Tarif. | Kostenloser Tarif proprietary |
WindowsmacOSLinux | — | |
| 11 | GPT4All Nomic AI Nicht gepflegt |
Kostenlos und Open Source für die lokale Nutzung, doch die Entwicklung scheint zu stagnieren: Das letzte Release (v3.10.0) erschien im Februar 2025. | Open Source MIT |
WindowsmacOSLinux | ★ 77.400 |
Nichts gefunden.
Sie brauchen ein kostenloses Modell für diese Tools? Wählen Sie eines im Katalog — jede Modellkarte enthält eine base URL und ein Codebeispiel. Coding-Modelle · Modelle für Agenten