LLM Perks

Applications gratuites pour exécuter des LLM en local

L'exécution en local supprime les quotas et les questions de confidentialité : le modèle tourne sur votre matériel. La plupart des applications exposent un serveur compatible OpenAI pour les IDE et les agents.

11 outils9 open source
11 trouvé(s)
#Outil ↕Ce qui est gratuitLicencePlateformesGitHub ↕
1
Ollama
Ollama Inc.
L'exécution locale des modèles est gratuite et illimitée ; l'offre gratuite Ollama Cloud ajoute un usage de départ et 1 requête simultanée, les offres payantes démarrent à 20 $/mois. Open source
MIT
WindowsmacOSLinuxDockerCLI ★ 181 500
2
llama.cpp
ggml-org
Entièrement gratuit et open source, sans compte, clé API ni limite d'utilisation. Open source
MIT
WindowsmacOSLinuxDockerCLI ★ 129 300
3
vLLM
vLLM Project
Entièrement gratuit et open source, mais nécessite votre propre matériel, généralement un GPU serveur. Open source
Apache-2.0
LinuxDockerCLI ★ 92 500
4
LocalAI
Ettore Di Giacinto & community
Entièrement gratuit et open source en auto-hébergement, sans offre payante. Open source
MIT
LinuxmacOSDockerCLI ★ 49 200
5 Entièrement gratuit et open source, totalement hors ligne, sans télémétrie. Open source
AGPL-3.0
WindowsmacOSLinux ★ 47 700
6
Jan
Menlo Research
Entièrement gratuit et open source, sans offre payante ; exécutez des modèles locaux ou utilisez vos propres clés API cloud. Open source
Apache-2.0
WindowsmacOSLinux ★ 44 600
7
KoboldCpp
LostRuins (Concedo)
Entièrement gratuit et open source, distribué sous forme d'un exécutable unique sans installation. Open source
AGPL-3.0
WindowsmacOSLinuxDockerCLI ★ 11 800
8
Lemonade
Lemonade community (sponsored by AMD)
Entièrement gratuit et open source, sans aucune télémétrie. Open source
Apache-2.0
WindowsmacOSLinuxDockerCLI ★ 5 800
9
LM Studio
Element Labs
L'application desktop, y compris l'inférence locale et l'agent Bionic, est gratuite pour un usage personnel et professionnel ; des offres payantes optionnelles ajoutent des modèles cloud et des fonctionnalités d'équipe. Gratuit
proprietary
WindowsmacOSLinux —
10 Msty Studio Desktop est gratuit uniquement pour un usage personnel et non commercial ; l'usage commercial et les fonctionnalités avancées nécessitent l'offre payante Aurum. Offre gratuite
proprietary
WindowsmacOSLinux —
11
GPT4All
Nomic AI Non maintenu
Gratuit et open source en local, mais le développement semble à l'arrêt : la dernière version (v3.10.0) date de février 2025. Open source
MIT
WindowsmacOSLinux ★ 77 400
Besoin d'un modèle gratuit pour ces outils ? Choisissez-en un dans le catalogue — chaque fiche de modèle comporte une base URL et un exemple de code. Modèles de code · Modèles pour agents

Autres catégories