Outils open source pour LLM : Ollama, vLLM, LangChain…

Autour des modèles ouverts, une poignée d'outils open source font l'essentiel du travail : faire tourner le modèle (Ollama, llama.cpp, vLLM), construire l'application autour (LangChain, LlamaIndex) et offrir une interface aux utilisateurs (Open WebUI). Chacun a son rôle et sa licence. La plupart sont sous MIT ou Apache 2.0 ; Open WebUI fait exception avec une licence propre qui protège sa marque. Ce qui suit est relevé sur les dépôts GitHub des projets le 15/11/2026.

Cercle IA Tech est édité par IArche, qui édite ALMA, la plateforme IA pour PME. Cette liste décrit les outils d'après leurs dépôts, sans classement.

Le tableau

Faire tourner le modèle

Ollama et llama.cpp servent à faire tourner un modèle ouvert sur une machine. llama.cpp est le moteur écrit en C et C++ ; son dépôt contient un script de conversion des modèles Hugging Face vers le format GGUF, celui des modèles d'exemple du dépôt. Sur le Hub, de nombreux modèles sont republiés dans ce format par des tiers : vérifiez qui les publie (voir sécurité d'un modèle téléchargé).

vLLM vise un autre besoin : servir un modèle à plusieurs utilisateurs ou à une application, avec un bon débit. Son serveur compatible avec l'API d'OpenAI a une conséquence pratique : une application écrite pour une API de ce type peut, en principe, être pointée vers un modèle ouvert servi par vLLM en changeant l'adresse et le nom du modèle.

Construire l'application

LangChain se présente comme une plateforme d'ingénierie d'agents, LlamaIndex comme une plateforme de traitement de documents pour l'IA : ce sont des briques pour assembler l'application autour du modèle, pas des moteurs qui le font tourner. Pour les voir à l'œuvre sur un projet de recherche documentaire, voyez les pages RAG avec LangChain et RAG avec LlamaIndex de Cercle IA Tech · RAG.

Offrir une interface

Open WebUI fournit une interface de discussion à héberger soi-même. Sa licence mérite une lecture attentive avant un déploiement en entreprise :

• elle reprend la structure d'une licence BSD à trois clauses ;
• sa clause 4 interdit de modifier, retirer ou remplacer la marque « Open WebUI » ;
• trois exceptions : un nombre d'utilisateurs qui ne dépasse pas 50 sur une période glissante de 30 jours, une autorisation écrite préalable, ou une licence entreprise ;
• dans les autres cas, retirer ou modifier la marque est un « manquement substantiel » à la licence.

Autrement dit : une PME qui l'utilise en gardant la marque visible n'est pas concernée par cette clause ; une entreprise qui veut l'habiller à ses couleurs pour plus de 50 utilisateurs doit obtenir un accord.

Choisir sa pile

Prenons, à titre d'illustration, trois situations :

1. Essayer deux modèles sur un poste : Ollama ou llama.cpp suffisent.
2. Servir un modèle à une application interne : vLLM, avec son serveur compatible, et une bibliothèque comme LangChain ou LlamaIndex côté application.
3. Donner une interface de discussion à une équipe : Open WebUI, en vérifiant la clause de marque si vous dépassez 50 utilisateurs.

Dans tous les cas, l'outil ne change rien à la licence du modèle : elle s'applique en plus. Voir licences des modèles et usage commercial.