Aller au contenu
Cercle IA Tech · Open source Un site du réseau Cercle IA Tech

Guide

LLM entièrement ouverts : données et code publiés

OLMo d'Ai2 et Lucie-7B d'OpenLLM-France publient poids, code d'entraînement et données : ce qui est disponible, sous quelle licence, et à quoi ça sert.

Mis à jour le

Quelques modèles de langage publient tout : les poids, mais aussi le code qui a servi à les entraîner et les données d'entraînement. Au 15/11/2026, les deux exemples les plus documentés sont OLMo, publié par Ai2, et Lucie-7B, construit par LINAGORA et OpenLLM-France, avec une part importante de français dans ses données. Ce sont les modèles qui se rapprochent le plus de l'Open Source AI Definition de l'OSI, qui exige données, code et paramètres.

OLMo (Ai2)

Ai2 présente OLMo comme « notre modèle de langage entièrement ouvert et son flux complet », avec l'idée que tout le parcours du modèle, « pas seulement son point d'arrivée », doit être accessible.

Élément Ce qui est publié
Versions OLMo 3, avec des points de contrôle 3.1 pour les variantes Think et Instruct
Tailles 7 et 32 milliards de paramètres, en variantes Base, Think et Instruct
Licence (fiche OLMo 3.1 32B Instruct) Apache 2.0
Code Dépôts OLMo-core (entraînement), open-instruct (post-entraînement), OLMES (évaluation), Decon (décontamination)
Données Mélanges de pré-entraînement, de mi-entraînement et corpus de post-entraînement
Étapes intermédiaires Points de contrôle et journaux ; pour le 32B Instruct, la fiche précise que seuls les derniers points de contrôle sont publiés, à cause d'un incident

Lucie-7B (OpenLLM-France et LINAGORA)

Élément Ce qui est publié
Taille 6 706 958 336 paramètres, soit environ 7 milliards
Licence Apache 2.0
Données Le Lucie Training Dataset, publié sur Hugging Face ; environ 3 000 milliards de jetons, dont 32,4 % en français et 33,2 % en anglais selon la fiche
Code Dépôt Lucie-Training, fondé sur une variante de Megatron-DeepSpeed
Étapes intermédiaires Points de contrôle disponibles par étiquette de version, points de contrôle de l'optimiseur, journaux et courbes d'entraînement

Pour situer Lucie parmi les autres modèles conçus en France et en Europe, voyez la page LLM français et européens de Cercle IA Tech · Modèles.

À quoi servent les données et le code publiés

Pour faire tourner un modèle, les poids suffisent. Les données et le code servent à autre chose :

  • Comprendre ce que le modèle a vu. La CNIL rappelle dans sa note d'analyse sur l'open source en IA qu'il est possible de reconstituer certaines données d'apprentissage à partir de modèles entraînés. Savoir quelles données ont été utilisées aide à évaluer ce risque.
  • Vérifier la contamination des évaluations. Si les questions d'un test d'évaluation figurent dans les données d'entraînement, le score est faussé. Ai2 publie justement un outil de décontamination.
  • Reproduire ou prolonger l'entraînement. Avec les points de contrôle intermédiaires, une équipe de recherche peut repartir d'une étape donnée plutôt que du modèle final.
  • Documenter un projet. Dans un dossier de conformité ou de souveraineté, pouvoir dire « voici les données et le code d'origine » est plus solide que « voici les poids ».

Les limites à garder en tête

  • La taille. Les modèles entièrement ouverts disponibles au 15/11/2026 vont de 7 à 32 milliards de paramètres, loin des modèles à poids ouverts de plusieurs centaines de milliards. Pour certaines tâches, cela suffit ; pour d'autres, non. Testez.
  • Publier n'est pas certifier. Un jeu de données publié peut contenir des contenus problématiques ; la publication permet justement de le vérifier.
  • Licence des données. La licence des poids (Apache 2.0 ici) ne couvre pas forcément les jeux de données, qui peuvent avoir leurs propres conditions : lisez la fiche de chaque jeu de données.

Pour la différence générale entre ouverture complète et poids ouverts, voir open source ou poids ouverts.

Questions fréquentes

Quel modèle de langage publie ses données d'entraînement ?

Au 15/11/2026, OLMo (Ai2) publie ses mélanges de données de pré-entraînement et de post-entraînement, et Lucie-7B (OpenLLM-France et LINAGORA) publie son jeu de données d'entraînement, le Lucie Training Dataset.

Un modèle entièrement ouvert est-il moins performant ?

Cette page ne compare pas les performances. Les modèles entièrement ouverts publiés au 15/11/2026 sont plus petits (7 à 32 milliards de paramètres) que les plus grands modèles à poids ouverts ; testez-les sur vos propres tâches.

Sources

Pages consultées pour écrire cet article :

  1. https://allenai.org/olmo
  2. https://huggingface.co/allenai/Olmo-3.1-32B-Instruct
  3. https://huggingface.co/OpenLLM-France/Lucie-7B
  4. https://opensource.org/ai/open-source-ai-definition
  5. https://www.cnil.fr/sites/cnil/files/2024-06/note_d_analyse_sur_les_pratiques_open_source_en_ia.pdf

À lire aussi