poids
Pour commencer
On imagine parfois qu’un modèle contient des textes qu’il relit. En réalité, il contient surtout des nombres : des milliards de réglages, les poids.
Les faits
Les poids sont les coefficients numériques qui règlent les calculs de chaque couche. L’apprentissage les ajuste ; un checkpoint les sauvegarde, souvent dans des fichiers Safetensors. Dans un modèle MoE, ils comprennent aussi les coefficients appris du routeur. Ce que le modèle « sait » se voit dans son comportement, pas dans une liste de documents.
À retenir
Les poids sont des nombres appris, pas une bibliothèque de textes. Ils ne changent pas quand le modèle répond.
Les histoires qui en parlent
Le carnet s’ouvre bientôt.Les premières histoires arrivent.