inférence
Pour commencer
Quand tu poses une question à un assistant, le modèle ne réapprend rien : il se sert de ce qu’il a déjà appris pour calculer une réponse. C’est l’inférence.
Les faits
Pendant l’inférence, le modèle calcule une sortie à partir des entrées et de ses poids, sans les modifier. Un modèle de langage génère sa réponse token par token et garde un cache KV pour ne pas refaire certains calculs. Ce que tu ajoutes dans la conversation change le contexte de la réponse, pas les poids.
À retenir
L’inférence utilise le modèle, l’apprentissage le modifie. Une conversation ne réentraîne pas le modèle.
Les histoires qui en parlent
Le carnet s’ouvre bientôt.Les premières histoires arrivent.