Tokenisation — rôle ?
Découpe le texte en unités manipulables
Modèle de langage — définition ?
Estimations probabilistes de séquences de tokens
Greedy — stratégie ?
Choix du token le plus probable à chaque étape
Modèle de langage — définition?
Probabiliste, prédit la prochaine token.
Tokenisation — rôle?
Réduit le vocabulaire, gère l'inconnu.
Décodage Greedy — caractéristique?
Choix du token le plus probable, rapide.
Beam Search — différence?
Exploration de plusieurs séquences.
Sampling — but?
Ajoute de la diversité dans la génération.
Température — impact?
Modifie la créativité; T<1 plus conservateur.
Top-k — fonction?
Limite à k tokens les plus probables.
Teste tes connaissances avec un QCM de 10 questions sur Introduction aux modèles de langage et stratégies de décodage.
1. Quelle stratégie de décodage consiste à choisir à chaque étape le token le plus probable, de manière rapide et déterministe ?
2. Quelle est la principale fonction d'un modèle de langage (LLM) ?
Révisez le cours complet dans la fiche de révision de Introduction aux modèles de langage et stratégies de décodage.
Voir la fiche →Importe ton cours et l'IA génère des flashcards en 30 secondes.
Générateur de flashcards