★ À maîtriser
Compléments
La fenêtre de contexte comprend le prompt, le texte à traduire ou analyser et la réponse générée par le modèle.
Même avec une grande fenêtre de contexte, l’attention d’un modèle peut s’affaiblir au milieu d’un texte très long, phénomène parfois appelé « lost in the middle ».
Le découpage en tokens permet de traiter efficacement les mots rares, les néologismes et les termes techniques.
Les embeddings permettent au modèle de capturer les relations sémantiques entre les mots sans qu’une règle linguistique ait été explicitement programmée.
Dans l’espace des embeddings, les mots « chat » et « chien », « roi » et « reine », ainsi que « Paris » et « Londres » sont présentés comme proches, tandis que « chat » et « casserole » sont éloignés.
★ À maîtriser
Les Transformers constituent la base de la quasi-totalité des grands modèles de langage.
Les Transformers analysent simultanément tous les mots d’une phrase, ce qui améliore la prise en compte du contexte, la cohérence des réponses, la gestion des longues phrases, la traduction automatique et la génération de texte.
Compléments
« Traduction » est un unigramme, « traduction automatique » un bigramme et « traduction automatique neuronale » un trigramme.
Avant l’arrivée des réseaux de neurones, les modèles de langue estimaient la probabilité d’apparition d’un mot à partir des mots précédents, mais leur contexte était très limité.
Les n-grammes regardent en arrière ; l’attention pondère les mots pertinents.
★ À maîtriser
Les LLM apprennent à partir de gigantesques corpus d’entraînement et voient, pendant l’entraînement, des milliards de phrases incomplètes.
Pendant l’entraînement, le modèle doit deviner le token manquant dans des phrases incomplètes.
Les modèles héritent des biais culturels, politiques, sociaux et linguistiques présents dans les données humaines d’entraînement.
Aucun corpus ne contient l’ensemble des connaissances humaines, et les volumes de données disponibles varient selon les langues.
Compléments
Données biaisées ou incomplètes → réponses potentiellement biaisées ou lacunaires.
★ À maîtriser
📌 Contrairement à un moteur de recherche, un LLM ne vérifie pas nécessairement ses réponses dans une base de connaissances : il prédit la suite de tokens la plus probable.
Compléments
Contexte manquant ou ambigu → réponse plausible mais potentiellement fausse.
★ À maîtriser
Les LLM peuvent :
La reformulation par un LLM est particulièrement utile pour la post-édition et la révision stylistique, mais elle risque de modifier involontairement le sens.
📌 La NMT tend à reproduire la structure du texte source, tandis que le LLM tend à normaliser ou à embellir les textes.
Compléments
Les textes où le style est essentiel comprennent :
La reformulation d’un e-mail peut être effectuée avec une confiance relativement élevée, tandis qu’un contrat juridique exige une vérification indispensable.
Une formulation plus naturelle et la proposition de synonymes sont des usages utiles, mais les dates historiques doivent être vérifiées.
📌 Un dosage médical ne doit pas être délégué à un LLM sans contrôle expert, et une traduction destinée à être publiée ne doit pas l’être sans relecture.
La NMT conserve davantage la structure source ; le LLM tend à normaliser ou embellir.
★ À maîtriser
Compléments
L’Adaptive MT peut :
L’Adaptive MT nécessite suffisamment de données et risque de reproduire des erreurs lorsque les corrections utilisées pour l’apprentissage sont elles-mêmes incorrectes.
La QE analyse la similarité entre le texte source et la traduction, la fluidité, la cohérence, la terminologie et la probabilité d’erreurs, puis attribue un score de qualité.
Selon le score, un segment peut être :
Le travail avec les outils d’IA générative demande des compétences linguistiques, la maîtrise des outils numériques et la capacité d’évaluer de manière critique les propositions de l’IA.
★ À maîtriser
📌 Un modèle open source rend son code accessible, tandis qu’un modèle open-weight ne publie que ses paramètres, sans l’ensemble du processus d’entraînement.
Compléments
Les abonnements constituent le modèle économique le plus visible des IA génératives.
Les modèles open source ou open-weight peuvent être téléchargés et exécutés localement.
API à l’usage, abonnements à l’accès, modèles ouverts au téléchargement
★ À maîtriser
📌 La traduction automatique, auparavant proposée comme produit autonome, devient une fonctionnalité intégrée à d’autres logiciels sous le modèle Translation as a Feature (TaaF).
Les traducteurs apportent une valeur ajoutée par :
Les textes particulièrement sensibles peuvent contenir :
Le traducteur doit : lire les politiques de confidentialité des outils utilisés, respecter les exigences contractuelles du client, privilégier un environnement sécurisé lorsque les données sont sensibles
Compléments
De produit autonome, la traduction devient une fonction intégrée
★ À maîtriser
L’entraînement et l’utilisation des LLM mobilisent des ressources informatiques importantes, notamment des centres de données, des processeurs spécialisés (GPU), une alimentation électrique continue et des systèmes de refroidissement consommant de l’eau et de l’énergie.
Le coût environnemental dépend de :
📌 Les langues disposant de nombreuses ressources numériques, comme l’anglais, le chinois, l’espagnol, le français et l’allemand, bénéficient généralement de meilleures performances que les langues peu dotées.
Pour les langues peu dotées (low-resource languages), les traductions sont moins fiables, la compréhension plus limitée et la qualité de génération inférieure.
La production de textes grammaticalement corrects, fluides et cohérents pourrait favoriser à long terme une standardisation des pratiques d’écriture.
Compléments
Les LLM peuvent contribuer à rendre certains services accessibles dans des langues auparavant peu prises en charge.
Le traducteur doit préserver :
Langues très dotées : meilleures performances ; langues peu dotées : résultats moins fiables
📌 Le traducteur doit exercer un regard critique sur les réponses produites par les LLM.
Les mécanismes d’alignement et de modération influencent les réponses des modèles sans les rendre nécessairement neutres.
Les enjeux éthiques comprennent :
La modération filtre, l’alignement oriente, la censure restreint ou supprime
| Critère | NMT | LLM |
|---|---|---|
| Objectif principal | Traduire | Générer du texte |
| Entraînement | Corpus bilingues | Corpus multilingues généralistes |
| Fidélité au texte source | Très élevée | Variable selon le prompt |
| Créativité | Faible | Élevée |
| Reformulation | Limitée | Excellente |
| Hallucinations | Rares | Plus fréquentes |
| Modèle | Fonctionnement | Particularité |
|---|---|---|
| Abonnement | Accès par abonnement | Modèle le plus visible |
| API | Intégration dans des applications, facturation aux requêtes ou tokens | Modèle le plus rentable |
| Open source | Téléchargement et exécution locale | Code accessible |
| Open-weight | Téléchargement et exécution locale | Paramètres publiés, processus d’entraînement non publié |
Teste tes connaissances sur LLM et traduction assistée avec 37 questions à choix multiples et corrections détaillées.
1. Pourquoi un LLM peut-il reproduire des biais culturels ou sociaux dans ses réponses ?
2. Une entreprise intègre un LLM à son application et paie en fonction du nombre de requêtes ou de tokens consommés. Quel modèle économique utilise-t-elle ?
Mémorisez les concepts clés de LLM et traduction assistée avec 83 flashcards interactives.
Qu’est-ce qu’un LLM ?
Un modèle d’intelligence artificielle entraîné sur de grandes quantités de textes pour apprendre les régularités du langage.
Quel est l’objectif d’un LLM dans une séquence de texte ?
Prédire le mot ou token suivant.
Qu’est-ce que la fenêtre de contexte d’un LLM ?
La quantité maximale de texte, mesurée en tokens, qu’il peut traiter simultanément.
Importe ton cours et l'IA génère fiches, QCM et flashcards en 30 secondes.
Générateur de fiches