Fiche de révision : Introduction au traitement du langage naturel

📋 Plan du Cours

1. Introduction au NLP
2. Segmentation de texte
3. Tokenisation
4. Outils NLP
5. Analyse linguistique

📖 1. Introduction au NLP

🔑 Notions clés & Définitions

• Natural Language Processing (NLP) : Jurafsky (2019) : traitement automatisé des langues naturelles pour accomplir des tâches spécifiques.
• NLP pipeline : suite d’étapes permettant de transformer le langage brut en données exploitables, comprenant segmentation, tokenisation, annotation, etc.
• Vector Semantics : représentations numériques permettant de capturer la signification des mots en fonction de leur contexte.
• Embedding : technique de représentation vectorielle dense ou creuse des mots ou phrases, facilitant la mesure de leur similarité.

📝 Points essentiels

• NLP consiste à gérer la complexité des langues naturelles pour réaliser diverses tâches.
• Avant l’apprentissage automatique, l’accent était mis sur l’analyse des données linguistiques : types, distribution, préparation et représentation.
• Les représentations vectorielles (embeddings) permettent de capturer la similarité entre mots selon leur contexte.
• Les modèles de vecteurs se divisent en deux catégories : creux (matrices de co-occurrence) ou denses (modèles neuronaux).

💡 À retenir

Le NLP transforme la complexité des langues naturelles en représentations numériques exploitables, essentielles pour le développement d’applications variées.

📖 2. Segmentation de texte

🔑 Notions clés & Définitions

• Text Segmentation : Division du texte brut en unités exploitables telles que phrases ou paragraphes, facilitant leur traitement et analyse.
• Modeling Units : Niveaux d’unités de segmentation, comprenant d’abord des unités de modélisation puis des unités de base (tokens).
• Linguistically informed segmentation : Approche utilisant des règles syntaxiques pour segmenter, par exemple en phrases ou mots.
• Statistically informed segmentation : Approche basée sur l’identification de sous-mots fréquents ou motifs dans le texte, comme les word pieces.

📝 Points essentiels

• La segmentation de texte divise le texte brut en unités exploitables, telles que phrases ou paragraphes.
• Deux niveaux de segmentation existent : d’abord en unités de modélisation, puis en unités de base (tokens).
• Les approches linguistiques utilisent des règles syntaxiques pour segmenter, par exemple en identifiant des phrases ou des mots.
• Les approches statistiques repèrent des sous-mots fréquents ou des motifs récurrents, comme les word pieces, pour segmenter le texte.

💡 À retenir

La segmentation est une étape essentielle pour structurer le texte brut en unités significatives, permettant une analyse adaptée aux modèles de traitement du langage.

📖 3. Tokenisation

🔑 Notions clés & Définitions

• Tokenization : Opération qui segmente un texte en unités de base appelées tokens, pour le traitement linguistique ou computationnel.
• Token : Unité minimale résultant de la tokenisation, pouvant être un mot, un symbole ou une unité linguistique.
• Word-piece : Sous-unité de mot utilisée dans certains modèles pour gérer la variabilité linguistique, mais non explicitement définie dans la source.
• Sentence segmentation : Processus de délimitation des phrases à partir du texte, utilisant la ponctuation comme séparateurs.

📝 Points essentiels

• La tokenisation divise le texte en tokens, qui sont les unités fondamentales pour l’analyse.
• La simplicité de la tokenisation varie selon les langues : facile en français, plus complexe en chinois ou sur réseaux sociaux.
• Les espaces ne suffisent pas pour une tokenisation correcte, notamment pour gérer contractions ou ponctuations.
• La segmentation des phrases s’appuie sur la ponctuation, mais peut présenter des ambiguïtés selon le contexte.

💡 À retenir

La tokenisation est une étape essentielle, fine et contextuelle, qui prépare le texte à l’analyse linguistique et computationnelle en le découpant en unités adaptées.

📖 4. Outils NLP

🔑 Notions clés & Définitions

• Stanza : (non défini dans la source) — OMETTRE.
• Spacy : (non défini dans la source) — OMETTRE.
• NLTK : (non défini dans la source) — OMETTRE.
• TextBlob : (non défini dans la source) — OMETTRE.

📝 Points essentiels

• De nombreux outils Python facilitent le traitement NLP : Stanza, Spacy, NLTK, TextBlob, Flair, Polyglot.
• Ces outils offrent des fonctionnalités variées : tokenisation, annotation linguistique, parsing, reconnaissance d'entités.
• Le choix de l'outil dépend du besoin spécifique, de la langue et du domaine d'application.
• Ces bibliothèques intègrent souvent des modèles pré-entraînés pour accélérer le développement.

💡 À retenir

Les outils NLP sont des ressources clés qui démocratisent l'accès aux techniques avancées de traitement du langage.

📖 5. Analyse linguistique

🔑 Notions clés & Définitions

• Linguistic Annotation : Processus d’ajout d’informations linguistiques aux données textuelles pour relier les tâches NLP aux concepts linguistiques fondamentaux.
• Part-of-Speech Tagging : Attribution d’une catégorie grammaticale à chaque mot dans un texte, permettant d’identifier leur rôle syntaxique.
• Named Entity Recognition : Identification et classification automatique des entités nommées (personnes, lieux, organisations) dans un texte.
• Syntactic Parsing : Analyse de la structure syntaxique d’une phrase pour en déterminer la hiérarchie et les relations entre mots.

📝 Points essentiels

• L'annotation linguistique relie les tâches NLP aux concepts linguistiques fondamentaux.
• Elle permet de clarifier des phénomènes subtils du langage pour améliorer la qualité des modèles.
• La compréhension linguistique guide la conception de schémas d'annotation cohérents et robustes.
• L’analyse linguistique aide à interpréter et expliquer le comportement des modèles d'apprentissage profond.

💡 À retenir

L’analyse linguistique est essentielle pour relier la théorie du langage aux applications pratiques et à l’interprétabilité des modèles NLP.

📅 Repères chronologiques

Aucun événement daté explicite dans le contenu fourni, cette section est omise.

📊 Tableaux de Synthèse

⚠️ Pièges & Confusions Fréquentes

1. Confondre segmentation linguistique (règles syntaxiques) et statistique (motifs récurrents).
2. Croire que la tokenisation est identique dans toutes les langues ; elle est plus complexe en chinois ou réseaux sociaux.
3. Utiliser uniquement les espaces pour segmenter le texte sans considérer ponctuation ou contractions.
4. Confondre embeddings creux (co-occurrence) et denses (modèles neuronaux).
5. Supposer que tous les outils NLP offrent la même précision ou fonctionnalités sans ajustement selon le domaine ou la langue.
6. Négliger l’importance de l’annotation linguistique pour l’interprétabilité des modèles NLP.
7. Confondre la segmentation en unités de modélisation et en tokens de base.

✅ Checklist Examen

1. Connaître la définition de NLP selon Jurafsky (2019) et ses étapes principales dans le pipeline.
2. Savoir différencier les représentations vectorielles creuses et denses, et leur rôle dans le NLP.
3. Expliquer ce qu’est la segmentation de texte et ses niveaux : unités de modélisation et tokens.
4. Maîtriser la différence entre segmentation linguistique (règles syntaxiques) et statistique (motifs).
5. Identifier les outils NLP courants mentionnés : Spacy, NLTK, TextBlob, et leurs fonctionnalités principales.
6. Comprendre le processus d’annotation linguistique : POS tagging, NER, parsing, et leur importance pour l’analyse linguistique.
7. Savoir que la tokenisation doit prendre en compte la langue et le contexte pour être efficace.
8. Connaître l’utilité des embeddings dans la représentation sémantique des mots selon Jurafsky (2019).
9. Être capable d’expliquer ce qu’est un token et comment il est obtenu lors de la tokenisation.
10. Connaître la différence entre segmentation linguistique basée sur des règles et approches statistiques utilisant des motifs récurrents.
11. Savoir que l’analyse linguistique relie les modèles NLP aux concepts fondamentaux du langage naturel.
12. Vérifier la maîtrise du vocabulaire spécifique : token, embedding, POS tagging, NER, syntactic parsing, word-piece.

---