Fiche de révision : Détection des manipulations informationnelles

📋 Plan du Cours

1. Information et surcharge informationnelle
2. Manipulations de l’information
3. Rationalité et décision
4. Exemples d’influence numérique
5. Détection des manipulations
6. NLP et Web Mining
7. Indices linguistiques de tromperie
8. Problématique et hypothèse de recherche
9. Entreprise et missions chez ProLeads
10. Analyse lexicale des activités
11. Classification des pages web
12. Exploration des fake news sur la COVID-19
13. Bilan et perspectives

📖 1. Information et surcharge informationnelle

🔑 Notions clés & Définitions

• Information : Élément de connaissance susceptible d’être représenté à l’aide de conventions pour être conservé, traité ou communiqué, et donnée à laquelle un sens ou une interprétation a été ajouté.

★ À maîtriser

• En 2020, le volume d’informations digitales stockées a atteint 40ZB.

Compléments

• 🔄 L’évolution de la transmission de l’information suit cette progression:

  1. gestes
  2. dessins rupestres
  3. langues
  4. imprimerie
  5. médias audiovisuels
  6. ordinateur
  7. Internet
  8. objets connectés

• La densité des transistors des microprocesseurs a doublé en moyenne tous les deux ans entre 1971 et 2001.

• Chaque minute, 100 heures de vidéo sont téléversées sur YouTube, tandis que des centaines de millions de messages sont envoyés chaque jour sur Twitter et que des dizaines de millions de photos sont présentes sur Instagram.

💡 Astuce mémo

Donnée → information → connaissance

📖 2. Manipulations de l’information

🔑 Notions clés & Définitions

• Manipulations de l’information : Utilisation des technologies de l’information pour influencer clandestinement le processus décisionnel d’une personne en ciblant et en exploitant ses vulnérabilités.
• Tromperie : Information transmise intentionnellement pour créer une fausse impression ou une fausse conclusion.

★ À maîtriser

📌 La désinformation correspond à des informations fausses ou trompeuses créées, présentées et diffusées intentionnellement pour tromper le public, tandis que la mésinformation est une information fausse diffusée sans intention de tromper.

• Les trois caractéristiques technologiques sont:
  • la surveillance numérique omniprésente
  • les plateformes dynamiques et adaptatives
  • l’invisibilité technologique

Compléments

• En 2017, The Guardian a révélé que plusieurs pages d’un rapport du BfR provenaient du Glyphosate Task Force, ce qui a contribué à une conclusion faussée sur les risques du glyphosate.

💡 Astuce mémo

Désinformation intentionnelle ≠ mésinformation non intentionnelle

📖 3. Rationalité et décision

🔑 Notions clés & Définitions

• Prise de décision : Processus complexe d’identification et de résolution de problèmes.
• Rationalité limitée : La rationalité limitée, théorie proposée par Herbert Simon en 1947, affirme que le décideur ne peut pas rechercher la solution optimale en raison de ses limites cognitives et choisit une solution qui satisfait ses aspirations.

★ À maîtriser

📌 La rationalité parfaite suppose que le décideur possède toute la connaissance requise pour prendre la meilleure décision, tandis que la rationalité limitée tient compte d’informations et de capacités cognitives insuffisantes.

Compléments

• Les principales limites de la rationalité sont: la connaissance limitée de l’environnement, la soumission aux émotions, l’impossibilité d’anticiper toutes les options, la limitation du temps, la maîtrise limitée des variables, la capacité d’attention insuffisante, l’incapacité à analyser toutes les informations simultanément

💡 Astuce mémo

Ressources cognitives limitées → solution satisfaisante plutôt qu’optimale

📖 4. Exemples d’influence numérique

📝 Points essentiels

• En mai 2017, Facebook pouvait surveiller les messages, les photos, les interactions et l’activité en ligne des adolescents afin d’identifier leurs états d’âme et de cibler leur comportement d’achat.

• En mars 2018, Cambridge Analytica a utilisé des données Facebook pour établir des profils psychologiques et envoyer des messages politiques ciblés lors de plus de 200 élections dans le monde.

• Uber influence les conducteurs en envoyant des informations promettant une forte demande, en affichant des objectifs de gains et en proposant automatiquement un trajet avant la fin du précédent.

💡 Astuce mémo

Facebook → Cambridge Analytica → Uber

📖 5. Détection des manipulations

★ À maîtriser

• La précision humaine dans la détection des éléments de manipulation est d’environ 54 %, soit à peine mieux qu’un choix effectué à pile ou face.

Compléments

• Les Décodeurs du Monde récupèrent, compilent, expliquent et classent les rumeurs avant de rectifier les faits pour indiquer au public si elles sont vraies ou non.

• Hoaxbuster propose un moteur de recherche permettant de cataloguer des articles comme rumeur, information, désinformation ou mise en garde.

📖 6. NLP et Web Mining

🔑 Notions clés & Définitions

• Linguistique informatique : Ensemble des méthodes qui transforment automatiquement un texte en représentation formelle afin d’en extraire le sens ou des informations calculables.
• Web mining : Utilisation de techniques informatiques pour découvrir et extraire automatiquement des informations de documents et de services sur le Web.

★ À maîtriser

• 🔄 Le prétraitement NLP comprend: la tokenisation, la suppression des caractères non alphanumériques, la suppression des stopwords, la conversion en minuscules, le stemming

• L’étiquetage morphosyntaxique atteint jusqu’à 98 % de précision dans les articles de presse en français ou en anglais, mais sa performance descend vers 90 % dans les textes des réseaux sociaux.

• 🔄 La démarche du web mining comprend:

  1. la recherche de ressources
  2. la sélection et le prétraitement des données
  3. la généralisation des tendances
  4. l’analyse et la prise de décision

• La détection automatique des tromperies recherche et prétraite les informations pour extraire des indices, découvre automatiquement des patrons généraux, puis analyse ces patrons pour prendre une décision de détection.

Compléments

📌 Les systèmes fondés sur des règles extraient des patrons à partir de règles linguistiques définies à l’avance, tandis que les systèmes d’apprentissage automatique les extraient statistiquement à partir de corpus de textes.

💡 Astuce mémo

Rechercher → prétraiter → généraliser → décider

📖 7. Indices linguistiques de tromperie

🔑 Notions clés & Définitions

• Indices linguistiques : Différences textuelles, telles que le sens des mots ou le rapport entre les syllabes et les mots, qui peuvent distinguer les textes trompeurs des textes véridiques.

★ À maîtriser

• Les approches de traitement automatique du langage naturel, notamment les analyses morphologique, syntaxique, lexicale et sémantique, ainsi que les méthodes statistiques et d’apprentissage automatique, permettent d’extraire et d’analyser automatiquement des indices linguistiques sur de grands corpus textuels.

Compléments

• La revue bibliographique n’a pas trouvé de bases de données facilement accessibles en français pour la détection des indices linguistiques, alors que de nombreuses ressources existent en anglais et quelques-unes en espagnol, en italien et en chinois.

📌 La grammaire des fake news varie selon le format : les nouvelles longues suivent une grammaire traditionnelle cohérente, tandis que les tweets et les publications Facebook courtes suivent une grammaire de l’énonciation. — MONTACLAIR, F., Grammaire de la Fake News. Deux modalités de l’écriture de la Fake news en média court et média long

• L’étude de Zhou et al. utilise notamment la longueur moyenne des phrases, définie par $\text{nombre total de mots} / \text{nombre total de phrases}$, et la longueur moyenne des mots, définie par $\text{nombre total de caractères} / \text{nombre total de mots}$. — Zhou, L., Twitchell, D. P., Qin, T., Burgoon, J. K., & Nunamaker, J. F., An exploratory study into deception detection in text-based computer-mediated communication, 2003

💡 Astuce mémo

Indices linguistiques → extraction automatique → détection

📖 8. Problématique et hypothèse de recherche

★ À maîtriser

• La problématique du document est la suivante : « Quelle solution informatique pour faciliter la prise de décision dans un environnement de manipulations de l’information ? »

📌 L’hypothèse H0 affirme qu’une solution utilisant le NLP et le machine learning facilite le processus de prise de décision en diagnostiquant les manipulations d’informations.

Compléments

• Les outils existants de détection des manipulations de l’information sont jugés inadaptés à l’entreprise parce qu’ils ne tiennent pas suffisamment compte du temps, de la quantité et de la simultanéité des informations.

📖 9. Entreprise et missions chez ProLeads

🔑 Notions clés & Définitions

• Proposition de valeur : La proposition de valeur de ProLeads repose sur quatre éléments : des recherches impartiales sans résultats sponsorisés ni publicité, le libre choix du périmètre géographique en France, la souplesse des critères de recherche et la confidentialité des données personnelles.

★ À maîtriser

• Les missions de stage visaient principalement à améliorer la qualité des résultats du moteur de recherche d’entreprises de ProLeads.

Compléments

• ProLeads est une startup située à Saint-Martin-d’Hères, dont l’activité commerciale a commencé fin 2019 et qui comprend trois associés.

📖 10. Analyse lexicale des activités

★ À maîtriser

• La première mission a utilisé des techniques de NLP avec Python sur un corpus de plus de 3 millions de pages web afin d’identifier l’équivalence de formes lexicales décrivant les activités d’entreprises.

• La liste initiale utilisée comme index comprenait 174 noms d’action, dont 169 ont été identifiés dans le corpus.

Compléments

• Les structures recherchées associaient un nom d’action suivi d’une préposition et d’un groupe nominal, ou la forme verbale du nom d’action suivie d’une préposition et d’un groupe nominal.

• En moyenne, 269 formes différentes ont été identifiées pour chaque nom d’action, avec des extrêmes allant de brevetage sans structure identifiée à utilisation avec 2661 structures identifiées.

💡 Astuce mémo

« Usinage » ≠ « usinons » : formes différentes, même activité

📖 11. Classification des pages web

★ À maîtriser

📌 La classification des pages web devait distinguer les pages pertinentes pour décrire l’activité d’une entreprise des pages non pertinentes, comme les pages de contact, de mentions légales, d’actualités ou de partenaires.

• 🔄 La mission de classification a suivi les étapes suivantes: échantillonner le corpus, sélectionner et prétraiter les textes, identifier des attributs, générer un modèle prédictif fondé sur la régression logistique, évaluer une fonction de perte à chaque itération

• Le modèle de classification des pages d’erreur a atteint une exactitude de 99,7 % et a identifié 15 % de pages d’erreur supplémentaires, soit 5 261 pages de plus que l’approche précédente.

Compléments

• Les données pouvaient provenir de pages non pertinentes telles que:
  • des pages d’erreur 404
  • des pages en maintenance
  • des pages piratées

💡 Astuce mémo

Échantillonner → prétraiter → modéliser → évaluer

📖 12. Exploration des fake news sur la COVID-19

★ À maîtriser

• L’exploration a remplacé le corpus décrivant les activités d’entreprises par des actualités numériques, en choisissant les fake news liées à la COVID-19 en raison de la quantité d’informations et des nombreux cas de manipulation associés à ce sujet.

• Le corpus utilisé était le Decodex des Décodeurs du Monde, qui contenait plus de 400 rumeurs, plus de 13 000 URL reprenant ces rumeurs et une analyse de chaque rumeur. — Les Décodeurs du Monde, Fausses informations : les données du Décodex en 2017, 2017

• Un indice de manipulation identifié est la répétition exacte des titres concernant une même rumeur.

Compléments

• 🔄 La méthodologie a suivi les étapes suivantes: récupérer les URL du Decodex, extraire automatiquement le texte des sites web, prétraiter la base de données, explorer les textes avec des techniques de NLP

• L’exploration lexicale a produit:

  • une liste de 313 verbes
  • une liste de 498 noms
  • une liste de 166 adjectifs
  • des listes de bi-grammes et de tri-grammes

📖 13. Bilan et perspectives

★ À maîtriser

📌 La conclusion indique que l’hypothèse H0, selon laquelle une solution utilisant le NLP et le machine learning facilite la prise de décision en diagnostiquant les manipulations d’informations, est non infirmée.

• La méthodologie proposée combine l’analyse simultanée de grandes quantités de texte et permet ainsi de dépasser certaines capacités humaines limitées.

• L’exercice exploratoire sur la COVID-19 indique que la répétition exacte des titres sur une même rumeur signale une propension à classer cette rumeur comme une fake news.

Compléments

• La complexité technique et conceptuelle de l’identification des manipulations de l’information constitue une limite de la phase d’exploration.

• 🔄 Le travail envisagé à court terme consiste à: annoter un ensemble de pages web de rumeurs en français, créer un jeu de données, tester un apprentissage automatique supervisé fondé sur des indices linguistiques prédéfinis

💡 Astuce mémo

Surcharge informationnelle → vulnérabilité décisionnelle → besoin d’outils NLP

📊 Tableaux de synthèse

Notions liées aux manipulations