QCM : Théorie de l’information et canaux (46 questions)

Explication

Le secteur, autrefois principalement associé au téléphone fixe, propose désormais une vaste variété de technologies et de services. L’idée d’un retour au téléphone fixe inverse cette évolution, tandis que la réduction aux données ou à quelques services ne rend pas compte de cette diversité.

Explication

La transmission assure le transport de l’information à distance, alors que la commutation met en relation des usagers ou des services conformément à leurs ordres. Confondre ces deux fonctions inverse leur rôle; le codage ne désigne pas la mise en relation.

Explication

Les standards permettent à des équipements de différents constructeurs et à différents réseaux de fonctionner de manière interopérable et compatible. L’attribution des fréquences relève de la réglementation, tandis que fixer les tarifs ou imposer une conception identique n’est pas l’objectif indiqué.

Explication

L’autorité nationale contrôle l’usage des fréquences radio et accorde le droit d’utiliser une bande pour un but et une zone précis, parfois contre paiement. Une norme technique ne remplace pas cette autorisation; une permission générale sans but ni zone définis ne correspond pas à la règle.

Explication

Shannon a publié « A mathematical theory of communication » en 1948. « A theory of source coding » renvoie à un thème distinct, tandis que Boltzmann et Markov sont associés aux recherches antérieures sur les probabilités, pas à cet article.

Explication

Le but d’un système de télécommunication est de reproduire au point de réception le message sélectionné ailleurs, exactement ou approximativement. La réduction de taille relève du codage, la mesure des perturbations concerne l’évaluation du canal, et le choix du message appartient à la source.

Explication

La théorie de Shannon traite l’information comme une grandeur mesurable déterminée en termes de probabilités. La durée, la puissance et le nombre de symboles décrivent d’autres caractéristiques du signal ou de la transmission.

Explication

Un codage approprié peut permettre une communication sans erreur malgré les bruits qui perturbent la transmission. Il ne supprime pas physiquement le bruit et le principe ne porte ni sur l’absence de délai ni sur une erreur inévitable.

Explication

Un canal binaire symétrique a la même probabilité de transition dans les deux sens, ici $P(Y=0\mid X=1)=P(Y=1\mid X=0)=0{,}08$. La valeur 0,08 est la probabilité d’inversion, et non celle d’une transmission correcte; des probabilités égales caractérisent la symétrie.

Explication

Dans le modèle, le modulateur envoie le signal dans le canal de transmission, avant les étapes de démodulation et de détection. Le destinataire intervient après les décodages; le détecteur et le décodeur de canal se trouvent également après le canal.

Explication

Le codage de source compacte le message en éliminant la redondance, tandis que le codage de canal ajoute de la redondance pour protéger le message compressé. Inverser les fonctions confond les deux étapes; supprimer ou ajouter la redondance au mauvais stade attribue à chaque codage la fonction de l’autre.

Explication

Les objectifs typiques comprennent l’encodage et le décodage rapides, la facilité de transmission, l’utilisation efficace du canal et la correction des erreurs; ils peuvent être contradictoires, ce qui impose un compromis. La confidentialité relève d’un autre enjeu, tandis que les autres choix écartent des objectifs caractéristiques.

Explication

La qualité d’un système de transmission s’évalue en calculant ou en mesurant la probabilité d’erreur par bit ou par bloc d’information. La complexité et l’occupation spectrale sont d’autres paramètres, et le débit ne mesure pas directement la probabilité d’erreur.

Explication

La théorie de l’information couvre notamment la compression avec perte, la capacité des canaux, le codage correcteur d’erreurs, le chiffrement et la cryptanalyse. Le codage de source sans perte et le codage de canal sont des volets particuliers de ce domaine, tandis que la modulation n’en recouvre pas l’ensemble.

Explication

Shannon définit l’information en termes de probabilités et ne tient pas compte des particularités de l’événement observé. Les approches fondées sur les caractéristiques de l’événement, le volume de données ou la complexité du message ne correspondent pas à cette définition.

Explication

L’information en bits mesure la quantité d’incertitude éliminée chez le récepteur. Le nombre de possibilités restantes et le volume de données reçues ne sont pas cette réduction; l’observation ne suppose pas non plus une certitude absolue.

Explication

Le nombre de choix encodables avec $N_{\text{bits}}$ bits vaut $2^{N_{\text{bits}}}$; il faut donc $N_{\text{bits}}=\log_2(32)=5$ bits. $16$ provient d’une division inadéquate, $\ln(32)$ utilise la mauvaise base, et $32$ confond le nombre de choix avec le nombre de bits.

Explication

Le canal est une fonction de transmission située entre la source et la destination, qui transforme l’espace des symboles d’entrée en espace des symboles de sortie. La production des symboles relève de la source, leur codage est une fonction distincte, et leur rassemblement pour reconstituer le message ne définit pas le canal.

Explication

Un canal discret se caractérise par des espaces d’entrée et de sortie discrets; ses alphabets sont généralement finis, mais pas nécessairement. Un espace continu n’est pas discret, la finitude n’est pas une condition obligatoire, et le nombre de symboles ne détermine pas la mémoire.

Explication

Dans un canal binaire symétrique, l’inversion a une probabilité $p$ et la transmission sans inversion une probabilité $1-p$; ici, $1-0{,}2=0{,}8$ dans les deux directions. $0{,}2$ reprend la probabilité d’inversion, tandis que des valeurs différentes selon le sens contredisent la symétrie.

Explication

La mesure d’information est infinie lorsque l’événement est impossible, c’est-à-dire lorsque sa probabilité est nulle. Une information nulle correspond à un événement certain; une probabilité nulle ne donne pas une valeur finie.

Explication

Pour deux événements indépendants, l’information de leur réalisation conjointe est la somme de leurs informations : $2+3=5$ Sh. Le produit $6$ résulte d’une multiplication erronée, tandis que $2$ ou $3$ omettent l’information de l’un des événements.

Explication

La mesure vaut $h(x_i)=\log_2\frac{1}{p_i}$. Avec $p_i=\frac{1}{8}$, on obtient $\log_2 8=3$ Sh; le signe négatif vient d’un oubli du signe de la formule, tandis que $\frac{1}{8}$ et $8$ ne sont pas les logarithmes recherchés.

Explication

L’entropie est l’information moyenne des réalisations, obtenue en pondérant chaque information $-\log_2(p_i)$ par sa probabilité $p_i$. La somme sans signe négatif inverse le signe, celle sans pondération omet les probabilités, et $\log_2(1-p_i)$ n’est pas la formule de l’entropie donnée.

Explication

L’entropie caractérise l’alphabet et mesure l’incertitude associée à la variable aléatoire. La taille de l’alphabet compte les valeurs possibles, tandis que l’information d’une réalisation et la probabilité d’une valeur particulière sont des notions distinctes.

Explication

Pour quatre réalisations équiprobables, l’entropie maximale vaut $\log_2(4)=2$ bits; elle est nulle lorsqu’une réalisation est certaine. $\ln(4)$ emploie une autre base, $4$ confond le nombre de réalisations avec le logarithme, et l’option inversant maximum et certitude échange les deux cas.

Explication

L’information mutuelle vaut $\log_2\left(\frac{P(X=x_i\mid Y=y_j)}{P(X=x_i)}\right)=\log_2\left(\frac{1/2}{1/8}\right)=\log_2(4)=2$ bits. Inverser le rapport donne $-2$, la différence vaut $3/8$ et le logarithme naturel ne respecte pas la base 2 de la formule.

Explication

L’information mutuelle moyenne est la moyenne des informations des paires, pondérée par leur probabilité conjointe $P(x_i,y_j)$. La somme sans poids omet cette moyenne, le rapport inversé change le signe, et le produit des marginales traite les événements comme indépendants.

Explication

L’information mutuelle mesure la réduction de l’incertitude sur l’entrée apportée par la sortie : $I(X_k,Y_k)=H(X_k)-H(X_k\mid Y_k)$. Soustraire l’entropie de sortie confond les variables, additionner l’incertitude ne mesure pas sa réduction, et la différence avec l’entropie conjointe n’est pas la relation donnée.

Explication

L’entropie différentielle est l’intégrale de $-p(x)\log_2(p(x))$ sur l’ensemble des valeurs possibles. Omettre le signe négatif inverse le signe, utiliser $\ln$ change la base, et supprimer le facteur $p(x)$ ne pondère plus par la densité.

Explication

La formule est $H_{\max}(x)=\frac{1}{2}\log_2(2\pi eP)$ ; pour $P=4$, l’argument vaut $8\pi e$. L’absence du facteur un demi, l’emploi de $\sqrt{P}$ ou le changement de base donnent des expressions différentes de la formule.

Explication

Pour quatre réalisations équiprobables, l’entropie est maximale et vaut $\log_2(4)=2$ bits. La valeur $\log_2(n)$ sans évaluation reste inachevée, tandis que quatre est le nombre d’états et $1/4$ leur probabilité.

Explication

Pour une source binaire, chaque probabilité multiplie son propre logarithme, et la somme est précédée d’un signe négatif. Intervertir les probabilités, supprimer ce signe ou les élever au carré modifie la formule.

Explication

Pour une source binaire équilibrée, $p=0{,}5$ et l’entropie atteint son maximum de $1$ Shannon, soit un bit. Une entropie nulle correspondrait à une source sans incertitude, tandis que deux est le nombre de symboles, non l’entropie.

Explication

Le débit vaut $D_X=H(X)/\tau$, donc $3/0{,}02=150$ bits par seconde. Multiplier par la durée donne $0{,}06$, tandis que prendre l’inverse de la durée pour la diviser par l’entropie donne $50$.

Explication

L’entropie d’un alphabet est la somme des termes $-p_i\log_2 p_i$ sur ses caractères. Omettre le signe négatif donne une valeur de signe erroné, supprimer les facteurs $p_i$ change la formule, et $\log_2 3$ correspond au cas de trois caractères équiprobables.

Explication

Avec les probabilités observées dans le texte littéraire français, le calcul sans corrélations donne 4,09 Shannon par caractère. La valeur 4,9 correspond au modèle où les 30 caractères sont équiprobables, tandis que 1 et 2 ne sont pas les résultats indiqués pour ce calcul.

Explication

Pour un canal sans bruit à alphabet équiprobable de taille $Q$, la capacité vaut $\log_2 Q$; ici, $\log_2 8=3$. Répondre 8 confond la taille de l’alphabet avec son logarithme, et 1 correspond au cas d’un canal binaire sans bruit.

Explication

L’information mutuelle est maximisée lorsque les deux symboles d’entrée sont équiprobables, soit une probabilité de $1/2$ pour chacun. Les répartitions asymétriques ne réalisent pas cette maximisation, et la probabilité d’erreur du canal est distincte de la distribution des symboles d’entrée.

Explication

Lorsque $p=1/2$, la sortie ne permet pas de distinguer l’information transmise; le canal est inexploitable et sa capacité est nulle. La capacité d’un bit par symbole correspond au cas $p=0$, et des entrées équiprobables ne suppriment pas l’effet d’une probabilité d’erreur de moitié.

Explication

La capacité par symbole vaut $\frac{1}{2}\log_2(1+P/N)$ ; avec $P/N=3$, elle est $\frac{1}{2}\log_2(4)=1$ Shannon par symbole. Omettre le facteur un demi double le résultat, le logarithme naturel change la base, et inverser le rapport utilise le mauvais SNR.

Explication

La capacité par seconde est $B\log_2(1+P/N)$ ; ici, $2\,\text{kHz}\times\log_2(4)=4\,\text{kbit/s}$. La capacité par symbole omet le facteur lié à la bande, omettre le un donne $\log_2(3)$, et $\ln$ n’est pas le logarithme en base deux.

Explication

La formule est $C=B\log_2\left(1+\frac{P}{N_0B}\right)$. Ici, $N_0B=1\,\text{mW}$, donc $C=1\,\text{MHz}\times\log_2(4)=2\,\text{Mbit/s}$ ; confondre $N_0$ avec le bruit total ou omettre le un produit les autres résultats proposés.

Explication

L’ETSI, l’ANSI Committee T1 et le TTC sont cités comme organismes régionaux de normalisation. L’UIT et le 3GPP sont présentés comme internationaux, tandis que l’autorité nationale des fréquences relève de la réglementation.

Explication

Un canal avec mémoire peut produire une sortie courante qui dépend d’entrées antérieures, en plus de l’entrée actuelle. Un canal sans mémoire dépend de l’entrée courante; la stationnarité concerne l’origine des temps, et la continuité décrit les espaces d’entrée et de sortie.

Explication

Lorsque le débit d’entrée est strictement inférieur à la capacité, des codes appropriés permettent de rendre la probabilité d’erreur arbitrairement petite. Un débit supérieur à la capacité ne satisfait pas cette condition, et le théorème ne garantit pas une absence absolue d’erreurs.