Reconstruire un signal à partir de mesures imparfaites

Sur une courte fenêtre de temps, on modélise un signal par un polynôme de degré au plus 2 :

$$s_x(t)=\alpha+\beta t+\gamma t^2, \qquad x=\begin{pmatrix}\alpha\\ \beta\\ \gamma\end{pmatrix}\in\mathbb R^3.$$

Des mesures doivent permettre d'estimer les trois paramètres du modèle. Lorsque les données sont exactes, on peut chercher un signal qui passe par tous les points mesurés. Lorsque les mesures sont imparfaites, un tel signal peut ne plus exister : il faut alors préciser ce que signifie « reconstruire au mieux ».

Pour $u,v\in\mathbb R^m$, on utilise le produit scalaire canonique

$$\langle u,v\rangle=u^\mathsf{T}v$$

et la norme associée $\|u\|^2=\langle u,u\rangle$. La transposée d'une matrice $A$ est notée $A^\mathsf{T}$.

I — Reconstruire à partir de mesures exactes

1. Un capteur fournit les trois mesures

$$s(-1)=13,\qquad s(0)=10,\qquad s(1)=11.$$

Déterminer le signal $s$.

2. On mesure maintenant un signal du même modèle en trois instants distincts $t_1,t_2,t_3$. On pose

$$A(t_1,t_2,t_3)= \begin{pmatrix} 1&t_1&t_1^2\\ 1&t_2&t_2^2\\ 1&t_3&t_3^2 \end{pmatrix}.$$

(a) Sans calculer de déterminant, montrer que l'application $x\mapsto A(t_1,t_2,t_3)x$ est injective. En déduire que trois mesures prises en trois instants distincts déterminent un unique signal du modèle.

(b) Montrer qu'une ou deux mesures ne suffisent pas, en général, à déterminer ce signal de façon unique.

(c) Que peut apporter une quatrième mesure si toutes les données sont exactement compatibles avec le modèle ?

II — Quand les mesures deviennent incompatibles

On effectue maintenant des mesures aux instants $-2,-1,0,1,2$ et l'on obtient

$$y= \begin{pmatrix} 21\\11\\10\\13\\15 \end{pmatrix}.$$

Les cinq valeurs prédites par un paramètre $x$ sont regroupées dans le vecteur $Ax$, avec

$$A= \begin{pmatrix} 1&-2&4\\ 1&-1&1\\ 1&0&0\\ 1&1&1\\ 1&2&4 \end{pmatrix}.$$

3. Montrer que le système $Ax=y$ n'a pas de solution.

4. Pour $x\in\mathbb R^3$, on appelle résidu le vecteur

$$r(x)=Ax-y.$$

(a) Expliquer pourquoi la somme des cinq composantes de $r(x)$ ne constitue pas une bonne mesure de l'erreur globale.

(b) On pose

$$J(x)=\|Ax-y\|^2.$$

Écrire $J(x)$ comme une somme de cinq carrés et expliquer le sens de ce critère.

On cherche désormais un paramètre $\widehat x$ pour lequel $J$ est minimale. Cette façon de mesurer l'écart aux données est appelée méthode des moindres carrés.

III — Caractériser la meilleure reconstruction

5. Supposons qu'un paramètre $\widehat x$ minimise $J$.

(a) Montrer que

$$\langle r(\widehat x),Ah\rangle=0$$

pour tout $h\in\mathbb R^3$.

(b) En déduire une relation matricielle vérifiée par $\widehat x$ ne faisant intervenir que $A$, $A^\mathsf{T}$ et $y$.

6. Réciproquement, soit $x\in\mathbb R^3$ vérifiant la relation obtenue à la question 5(b).

(a) Montrer que $J(x+h)\geqslant J(x)$ pour tout $h\in\mathbb R^3$.

(b) À quelle condition sur $A$ cette inégalité est-elle stricte pour tout $h\ne0$ ? Qu'en déduit-on alors sur la meilleure reconstruction ?

(a) Montrer que la matrice $A$ donnée dans la partie II définit une application injective.

(b) Plus généralement, montrer que si une matrice $B\in\mathcal M_{m,n}(\mathbb R)$ définit une application injective, alors $B^\mathsf{T}B$ est inversible.

(c) En déduire l'existence et l'unicité de $\widehat x$ dans le problème considéré, puis exprimer $\widehat x$ en fonction de $A$ et de $y$.

IV — Calculer puis interpréter la reconstruction

(a) Calculer $A^\mathsf{T}A$ et $A^\mathsf{T}y$.

(b) Déterminer $\widehat x$, puis le signal reconstruit $\widehat s$.

(c) Calculer $r(\widehat x)$ et la valeur minimale de $J$.

9. On note $E=\operatorname{Im}(A)\subset\mathbb R^5$.

(a) Montrer que $r(\widehat x)$ est orthogonal à tout vecteur de $E$.

(b) En déduire que $A\widehat x$ est l'unique point de $E$ le plus proche de $y$.

On appelle projection orthogonale de $y$ sur $E$ cet unique vecteur $p\in E$ tel que $y-p$ soit orthogonal à $E$. Identifier ici cette projection.

10. Le signal qui passe exactement par les trois mesures centrales, aux instants $-1,0,1$, correspond au paramètre

$$x_c= \begin{pmatrix} 10\\1\\2 \end{pmatrix}.$$

Calculer $J(x_c)$ et comparer avec $J(\widehat x)$. Expliquer le résultat.

V — Une formule qui vaut pour tout modèle linéaire injectif

Soient maintenant $m,n\in\mathbb N^*$, $B\in\mathcal M_{m,n}(\mathbb R)$ et $z\in\mathbb R^m$. On suppose que l'application $u\mapsto Bu$ est injective.

(a) Montrer que le problème

$$\min_{u\in\mathbb R^n}\|Bu-z\|^2$$

admet une unique solution et donner une formule pour celle-ci.

(b) On pose

$$R=(B^\mathsf{T}B)^{-1}B^\mathsf{T}.$$

Montrer que $RB=I_n$. Que signifie cette identité lorsque les données sont exactement de la forme $z=Bu_0$ ?

(c) On pose $P=BR$. Montrer que

$$P^2=P$$

et que $\operatorname{Im}(P)=\operatorname{Im}(B)$.

(d) Montrer que, pour tout $z\in\mathbb R^m$, le vecteur $Pz$ est la projection orthogonale de $z$ sur $\operatorname{Im}(B)$.

Ainsi, la même construction résout deux problèmes qui semblaient différents : elle retrouve exactement les paramètres lorsque les données sont compatibles, et elle fournit la meilleure approximation lorsque les mesures ne le sont plus.