10.1 Bases Orthonormales

Matrices orthogonales et bases orthonormales Gram-Schmidt Décomposition QR
10.1. Bases orthonormales et procédé de

Gram-Schmidt
Section 4.4
MTH1007
J. Guérin, N. Lahrichi, S. Le Digabel

Polytechnique Montréal
A2019
(v4)
MTH1007: algèbre linéaire 1/16

Plan
1. Matrices orthogonales et bases orthonormales
2. Procédé de Gram-Schmidt
3. Décomposition QR


Vecteur orthonormaux
I Les vecteurs q1 , q2 , . . . , qn de Rm sont orthonormaux si

> 0 lorsque i 6= j (orthogonalité)
qi qj =
1 lorsque i = j (vecteurs unitaires)
pour tous les i, j ∈ {1, 2, . . . , n}
I Géométriquement, les vecteurs sont de longueur 1 et

perpendiculaires entre eux.

Matrices orthogonales (1/2)

I Si les colonnes de la matrice
Q = q1 q2 · · · qn ∈ Rm×n sont orthonormales alors

Q> Q = I ∈ Rn×n
I La matrice Q n’est pas nécessairement carrée :

Q> Q = I ∈ Rn×n mais QQ> ∈ Rm×m 6= I
I Dans le cas où Q est carrée alors on dit que c’est une matrice
orthogonale et on a Q> Q = QQ> = I, et donc Q−1 = Q>
I Les colonnes d’une matrice orthogonale forment une base

de Rn . C’est une base orthonormale.

Matrices orthogonales (2/2)
I Une matrice orthogonale préserve le produit scalaire :

Pour tous vecteurs x et y de Rn , on a
(Qx)> (Qy) = x> Q> Qy = x> y
I Géométriquement, ceci signifie que les longueurs et les angles

sont préservés.
I kQxk = kxk pour tout x ∈ Rn

Matrices orthogonales : Exemples

I La matrice orthogonale la plus évidente est l’identité : Q = I

cos θ − sin θ
I Matrices de rotation : Q = ∈ R2×2
sin θ cos θ
I Les matrices de permutation sont orthogonales.
I Matrices de réflexion : Si u ∈ Rn unitaire, on définit Q par la
transformation de Householder :
Q = I − 2uu> ∈ Rn×n
Q est symétrique, orthogonale, et Q2 = I. Noter aussi que u

ne reste pas comme une colonne de Q
Exemple avec u1 = (1, 0) et u2 = √1 (1, −1)

2

Projection
I Si les vecteurs q1 , q2 , . . . , qn de Rm sont orthonormaux alors
la matrice de projection sur le sous-espace de Rm de
dimension n engendré par ces vecteurs (C(Q)) se simplifie et
devient
P = Q(Q> Q)−1 Q> = QQ> ∈ Rm×m
I x̂ = (Q> Q)−1 Q> b = Q> b ∈ Rn avec b ∈ Rm : La solution
au sens des moindres carrés devient très facile à calculer : Plus
besoin de (A> A)−1
 > 
q1 b
q >b 
I p = Qx̂ = QQ> b = q1 q2 · · · qn  2  =

 ··· 
q>nb
q1 (q> > >

1 b) + q2 (q2 b) + . . . + qn (qn b) ∈ R
m

Projection : Cas n = m
I C(Q) = Rn et la projection d’un vecteur b ∈ Rn sur C(Q)
est lui-même : P = I
I De plus, on a p = b et

b = q 1 q> > >
1 b + q2 q2 b + · · · + qn qn b
Ceci est la décomposition de b dans la base des qj ,

j ∈ {1, 2, . . . , n}

2 1 0
=2 +3
3 0 1
I Par exemple :
1 −1
= 52 + 12
1 1


Procédé de Gram-Schmidt (1/2)

Soit u1 , u2 , . . . , un des vecteurs linéairement indépendants de Rm
et W le sous-espace engendré par ces vecteurs (n ≤ m).
La procédure suivante produit une base orthonormale de W :
(1) v1 = u1
v1> u2
(2) v2 = u2 − v1 (v2 ⊥ v1 car obtenu par u2 − p avec
v1> v1
p la projection de u2 sur v1 )
v1> u3 v2> u3
(3) v3 = u3 − v 1 − v2
v1> v1 v2> v2
...

Procédé de Gram-Schmidt (2/2)

k−1 >
X v j uk
(k) vk = uk − vj
j=1
vj> vj
...
n−1
X vj> un
(n) vn = un − vj
j=1
vj> vj
vj
(n + 1) qj = pour tout j ∈ {1, 2, . . . , n}
||vj ||
Les vecteurs q1 , q2 , . . . , qn forment la matrice Q et la base
orthonormale recherchée. On a donc W = C(Q) = C(A) si
A = [u1 u2 · · · un ]

Procédé de Gram-Schmidt : Remarques

I Les “nouveaux” qi sont orthogonaux aux “vieux” uj (avec
i > j) :
I q2 ⊥ u1
I q3 ⊥ u1
I q3 ⊥ u2
I ...
I Si m = n, on obtient une base orthonormale de Rn

I Le coût du procédé est en O(mn2 )
I La transformation de Householder permet aussi d’obtenir une
base orthornormale, à moindre coût.
I La forme matricielle du procédé de Gram-Schmidt est la
décomposition QR

Factorisation QR (1/2)
I Si A = u1 u2 · · · un ∈ Rm×n et

Q = q1 q2 · · · qn ∈ Rm×n est obtenue par le procédé

de Gram-Schmidt alors les ui sont des combinaisons linéaires

des qi (et vice versa), de sorte que
A = QR avec R ∈ Rn×n
I R est triangulaire supérieure et peut s’obtenir par R = Q> A
I Ses éléments diagonaux correspondent aux normes des vj du

procédé de Gram-Schmidt.

Factorisation QR (2/2)
I La décomposition fonctionne pour des matrices carrées ou
rectangulaires (n ≤ m), à condition que les colonnes de A
soient indépendantes.
I Illustration avec m = n = 3 :
q> > >

    
1 u1 q1 u2 q1 u3
 u1 u2 u3  =  q1 q2 q3   q> >
2 u2 q2 u3

>
q 3 u3
I Les formules des moindres carrés se simplifient en

x̂ = R−1 Q> b où R−1 se calcule facilement par remontée
triangulaire.

10.1 Bases Orthonormales

Transféré par

Droits d'auteur :

Formats disponibles

10.1 Bases Orthonormales

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

10.1 Bases Orthonormales

Transféré par

Droits d'auteur :

Formats disponibles

Matrices orthogonales et bases orthonormales Gram-Schmidt Décomposition QR

10.1. Bases orthonormales et procédé de

J. Guérin, N. Lahrichi, S. Le Digabel

MTH1007: algèbre linéaire 1/16

1. Matrices orthogonales et bases orthonormales

MTH1007: algèbre linéaire 2/16

1. Matrices orthogonales et bases orthonormales

MTH1007: algèbre linéaire 3/16

I Les vecteurs q1 , q2 , . . . , qn de Rm sont orthonormaux si

pour tous les i, j ∈ {1, 2, . . . , n}

I Géométriquement, les vecteurs sont de longueur 1 et

MTH1007: algèbre linéaire 4/16

Matrices orthogonales (1/2)

I La matrice Q n’est pas nécessairement carrée :

I Les colonnes d’une matrice orthogonale forment une base

MTH1007: algèbre linéaire 5/16

Matrices orthogonales (2/2)

I Une matrice orthogonale préserve le produit scalaire :

(Qx)> (Qy) = x> Q> Qy = x> y

I Géométriquement, ceci signifie que les longueurs et les angles

I kQxk = kxk pour tout x ∈ Rn

MTH1007: algèbre linéaire 6/16

Matrices orthogonales : Exemples

Q est symétrique, orthogonale, et Q2 = I. Noter aussi que u

Exemple avec u1 = (1, 0) et u2 = √1 (1, −1)

MTH1007: algèbre linéaire 7/16

q1 (q> > >

MTH1007: algèbre linéaire 8/16

Ceci est la décomposition de b dans la base des qj ,

MTH1007: algèbre linéaire 9/16

1. Matrices orthogonales et bases orthonormales

MTH1007: algèbre linéaire 10/16

Procédé de Gram-Schmidt (1/2)

MTH1007: algèbre linéaire 11/16

Procédé de Gram-Schmidt (2/2)

MTH1007: algèbre linéaire 12/16

Procédé de Gram-Schmidt : Remarques

I Si m = n, on obtient une base orthonormale de Rn

1. Matrices orthogonales et bases orthonormales

MTH1007: algèbre linéaire 14/16

Q = q1 q2 · · · qn ∈ Rm×n est obtenue par le procédé

de Gram-Schmidt alors les ui sont des combinaisons linéaires

I R est triangulaire supérieure et peut s’obtenir par R = Q> A

I Ses éléments diagonaux correspondent aux normes des vj du

MTH1007: algèbre linéaire 15/16

q> > >

I Les formules des moindres carrés se simplifient en

MTH1007: algèbre linéaire 16/16

Vous aimerez peut-être aussi