Complément 4

Applications linéaires d’un espace euclidien

1 Formes linéaires sur un espace euclidien 2

1.1 Représentations des formes linéaires . . . . . 2
1.2 Application à l’adjoint d’un endomorphisme . 2

2 Automorphismes orthogonaux 4
2.1 Définitions et propriétés . . . . . . . . . . . . 4
2.2 Matrices orthogonales . . . . . . . . . . . . . 7

3 Automorphismes orthogonaux du plan eucli-

dien P 9
3.1 Matrices orthogonales d’ordre 2 . . . . . . . . 9
3.2 Automorphismes orthogonaux directs du plan 9
3.3 Automorphismes orthogonaux indirect du plan 10

Mathieu Mansuy - Professeur de Mathématiques en supérieures PCSI au Lycée Saint Louis (Paris)
[email protected]
PCSI5 Lycée Saint Louis

1 Formes linéaires sur un espace euclidien

Dans tout ce chapitre, E désigne un espace euclidien, c’est à dire un espace vectoriel sur R muni
d’un produit scalaire < · ; · > et de dimension finie.

1.1 Représentations des formes linéaires

Propriété 1

Pour toute forme linéaire ϕ : E → R, il existe un unique vecteur v ∈ E tel que :

∀x ∈ E, ϕ(x) =< v, x > .

En d’autres termes, l’application v ∈ E 7→ ϕv =< v; · >∈ E ∗ est un isomorphisme (où

E ∗ = L(E, R) désigne le dual de E, i.e. l’espace vectoriel des formes linéaires de E).

Preuve. L’appliaction Φ : v ∈ E 7→ ϕv =< v; · >∈ E ∗ est linéaire de E dans E ∗ car

ϕλu+µv =< λu + µv; · >= λ < u; · > +µ < v; · >= λϕu + µϕv .

Φ est injective car si v ∈ ker(Φ), on a Φ(v) = ϕv = 0E ∗ . D’où pour tout x ∈ E, ϕv (x) = 0 et en

particulier pour x = v,
ϕv (v) =< v; v >= ||v||2 = 0
et v = 0E . Enfin Φ est un isomorphisme puisqu’elle est linéaire injective et que dim(E) = dim(E ∗ ). 

1.2 Application à l’adjoint d’un endomorphisme

Propriété 2

Soit f ∈ L(E). Il existe un unique endomorphisme f ∗ ∈ L(E), appelé l’adjoint de f , tel

que l’on ait :
∀x, y ∈ E, < x, f (y) >=< f ∗ (x), y > .

Preuve. Pour tout x ∈ E, on considère l’application y ∈ E 7→< x, f (y) >∈ R. C’est une forme
linéaire sur E, et par la proposition précédente il existe un unique vecteur que l’on note f ∗ (x) ∈ E tel
que l’on ait :
∀y ∈ E, < x, f (y) >=< f ∗ (x), y > .
On définit ainsi une application f ∗ associant à tout vecteur x de E, le vecteur f ∗ (x) de E. On montre
alors que cette application est linéaire : pour tout x1 , x2 , y ∈ E, λ, µ ∈ R,

< f ∗ (λx1 + µx2 ), y > = < λx1 + µx2 , f (y) >= λ < x1 , f (y) > +µ < x2 , f (y) >
= λ < f ∗ (x1 ), y > +µ < f ∗ (x2 ), y >=< λf ∗ (x1 ), y > + < µf ∗ (x2 ), y >
= < λf ∗ (x1 ) + µf ∗ (x2 ), y > .

Ainsi on a montré que pour tout y ∈ E, < f ∗ (λx1 + µx2 ) − (λf ∗ (x1 ) + µf ∗ (x2 )), y >= 0. En prenant
y = f ∗ (λx1 + µx2 ) − (λf ∗ (x1 ) + µf ∗ (x2 )) on obtient

||f ∗ (λx1 + µx2 ) − (λf ∗ (x1 ) + µf ∗ (x2 ))||2 = 0

et donc f ∗ (λx1 + µx2 ) = λf ∗ (x1 ) + µf ∗ (x2 ). 

2
PCSI5 Lycée Saint Louis

Propriété 3

On a les propriétés suivantes

ˆ ∀f ∈ L(E), (f ∗ )∗ = f .

ˆ ∀f, g ∈ L(E), (g ◦ f )∗ = f ∗ ◦ g ∗ .

ˆ ∀λ, µ ∈ R, ∀f, g ∈ L(E), (λf + µg)∗ = λf ∗ + µg ∗ .

Preuve. Ceci résulte directement des égalités suivantes : pour tout x, y ∈ E,

< (f ∗ )∗ (x), y >=< x, f ∗ (y) >=< f (x), y >

pour le premier point,

< (g ◦ f )∗ (x), y >=< x, g ◦ f (y) >=< g ∗ (x), f (y) >=< f ∗ ◦ g ∗ (x), y >

pour le deuxième point. Le dernier point est laissé en exercice. 

Remarque.

ˆ On montre facilement que pour tout λ ∈ R, (λIdE )∗ = λIdE .

ˆ Si f est un automorphisme de E, on a f ◦ f −1 = f −1 ◦ f = IdE . On montre alors que f ∗ est

aussi un automorphisme, et que (f ∗ )−1 = (f −1 )∗ , car :

(f ◦ f −1 )∗ = (f −1 )∗ ◦ f ∗ = IdE et (f −1 ◦ f )∗ = f ∗ ◦ (f −1 )∗ = IdE .

Exemples : adjoints d’endomorphismes simples

ˆ L’adjoint d’un projecteur p est un projecteur. En effet, la relation p ◦ p = p implique p∗ ◦ p∗ = p∗

par passage à l’adjoint.

ˆ De même l’adjoint d’une symétrie s est une symétrie en utilisant la relation caractéristique
s ◦ s = IdE .

Propriété 4

Pour tout endomorphisme f de l’espace euclidien E, on a

ker(f ∗ ) = (im(f ))⊥ et im(f ∗ ) = (ker(f ))⊥ .

Preuve. La deuxième égalité se déduit de la première en passant à l’orthogonal, puis en changeant f

en f ∗ compte-tenu de (f ∗ )∗ = f . Pour la première, on a

x ∈ ker(f ∗ ) ⇔ f ∗ (x) = 0
⇔ ∀y ∈ E, < f ∗ (x), y >= 0
⇔ ∀y ∈ E, < x, f (y) >= 0
⇔ x ∈ (im(f ))⊥ .

3
PCSI5 Lycée Saint Louis

Propriété 5

Soit f ∈ L(E) et F un sous-espace vectoriel stable par f (i.e. f (F ) ⊆ F ). Alors F ⊥ est un

sous espace vectoriel stable par f ∗ .

Preuve. Ceci résulte de l’égalité suivante :

∀x ∈ F ⊥ , ∀y ∈ F, < f ∗ (x), y >=< x, f (y) >= 0 puisque f (y) ∈ F.

D’où f ∗ (x) ∈ F ⊥ . 

Propriété 6

Soit B une base orthonormale de E. La matrice de l’adjoint f ∗ de f dans la base B est la

transposée de la matrice de f :

M(f ∗ , B) = t M(f, B).

ATTENTION, ceci n’est vrai que si la base est orthonormale.

Preuve. Notons B = (e1 , · · · , en ) et M(f, B) = (mi,j )1≤i,j≤n . Dans cette base orthonormée, on sais
que pour tout v ∈ E:
X
v= < v, ej > ej .
1≤j≤n

Ainsi :
X X
f ∗ (ei ) = < f ∗ (ei ), ej > ej = < ei , f (ej ) > ej .
1≤j≤n 1≤j≤n

Or < ei , f (ej ) > est la i-ème composante du vecteur f (ej ), i.e. mj,i . D’où l’égalité matricielle. 

Remarque. De ce résultat et des propriétés de la trace et du déterminant, on en déduit

det(f ∗ ) = det(f ) et Tr(f ∗ ) = Tr(f ).

2 Automorphismes orthogonaux
2.1 Définitions et propriétés
Définition.
On dit qu’un endomorphisme f est orthogonal (ou isométrie vectorielle) si f conserve la norme
euclidienne :
∀x ∈ E, ||f (x)|| = ||x||.

Remarque. Un endomorphisme orthogonal est bijectif : en effet on a pour tout x ∈ Ker(f ) :

0 = ||f (x)|| = ||x||.

Ainsi x = 0E et Ker(f ) est réduit au vecteur nul. f est donc un endomorphisme injectif, en dimension
finie. f est bien un automorphisme, appelé aussi automorphisme orthogonal.

4
 PCSI5 Lycée Saint Louis

Propriété 7

Il y a équivalence entre :

(1) f est orthogonal ;

(2) f conserve le produit scalaire : ∀x, y ∈ E, < f (x), f (y) >=< x, y > ;

(3) f transforme toute base orthonormale en une base orthonormale.

Preuve.

(1) ⇒ (2) Supposons que f est orthogonal, i.e. que f conserve la norme euclidienne. On a alors pour tout
x, y ∈ E,
1 1
< f (x), f (y) > = (||f (x) + f (y)||2 − ||f (x) − f (y)||2 ) = (||f (x + y)||2 − ||f (x − y)||2 )
4 4
1 2 2
= (||x + y|| − ||x − y|| ) =< x, y > .
4

(2) ⇒ (3) Supposons que f est conserve le produit scalaire. Soit B = (e1 , . . . , en ) une base orthonormale
de E, et B 0 = (f (e1 ), . . . , f (en )). Alors pour tout 1 ≤ i, j ≤ n, on a :

< f (ei ), f (ej ) >=< ei , ej >= δi,j .

Donc B 0 est une base orthonormale.

(3) ⇒ (1) Supposons que f transforme toute base orthonormale en une base orthonormale. Soit B =
(e1 , . . . , en ) une base orthonormale de E, et B 0 = (f (e1 ), . . . , f (en )) la base orthonormale image.
Soit x ∈ E, x = x1 e1 + · · · + xn en . On a :

f (x) = x1 f (e1 ) + · · · + xn f (en ).

On a :
||x|| = x21 + · · · + x2n et ||f (x)|| = x21 + · · · + x2n
puisque B 0 est une base orthonormale. Ainsi ||f (x)|| = x pour tout x ∈ E, et f conserve la
norme.

Propriété 8

Soient f, g des automorphismes orthogonaux. Alors f ◦ g et f −1 sont orthogonaux.

L’ensemble des automorphismes orthogonaux de E est appelé groupe orthogonal de E et
noté O(E).

Preuve.

ˆ ∀f, g ∈ O(E), g ◦ f ∈ O(E) puisqu’on a ∀x ∈ E, ||g ◦ f (x)|| = ||f (x)|| = ||x||.

ˆ ∀f ∈ O(E), f −1 ∈ O(E) puisqu’on a ∀x ∈ E, ||f −1 (x)|| = ||f ◦ f −1 (x)|| = ||x||.

5
PCSI5 Lycée Saint Louis

Propriété 9

Soit f un endomorphisme orthogonal de E. Si un sous-espace F est stable par f , alors F ⊥

est stable par f .

Preuve. Supposons que F soit stable par F , i.e. f (F ) ⊆ F . f induit sur F un endomorphisme qui
est toujours orthogonal (il conserve toujours la norme des vecteurs de F par exemple). En particulier
f est bijective, et f (F ) = F . Dès lors, pour tout y ∈ F et z ∈ F ⊥ , il existe x ∈ F tel que f (x) = y et

< y, f (z) >=< f (x), f (z) >=< x, z >= 0.

D’où f (F ⊥ ) ⊆ F ⊥ . 

Exemple : symétries orthogonales et réflexions

Rappelons qu’une symétrie s est orthogonale si c’est la symétrie par rapport à un sous-espace F dans
la direction du sous-espace orthogonal F ⊥ .

Propriété 10

Une symétrie orthogonale est un endomorphisme orthogonale de E.

Notons qu’en dépit du vocabulaire utilisé, une projection orthogonale (différente de l’identité) n’est
en revanche pas un endomorphisme orthogonal (elle n’est même pas bijective !).

Preuve. Soit donc s une symétrie orthogonale par rapport à un sous-espace F dans la direction du
sous-espace orthogonal F ⊥ . Pour montrer que s ∈ O(E), on va montrer par exemple que s conserve
la norme euclidienne. Pour cela soit x ∈ E = F ⊕ F ⊥ . Il existe y ∈ F et z ∈ F ⊥ tels que x = y + z,
et :
||s(x)||2 = ||s(y + z)||2 = ||y − z||2 = ||y||2 + ||z||2 = ||y + z||2 = ||x||2
les troisièmes et quatrièmes égalités étant obtenues par application du théorème de Pythagore. 
Définition.
On appelle réflexion de E toute symétrie orthogonale r par rapport à un hyperplan H de E (i.e.
un sev H de E de dimension dim(E) − 1).

Propriété 11

Soit f ∈ L(E), M la matrice de f dans une base orthonormée. Alors on a l’équivalence :

t
f ∈ O(E) ⇔ M M = In .

Preuve. Soit B = (e1 , . . . , en ) la base orthonormale considérée. On a alors les équivalences suivantes
:

f ∈ O(E) ⇔ (f (e1 ), . . . , f (en )) base orthonormale ⇔ (C1 , . . . , Cn ) base orthonormale de Rn

où C1 , . . . , Cn désignent les vecteurs colonnes de M . Or on a :

t
M M = (< Ci , Cj >)1≤i,j≤n .

6
 PCSI5 Lycée Saint Louis

Ainsi (C1 , . . . , Cn ) est une base orthonormale de Rn si et seulement si < Ci , Cj >= δi,j pour tout
1 ≤ i, j ≤ n, soit encore t M M = In . D’où le résultat. 

Remarque. En prenant le déterminant dans la relation précédente, on obtient :

1 = det(In ) = det(t M M ) = det(t M ) det(M ) = det(M )2 .

Ainsi si f est un automorphisme orthogonal, det(f ) = det(M ) ± 1, ce qui justifie la définition suivante
:
Définition.
Un endomorphisme orthogonal f de E sera dit :

ˆ direct si det(f ) = 1,

ˆ indirect si det(f ) = −1.

On appelle groupe spécial orthogonal le sous-ensemble de O(E) des automorphismes orthogo-

naux de déterminant 1, noté SO(E). Ses éléments sont appelés rotations.

2.2 Matrices orthogonales

Définition.
Une matrice M de Mn (R) est dite orthogonale si l’endomorphisme de Rn qui lui est canonique-
ment associé est un automorphisme orthogonal.

Propriété 12

Soit M ∈ Mn (R). Les conditions suivantes sont équivalentes :

(1) M est orthogonale ;

(2) t M M = In ;

(3) M t M = In ;

(4) les vecteurs colonne de M forment une base orthonormale ;

(5) les vecteurs ligne de M forment une base orthonormale.

Preuve. Notons f l’endomorphisme de E canoniquement associé à M .

(1) ⇒ (2) Déjà démontré.

(2) ⇒ (4) Si on note C1 , . . . , Cn les vecteurs colonnes de M , on a :

t
M M = (< Ci , Cj >)1≤i,j≤n .

Ainsi si t M M = In , alors < Ci , Cj >= δi,j pour tout 1 ≤ i, j ≤ n et (C1 , . . . , Cn ) est une base orthonormale d

(4) ⇒ (1) Si (C1 , . . . , Cn ) est une base orthonormale de Rn , alors f transforme la base canonique (qui est
orthonormale) en une base orthonormale. Donc f est un automorphisme orthogonal.

(2) ⇔ (3) Immédiat puisque M −1 =t M .

(3) ⇔ (5) Même preuve que précédemment.

7
PCSI5 Lycée Saint Louis

Remarque. En pratique c’est plutôt la caractérisation (4) qu’on utilisera pour montrer qu’une matrice
donnée est orthogonale.
 
1 −2 −2
1
Exercice. Considérons la matrice A = −2 1 −2, et f l’endomorphisme de R3 canonique-
3
−2 −2 1
ment associé.

a) Montrer que f est un automorphisme orthogonal.

b) Chercher Ker(f − IdE ), Ker(f + IdE ) et en déduire la nature géométrique de f .

Remarque. Si M est orthogonale, alors :

ˆ M est inversible et M −1 =t M ;

ˆ det(M ) = ±1.

Notations. On note O(n) l’ensemble des matrices orthogonales, et SO(n) le sous ensemble de O(n)
des matrices orthogonales directes, i.e. celles de déterminant 1.

Propriété 13

Soit B une base orthonormée de E. Une base B 0 de E est orthonormale si et seulement si

la matrice de passage de B à B 0 est orthogonale.

Preuve. On note P = (pi,j )i,j la matrice de passage de B à B 0 , de vecteurs colonne C1 , · · · , Cn . On

a pour tout élément e0j de la base B 0 :
X
e0j = pk,j ek .
1≤k≤n

La base B 0 est orthonormale si et seulement si pour tout i, j,

n n
(
X X 0 si i 6= j,
< e0i ; e0j >= pk,i pk,j < ei ; ej >= pk,i pk,j =< Ci ; Cj >=
k,l=1 k,l=1
1 si i = j.

Ainsi la base B 0 est orthonormale si et seulement si les colonnes C1 , · · · , Cn de P forment une bon de
Rn , donc si et seulement si P est orthogonale. 

Définition.
On dit que E est orienté lorsqu’on a convenu qu’une certaine bon B de E est directe, et on dit
alors qu’une autre bon B 0 de E est :

ˆ directe si la matrice de passage de B à B 0 est de déterminant 1.

ˆ indirecte si la matrice de passage de B à B 0 est de déterminant -1.

8
PCSI5 Lycée Saint Louis

3 Automorphismes orthogonaux du plan euclidien P

3.1 Matrices orthogonales d’ordre 2
On considère la matrice d’ordre deux  
a b
A= .
c d
Elle est orthogonale si et seulement si ses vecteurs colonnes forment une bon, i.e. si

a2 + c2 = 1, b2 + d2 = 1, ac + bd = 0.

Les deux premières conditions sont remplies si et seulement s’il existe α, β tels que

a = cos(α), c = sin(α), b = cos(β), d = sin(β).

La troisième condition est alors remplie si et seulement si cos(α) cos[β)+sin(α) sin(β) = cos(α−β) = 0,
soit si β − α = ± π2 [2π]. On obtient donc deux types de matrices orthogonales d’ordre deux :

ˆ si β − α = π2 [2π], ce sont les matrices orthogonales directes :

 
cos(α) − sin(α)
A+ (α) = .
sin(α) cos(α)

ˆ β − α = − π2 [2π], ce sont les matrices orthogonales indirectes :

 
cos(α) sin(α)
A− (α) = .
sin(α) − cos(α)

Remarque. Par utilisation des formules trigonométriques donnant cos(α+β) et sin(α+β), on montre
que
A+ (α)A+ (β) = A+ (α + β).
En particulier on en déduit que

ˆ l’inverse de A+ (α) est A+ (−α) (puisque A+ (0) = I2 ).

ˆ Pour tout α, β ∈ R, les matrices A+ (α) et A+ (β) commutent, puisque

A+ (α)A+ (β) = A+ (α + β) = A+ (β)A+ (α).

3.2 Automorphismes orthogonaux directs du plan

Les automorphismes orthogonaux directs du plan euclidien sont ceux dont la matrice en base orthonor-
male est une matrice orthogonale directe, donc de la forme A+ (θ).

Propriété 14

Soit f un automorphisme orthogonal direct du plan. Alors la matrice de f est la même dans
toutes les bases orthonormées directes, de la forme suivante avec θ ∈ R :
 
cos(θ) − sin(θ)
A+ (θ) = .
sin(θ) cos(θ)

Le réel θ, défini à un multiple de 2π-près, s’appelle la mesure de de cette rotation.

9
PCSI5 Lycée Saint Louis

Preuve. Il suffit d’établir qu’une matrice orthogonale directe, donc de la forme A+ (θ) est invariante
par changement de la base orthonormale directe. Soit pour cela P la matrice de passage d’une bond
à une bond. Alors P est une matrice orthogonale directe, donc de la forme A+ (α) et on a :

A+ (α)−1 A+ (θ)A+ (α) = A+ (θ)A+ (α)−1 A+ (α) = A+ (θ)

Remarque. La matrice d’une rotation change dans une bon indirecte : en effet, la matrice de passage
est dans ce cas de la forme P = A− (α), et on vérifie alors par calcul que

A− (α)−1 A+ (θ)A− (α) = A+ (−θ).

 √ 
1 − 3 −1
Exemple. Considérons la matrice A = √ . Est-elle orthogonale ? Caractériser l’endomorphisme
2 1 3
f du plan qui lui est canoniquement associé.

3.3 Automorphismes orthogonaux indirect du plan

Propriété 15

Soit f un automorphisme orthogonal indirect du plan (f orthogonal et det(f ) = −1). Alors

f est une réflexion (symétrie orthogonale par rapport à une droite).

Preuve. Dans une bon (e1 , e2 ), la matrice de f est de la forme suivante, avec θ ∈ R :
 
cos(θ) sin(θ)
A− (θ) = .
sin(θ) − cos(θ)

On a A− (θ)2 = I2 , donc f est une symétrie.

Déterminons Ker(f − Id) : soit x = (x1 , x2 ) ∈ Ker(f − Id), on a :

( (
cos(θ)x1 + sin(θ)x2 = x1 (cos(θ) − 1)x1 + sin(θ)x2 = 0
f (x) = x ⇔ ⇔
sin(θ)x1 − cos(θ)x2 = x2 sin(θ)x1 + (1 − cos(θ))x2 = 0

On regarde le déterminant associé :

 
cos(θ) − 1 sin(θ) 
 =0
 sin(θ) 1 − cos(θ))

Donc f (x) = x ⇔ (cos(θ) − 1)x1 + sin(θ)x2 = 0 et Ker(f − Id) = V ect(− sin(θ)e1 + (cos(θ) − 1)e2 ).

De même, on montre que Ker(f + Id) = V ect(− sin(θ)e1 + (cos(θ) + 1)e2 ). Les espaces Ker(f − Id)
et Ker(f + Id) son bien orthogonaux, puisque :

< − sin(θ)e1 + (cos(θ) − 1)e2 , − sin(θ)e1 + (cos(θ) + 1)e2 >= 0,

donc f est bien une réflexion. 

 
0 −1
Exemple. Considérons la matrice B = . Est-elle orthogonale ? Caractériser l’endomorphisme
−1 0
f du plan qui lui est canoniquement associé.

10