c Christophe Bertault - MPSI

Automorphismes orthogonaux
et matrices orthogonales
Dans ce chapitre, on travaille seulement avec le corps de base R et E est un espace euclidien orient. Les lettres n, p, q . . .
dsignent des entiers naturels non nuls.

Automorphismes orthogonaux
et matrices orthogonales en dimension quelconque

1.1

Automorphismes orthogonaux

Dnition (Automorphisme orthogonal/isomtrie vectorielle) Soit f : E E une application. Les assertions

suivantes sont quivalentes :
(i) f prserve les produits scalaires :

x, y E,

(ii) f est linaire et prserve les normes :

f (x) f (y) = (x|y).

f (x) = x .

x, y E,

De plus, si lune de ces deux assertions est vraie, f est un automorphisme de E. On dit alors que f est un automorphisme
orthogonal de E ou une isomtrie (vectorielle) de E.

Explication
Lquivalence des assertions (i) et (ii) est conceptuellement puissante : le seul fait quune application (non ncessairement
linaire a priori) prserve les produits scalaires la rend automatiquement linaire.
Une isomtrie vectorielle, comme son nom lindique, est une transformation gomtrique qui prserve ( iso , mme,
identique) les normes ( mtrie , mesure).
Dmonstration

Nous noterons ci-dessous lidentit de polarisation :

(i) = (ii) Dabord f prserve les normes, car pour tout x E :

(x|y) =

f (x) =

Montrons que f est linaire. Pour tous x, y E et , R :

f (x + y) f (x) f (y)

= f (x + y)
= x + y

+ x

linarit

1
2

f (x) f (y) =
f (x + y)

1
2

f (x)

+ 2 f (y)

+ y
2

= 0E

f (x) + f (y)
2

x+y

(x|x) = x .

f (x) f (x) =

2 f (x + y) f (x)

2 f (x + y) f (y) + 2 f (x) f (y)

= (x + y) x y
(ii) = (i) Pour tous x, y E :

+ 2 f (x)

1
2

f (y)

2(x + y|x) 2(x + y|y) + 2(x|y)

2

= 0,

donc f (x + y) = f (x) + f (y).

f (x)

(ii)

1
2

x+y

f (y)
2

= (x|y).

Pour nir, montrons que sous rserve que lune des assertions (i) ou (ii) est vraie, f est un automorphisme de E.
Or f est injective car pour tout x Ker f , x = f (x) = 0E = 0, donc x = 0E . Comme f est par ailleurs un
endomorphisme de E et comme E est de dimension nie, f est bien un automorphisme.
Exemple

Toute symtrie orthogonale de E en particulier tout rexion de E est un automorphisme orthogonal de E.

En eet Soit s une symtrie orthogonale de E. Posons H = Ker (s IdE ). Alors s est la symtrie par rapport
H paralllement H . Soient x1 , x2 E, dcomposs sous la forme x1 = h1 + h et x2 = h2 + h o h1 , h2 H
1
2
et h , h H . Alors s(x1 ) = h1 h et s(x2 ) = h2 h , donc :
1
2
1
2
=0

s(x1 ) s(x2 ) = (h1

= (h1 +

h |h2
1
h |h2
1

h )
2
h )
2

= (h1 |h2 )
= (x1 |x2 ).

=0

(h1 |h ) (h |h2 ) +(h |h )

2
1
1 2

=0

= (h1 |h2 ) +

=0

(h1 |h ) + (h |h2 ) +(h |h )

2
1
1 2

c Christophe Bertault - MPSI

Thorme (Caractrisation des automorphismes orthogonaux sur une base orthonormale) Soient f L(E)
et (ei )1 i n une base orthonormale de E. Les assertions suivantes sont quivalentes :
(i)

f est un automorphisme orthogonal de E.

(ii)

f (ei )

1 i n

est une base orthonormale de E.

Explication Bref, un automorphisme orthogonal transforme toute base orthonormale de E en une base orthonormale
de E. Rciproquement, un endomorphisme de E qui tranforme une base orthonormale de E en une base orthonormale de E
est un automorphisme orthogonal de E.
Dmonstration
(i) = (ii) Si f est orthogonal, alors pour tous i, j
f (ei )

1 i n

1, n :

f (ei ) f (ej )

, famille de n = dim E vecteurs, est une base orthonormale de E.

(ii) = (i) Rciproquement, supposons f (ei )

respectives (xi )1

i n

et (yi )1

f (x) f (y) =

i n

dans (ei )1

1 i n
i n

= (ei |ej ) = ij ,

orthonormale. Alors pour tous x, y E de coordonnes

n

xk f (ek )
k=1

donc

yl f (el )

xk yl f (ek ) f (el ) =

1 k,l n
k=l

1 k,l n

l=1

xk yk = (x|y).

x k yl =
k=1

Thorme (Automorphisme orthogonal et sous-espaces stables) Soient f un automorphisme orthogonal de E et

F un sous-espace vectoriel de E stable par f , i.e. tel que f (F ) F . Alors F est aussi stable par f .
Dmonstration
Comme f est un automorphisme de E, cest aussi un isomorphisme de F sur son image f (F ). En particulier,
F et f (F ) sont de mme dimension nie. Linclusion f (F ) F est donc en fait une galit : f (F ) = F .

Montrons que f (F ) F . Soit t F . Montrer que f (t) F revient montrer que f (t) est orthogonal
tous les vecteurs de F . Fixons donc y F . Comme f (F ) = F , y = f (x) pour un certain x F . Or f est
orthogonal et t F , donc :
f (t) y = f (t) f (x) = (t|x) = 0, et ainsi f (t) est orthogonal y.
Dnition (Automorphisme orthogonal positif/ngatif ) Soit f un automorphisme orthogonal de E.
Alors det(f ) = 1 ou det(f ) = 1. On dit que f est positif si det(f ) = 1 et ngatif si det(f ) = 1.
Dmonstration
Soit (ei )1 i n une base orthonormale de E. Notons M la matrice de f dans cette base et
(Xi )1 i n la base canonique de Rn .
Fixons i, j 1, n . Comme f est orthogonal :
f (ei ) f (ej ) = (ei |ej ) = ij , donc matriciellement :
t
(M Xi )(M Xj ) = ij . Bref : t Xi (t M M )Xj = ij . Or il nest pas dur de comprendre que t Xi (t M M )Xj
est le coecient de t M M de position (i, j), donc ce coecient vaut ij . Conclusion : t M M = In .
Enn det(M )2 = det

M det(M ) = det

M M = det(In ) = 1, donc :

det(f ) = det(M )

1, 1 .

Thorme (Caractrisation des automorphismes orthogonaux positifs sur une base orthonormale directe)
Soient f L(E) et (ei )1 i n une base orthonormale directe de E. Les assertions suivantes sont quivalentes :
(i)

f est orthogonal positif.

(ii)

f (ei )

1 i n

est une base orthonormale directe de E.

Dmonstration Nous avons dj vu quun endomorphisme de dterminant positif prserve lorientation tandis
quun endomorphisme de dterminant ngatif la renverse.

Dnition

(Groupe orthogonal et groupe spcial orthogonal)

(i) Lensemble des automorphismes orthogonaux de E, not O(E), est un sous-groupe du groupe linaire GL(E) de
E appel le groupe orthogonal de E.
(ii) Lensemble des automorphismes orthogonaux positifs de E, not SO(E) ou O+ (E), est un sous-groupe de O(E)
appel le groupe spcial orthogonal de E.

c Christophe Bertault - MPSI

Dmonstration
(i) Pour commencer, O(E) GL(E). Ensuite IdE O(E), car videmment IdE prserve les produits scalaires.
Enn, si f, g O(E), alors f 1 g O(E) car pour tous x, y E :
f 1 g(x) f 1 g(y)

f O(E)

f f 1 g(x) f f 1 g(y) = g(x) g(y)

gO(E)

(x|y).

(ii) Rappelons que le dterminant est un morphisme de groupes de GL(E) dans R , et par restriction, de O(E)
dans

1.2

1, 1 . Tout simplement, SO(E) est le noyau de ce morphisme, donc un sous-groupe de O(E).

Matrices orthogonales

Dnition (Matrice orthogonale) Soit M Mn (R). On dit que M est orthogonale si t M M = M t M = In , i.e. si M
est inversible dinverse t M .

En pratique

Pour montrer que M est orthogonale, il sut en fait de vrier que t M M = In ou M t M = In .

Thorme (Automorphisme orthogonal et matrice orthogonale) Soient f L(E) et B une base orthonormale
de E. Alors les assertions suivantes sont quivalentes :
(i)

Attention !

f est orthogonal.

(ii)

Mat(f ) est orthogonale.

B

Il est essentiel que B soit orthonormale.

Dmonstration

Posons M = Mat(f ) et n = dim E.

B

(i) = (ii) On a dj prouv plus haut que t M M = In .

(ii) = (i) Supposons M orthogonale. Alors f O(E) car pour tous x, y E de coordonnes respectives X, Y
dans B :
f (x) f (y) = t (M X)(M Y ) = t X t M M Y = t XIn Y = t XY = (x|y).

Thorme (Caractrisation des matrices orthogonales au moyen de leurs lignes/colonnes)

Soit M Mn (R). Les assertions suivantes sont quivalentes :
(i) M est orthogonale.
(ii) La famille des colonnes de M est une base orthonormale de Rn (muni de sa structure euclidienne canonique).
(iii) La famille des lignes de M est une base orthonormale de Rn .

0 1
est orthogonale
En pratique Trs pratique pour vrier lil nu quune matrice est orthogonale ! Ainsi
1
0

2 3
1

1
car ses deux colonnes sont de norme 1 et leur produit scalaire nul. Mme raisonnement avec
2
3
1 .
6 2
0
2
Dmonstration
(i) (ii) Notons (X1 , X2 , . . . , Xn ) la base canonique de Rn , orthonormale. Daprs le thorme prcdent,
M est orthogonale si et seulement si lapplication linaire associe lest, i.e. si et seulement si la famille
M X1 , M X2 , . . . , M Xn , famille des colonnes de M , est orthonormale.
(ii) (iii) Lgalit t M M = M t M = In tant invariante par transposition, une matrice est orthogonale
si et seulement si sa transpose lest.

Dnition (Matrice orthogonale positive/ngative) Soit M Mn (R) une matrice orthogonale.

Alors det(M ) = 1 ou det(M ) = 1. On dit que M est positive si det(M ) = 1 et ngative si det(M ) = 1.
Dmonstration

det(M )2 = det(M ) det(t M ) = det(M t M ) = det(In ) = 1.

c Christophe Bertault - MPSI

Attention !

Dnition

Toute matrice de dterminant 1 nest pas orthogonale, par exemple

2
1

1
.
1

(Groupe orthogonal et groupe spcial orthogonal)

(i) Lensemble des matrices orthogonales de taille n, not O(n), est un sous-groupe du groupe linaire GLn (R) appel
le groupe orthogonal de degr n.
(ii) Lensemble des matrices orthogonales positives de taille n, not SO(n) ou O+ (n), est un sous-groupe de O(n)
appel le groupe spcial orthogonal de degr n.

Thorme (Automorphisme orthogonal positif et matrice orthogonale positive) Soient f L(E) et B une base
orthonormale de E. On note n la dimension de E. Les assertions suivantes sont quivalentes :
(i)

(ii)

f SO(E).

Mat(f ) SO(n).
B

Produit vectoriel
Le thorme et la dnition suivants sont noncs en dimension nie quelconque mais ne seront utiliss quen dimension 3.

Thorme (Dterminant dune base orthonormale directe dans une base orthonormale directe) Soient B et
B deux bases orthonormales directes de E. Alors : detB (B ) = 1.

Dmonstration
Notons f lautomorphisme de E qui envoie B sur B . Comme B et B sont deux bases
orthonormales directes de E, nous savons que f SO(E), et donc que det(f ) = 1. Or detB (B ) = det(f ).
Dnition (Produit mixte) On note n la dimension de E. Soient (x1 , x2 , . . . , xn ) une famille de n vecteurs de E et B
et B deux bases orthonormales directes de E. Alors : detB (x1 , x2 , . . . , xn ) = detB (x1 , x2 , . . . , xn ).
Ce dterminant, indpendant du choix de la base orthonormale directe B, est appel le produit mixte de x1 , x2 , . . . , xn
et not x1 , x2 , . . . , xn .

Dmonstration

detB (x1 , x2 , . . . , xn ) = det(B ) detB (x1 , x2 , . . . , xn ) = detB (x1 , x2 , . . . , xn ).

B

=1

Explication En dbut danne, nous navions quun seul dterminant notre disposition, alors que le dterminant
dune famille de vecteurs dpend du choix dune base en principe. Nous savons maintenant pourquoi : nous avions lhabitude de
ne travailler quavec des bases orthonormales directes.

Dnition (Produit vectoriel) On suppose E de dimension 3. Soient u, v E. Il existe un unique vecteur de E not
u v pour lequel : x E,
u, v, x = (u v|x). Ce vecteur u v est appel le produit vectoriel de u par v.

Dmonstration

Appliquer le thorme de reprsentation des formes linaires lapplication x u, v, x .

Explication
En dbut danne, nous avons dni le produit scalaire puis le produit vectoriel, et la formule


det , , = tait notre dnition du dterminant. A prsent, le produit scalaire et le dterminant ayant
u v w
u
v
w
t dnis, cest le produit vectoriel que nous dnissons avec la mme relation.
Nous retrouvons heureusement tous les rsultats sur le produit vectoriel que nous connaissions.

c Christophe Bertault - MPSI

Thorme

(Proprits du produit vectoriel) On suppose E de dimension 3. Soient u, v, w E.

(i) Le vecteur u v est orthogonal u et v.

uv

(ii) Les vecteurs u et v sont colinaires si et seulement si u v = 0E .

(iii) Le produit vectoriel est une application bilinaire alterne de E E dans E.
(iv) Si u et v ne sont pas colinaires, alors (u, v, u v) est une base directe de E.

(v) On suppose la famille (u, v) orthonormale. Alors :

(u, v, w) est une base orthonormale directe de E si et seulement si w = u v.

(vi) Soit B une base orthonormale directe de E. On note (x, y, z) et (x , y , z ) les coordonnes respectives
de u et v dans B. Les coordonnes de u v dans B sont alors (yz zy , zx xz , xy yx ).
Explication Pour toute base orthonormale directe (i, j, k) de E, les familles (j, k, i) et (k, i, j) sont aussi des bases
orthonormales directes de E. Lassertion (v) donne donc les relations bien connues suivantes : k = ij, i = jk et j = ki.

Dmonstration
(i) Le produit mixte tant un dterminant :

(u v|u) = u, v, u = 0,

donc u et u v sont orthogonaux.

(ii) Si u et v sont colinaires, alors (u, v, x) est lie pour tout x E, donc u, v, x = 0 = (0E |x). Par unicit
du produit vectoriel, du coup : u v = 0E .
Rciproquement, supposons que u v = 0E et xons un lment x de E \ Vect(u, v) le choix dun tel x est
possible car dim E = 3 et dim Vect(u, v) 2. Comme u, v, x = (u v|x) = (0E |x) = 0 et comme le produit
mixte est un dterminant, la famille (u, v, x) est lie. Or par dnition, x nest pas combinaison linaire de
u et v, donc la famille (u, v) est lie.
(iii) Lassertion (ii) montre que, si le produit vectoriel est bilinaire, alors il est aussi altern nul sur toute
famille dont deux vecteurs sont gaux. Il nous sut donc de montrer sa bilinarit. Contentons-nous mme
de dmontrer sa linarit par rapport la seconde variable. Soient u, v, w E et , R. Pour tout x E :
u(v+w) x = u, v+w, x = u, v, x + u, w, x = (uv|x)+(uw|x) = (uv)+(uw) x .
Lunicit du produit vectoriel montre aussitt que u (v + w) = (u v) + (u w).
(iv) Supposons u et v non colinaires. Montrer que (u, v, u v) est une base directe de E revient montrer
que son dterminant dans une base directe de E est strictement positif. Cela revient donc montrer que
u, v, u v > 0, ce qui est vrai car [u, v, u v] = (u v|u v) = u v 2 et u v = 0E daprs (ii).
(v) Supposons (u, v) orthonormale.
Montrons que (u, v, u v) est une base orthonormale directe de E. Cette famille est une base orthogonale
uv
directe de E daprs (i) et (iv), mais uv est-il unitaire ? Ce qui est sr, cest que la famille u, v,
uv
est orthonormale directe. Par consquent, puisque le produit mixte nest jamais quun dterminant dans
une base orthonormale directe et puisque le dterminant dune base orthonormale directe dans une base
uv
uv
orthonormale directe vaut 1 :
u, v,
= u v . Et voil.
=1= uv
uv
uv
Rciproquement, supposons que (u, v, w) est une base orthonormale directe de E et montrons que w = uv.
Comme Vect(u, v) est de dimension 2, Vect(u, v) est une droite vectorielle qui contient la fois w et
u v. Il existe donc R tel que u v = w. Or (u, v, w) est une base orthonormale directe, donc
u, v, w = 1 = (u v|w) = (w|w) = . Ainsi = 1, donc w = u v.
(vi) Introduisons les vecteurs de B :

B = (i, j, k).

Comme B est orthonormale, les coordonnes de u v

dans B sont (u v|i), (u v|j), (u v|k) . Du coup, simple calcul :

x
(u v|i) = u, v, i = y
z

x
y
z

1
y
0 =
z
0

y
= yz zy
z

et pareil pour les deux autres coordonnes.

c Christophe Bertault - MPSI

Automorphismes orthogonaux en dimensions 2 et 3

3
3.1

Automorphismes orthogonaux en dimension 2

Thorme

(Matrices orthogonales de taille 2)

Toute matrice orthogonale positive de taille 2 est de la forme

cos
sin

sin
cos

pour un certain R.

cos sin
est un morphisme de groupes surjectif de R sur SO(2) de noyau 2Z.
sin
cos
En particulier, SO(2) est un groupe commutatif.
De plus, lapplication

Toute matrice orthogonale ngative de taille 2 est de la forme

cos
sin

sin
cos

pour un certain R.

Dmonstration
Pour tout M =

a
b

c
d

M2 (R) :

M O(2)

M M = I2

2
2
a +b =1
2
2
c +d = 1

ac + bd = 0

a = cos et b = sin
a = cos et b = sin
c = cos et d = sin
c = cos et d = sin
, R/
, R/

cos( ) = 0
cos cos + sin sin = 0

a = cos et b = sin

a = cos et b = sin
c = cos et d = sin

, R, 1, 1 /
R, 1, 1 /

c = cos +
et d = sin +

+
[2]
2
2
2
a = cos et b = sin
cos sin
R, 1, 1 /
R, 1, 1 / M =
.
c = sin et d = cos
sin
cos
Un simple calcul de dterminant montre quon rcupre pour = 1 les matrices orthogonales positives, et
pour = 1 les ngatives.
Notons maintenant R lapplication

cos
sin

sin
.
cos

On vrie facilement que pour tous , R : R()R() = R( + ).

La surjectivit de R est une consquence des quivalences prcdentes.
Pour le noyau de R, soit R. Ce appartient au noyau de R si et seulement si R() = I2 , i.e. si
et seulement si cos = 1 et sin = 0, i.e. si et seulement si 0 [2]. Comme voulu : Ker R = 2Z.

Montrons enn que SO(2) est commutatif. Soient A, B SO(2). Il existe alors , R tels que A = R()
et B = R(). Alors AB = R()R() = R( + ) = R( + ) = R()R() = BA.

Thorme (Classication des automorphismes orthogonaux en dimension 2) On suppose E de dimension 2. Soit

f O(E).
(i) Si f est ngatif, alors f est une rexion, i.e. ici une symtrie orthogonale par rapport une droite.
(ii) Si f est positif, i.e. si f SO(E), alors la matrice Mat(f ) de f ne dpend pas du choix de la base B condition
B

cos
sin
2 prs. On dit alors que f est la rotation (vectorielle) dangle de mesure .

sin
cos

que B soit orthonormale directe. Cette matrice est de la forme

Pour tout u E unitaire :

et

cos = u f (u)

pour un certain R unique

sin = u, f (u) .

Enn, si f = IdE , f admet 0E pour seul et unique point xe.

Explication
La commutativit du groupe SO(2) possde une interprtation gomtrique simple. Elle signie que deux rotations vectorielles planes commutent toujours : tourner dun angle puis dun angle , cest pareil que tourner de puis de .


Lassertion (ii) est bien connue. Si , est une base orthonormale directe du plan et si nous notons , limage

u v
= cos + sin et = sin + cos . La matrice de la

de cette base par la rotation dangle , alors u

rotation dangle dans la base , est donc

cos
sin

sin

, et en eet elle ne dpend pas du choix de et .

cos

c Christophe Bertault - MPSI

Attention !
Dans (ii), il est essentiel que les bases considres soient orthonormales directes. Travailler dans
une base orthonormale indirecte, cest au fond changer dorientation et donc renverser le signe de la mesure de langle.
Dmonstration

Donnons-nous une base orthonormale directe (e1 , e2 ) de E.

(i) Supposons f ngatif. Alors la matrice de f dans la base (e1 , e2 ) est orthogonale ngative, i.e. de la forme

cos
sin
pour un certain R. Posons alors u1 = cos e1 + sin e2 et u2 = sin e1 + cos e2 .
sin cos
2
2
2
2
Il est clair que (u1 , u2 ) est une base orthonormale de E. De plus un calcul facile montre que f (u1 ) = u1
1
0
. Ainsi f est la rexion par
et que f (u2 ) = u2 , de sorte que la matrice de f dans (u1 , u2 ) est
0 1
rapport Vect(u1 ).
e2

u2

f (e1 )
u1
e1

f (e2 )

On voit sur cette gure que e1 et f (e1 ) (resp. e2 et f (e2 )) sont orthogonalement symtriques lun de lautre par rapport la droite engendre par u1 . Cest pourquoi nous
avons lide de montrer que f est la rexion par rapport la droite engendre par u1 .

(ii) Supposons f positif. Alors la matrice de f dans la base (e1 , e2 ) est orthogonale positive, i.e. de la forme
cos sin
SO(2) pour un certain R.
sin
cos
Soit (u1 , u2 ) une base orthonormale directe quelconque de E. Si P dsigne la matrice de passage
cos sin
P . Or P , vue comme
de (e1 , e2 ) (u1 , u2 ), alors la matrice de f dans (u1 , u2 ) est P 1
sin
cos
application, envoie une base orthonormale directe sur une base orthonormale directe, donc P SO(2).
cos sin
commutent, SO(2) tant commutatif. La matrice de f dans (u1 , u2 ) est
Du coup P et
sin
cos
cos sin
cos sin
. Comme voulu, la matrice de f ne dpend ainsi pas de
P =
donc P 1
sin
cos
sin
cos
la base orthonormale directe dans laquelle on la calcule.
Soit u E unitaire. Notons v lunique vecteur pour lequel (u, v) est une base orthonormale directe
cos sin
, donc f (u) = cos u + sin v. Comme voulu :
de E. La matrice de f dans (u, v) est
sin
cos
u f (u) = u cos u+sin v = cos u

= cos

et

u, f (u) = det (u,v) u, f (u) =

1
0

cos
= sin .
sin

Pour nir, supposons f = IdE , i.e. 0 [2]. Montrer que f admet 0E pour seul et unique point
xe, cest montrer que Ker (f IdE ) = 0E , i.e. que f IdE est injectif, ou encore bijectif, i.e. que
det(f IdE ) = 0. Or :
det(f IdE ) = det
Ainsi, comme

3.2

Mat (f IdE )

(e1 ,e2 )

cos 1
sin

sin
= (cos 1)2 +sin2 = 2(1cos ) = 4 sin2 .
cos 1
2

0 [], det(f IdE ) = 0.

2

Automorphismes orthogonaux en dimension 3

Dnition

(Rotations en dimension 3) On suppose E de dimension 3. Soit r SO(E) autre que IdE .

Lensemble Ker (r IdE ) des points xes de r est une droite vectorielle de E appele laxe de r.
Soit (u, v) une base orthonormale du plan

cos sin
cos
(u, v, u v) de E est de la forme sin
0
0
la base (u, v).

Ker (r IdE ) . Alors la matrice de r dans la base orthonormale directe

0
0 pour un certain R unique 2 prs et indpendant du choix de
1

On dit nalement que r est la rotation daxe orient par u v et dangle de mesure . Par convention, on considre
IdE comme une rotation, admettant toute droite vectorielle pour axe et 0 (modulo 2) pour mesure dangle.

c Christophe Bertault - MPSI

r(u v) = u v
Explication

r(v)

cos
La gure ci-contre illustre le fait que la matrice de r dans (u, v, uv) soit sin
0

sin
cos
0

0
0.
1

r(u)

Pourquoi dire rotation daxe orient par u v et dangle de mesure et non pas tout simplement rotation daxe
dirig par u v et dangle de mesure ?
r(u)
v
Pour le comprendre, choisissons dorienter laxe de r au moyen du vecteur oppos
v u. Notre base orthonormale directe de E de rfrence sera alors (v, u, v u). La

gure ci-contre est la mme que la prcdente, mais on regarde les choses de dessous,
r(v)
u
et non plus de dessus. Avec la nouvelle orientation choisie, la mesure de langle de r
est exactement loppos de la prcdente si vous ne le voyez pas bien, regardez la
gure en mettant cette page la tte en bas.
Conclusion : la mesure de langle dune rotation en dimension 3 dpend de la faon
r(v u) = v u
dont on choisit dorienter son axe.
Dmonstration
r11
r12
r13
r21
r22
r23
pour tout R, o R
r31
r32
r33
dsigne la matrice de r dans B. Un dveloppement la Sarrus montre que est une fonction polynomiale
de degr 3. Du coup, son comportement en et le thorme des valeurs intermdiaires prouvent que
possde une racine relle 0 : det(r 0 IdE ) = det(R 0 I3 ) = (0 ) = 0. Bref, r 0 IdE nest
pas injectif, donc r(x0 ) = 0 x0 pour un certain x0 E non nul. Enn, comme r prserve les normes :
x0 = r(x0 ) = 0 x0 = |0 | x0
et donc 0 = 1.

Soit B une base de E. Posons :

() = det(RI3 ) =

Conclusion : r(x0 ) = x0 pour un certain x0 E non nul.

Notons F lensemble des points xes de r. Alors F est stable par r, car pour tout x F , r(x) = x F . Or
r est orthogonal, donc F est lui aussi stable par r comme nous lavons vu au dbut de ce chapitre. Nous
devons montrer que F est une droite, i.e. que dim F = 1.
1) Par hypothse r = IdE , donc F = E, donc dim F = 3.
2) Supposons F de dimension 2, de sorte que dim F = dim E dim F = 1, et donnons-nous une base
orthonormale (e1 , e2 , e3 ) de E adapte la dcomposition E = F F . Alors r(e1 ) = e1 et r(e2 ) = e2 par
dnition de F , et r(e3 ) = e3
pour un certain R puisque F est stable par r. La matrice de r dans

1 0 0
(e1 , e2 , e3 ) est donc 0 1 0 . Or r SO(E), donc det(r) = 1 = , donc r = IdE contradiction.
0 0
3) Supposons enn F de dimension 0, i.e. que r na pas de point xe autre que 0E . Reprenant les
notations du premier point, nous pouvons donc armer que 0 = 1 et r(x0 ) = x0 .

Posons alors X0 = Vect(x0 ). Comme X0 est stable par lautomorphisme orthogonal r, X0 est lui aussi

stable par r, de dimension 2. Ceci veut dire que r est un endomorphisme de X0 , et mme un autoX0

morphisme orthogonal de X0 , car comme r prserve les produit scalaires, r

X0 .

X0

aussi a fortiori.

X0

Soit (x1 , x2 ) une base orthonormale de

Orientons
laide de cette base cela revient dcrter, arbitrairement, que cette base est directe. Daprs notre tude des automorphismes orthogonaux en
dimension 2, r est soit une rotation, soit une rexion. Mais comme r na pas de point xe autre que
X0

0E , il en est de mme de r

X0

, et donc r

X0

est une rotation, disons dangle de mesure .

La famille (x0 1 , x2 ) est une base

,x
orthonormale de E puisque E = X0 X0 , et la matrice de r dans
1
0
0
cos sin . Cette matrice a pour dterminant 1 contradiction.
cette base est 0
0
sin
cos

Conclusion : seul cas restant, dim F = 1 comme voulu.

Du coup, dim F = 2. Fixons une base orthonormale (u, v) de F et orientons F laide de celle-ci. Imitant
le raisonnement 3) ci-dessus, on peut alors montrer que r est soit une rotation, soit une rexion. Mais
F

tous les points xes de r sont dans F par dnition de F , et de plus F F = 0E , donc r

na pas de

point xe autre que 0E , donc est une rotation, disons dangle de mesure .

Comme u v est orthogonal u et v, u v Vect(u, v) = F

= F . La matrice de r dans la base

cos sin 0
cos
0 comme voulu.
orthonormale directe (u, v, u v) de E est nalement sin
0
0
1

c Christophe Bertault - MPSI

Thorme (Calculs sur les rotations en dimension 3)

On suppose E de dimension 3. Soient R et a E unitaire.
On note r la rotation daxe orient par a et dangle de mesure .
(i) Calcul du cosinus :

cos =

cos

tr(r) 1
.
2

(ii) Pour tout u E orthogonal a :

sin

au

r(u) = (cos ) u + (sin ) a u.

r(u)

Signe du sinus : sin et u, r(u), a ont le mme signe.

Dmonstration

cos
(i) Comme la matrice de r est sin
0
tr(r) = 2 cos + 1.

0
0 dans une certaine base orhonormale directe, forcment
1

sin
cos
0

u
. Alors (a, b, a b) est une base orthonormale directe
u
de E, donc (b, a b, a) aussi, o (b, a b) une base orthonormale de Ker (r IdE ) . La matrice de r dans
est

cos sin 0
cos
0, donc en particulier : r(b) = (cos ) b + (sin ) a b, et enn :
(b, a b, a) est alors sin
0
0
1
r(u) = (cos ) u + (sin ) a u. Pour le signe de sin :

(ii) Soit u E non nul orthogonal a. Posons b =

u(au)

u, r(u), a = a, u, r(u) = a u r(u) = a u (cos ) u + (sin ) a u

sin a u 2 .

En pratique Soit r une rotation de E. Comment dterminer ses lments caractristiques, savoir son axe (orient)
et une mesure de son angle ?
1) Laxe de r tant lensemble de ses points xes, le dterminer revient rsoudre lquation r(x) = x dinconnue
x E facile. On peut alors orienter cet axe laide dun point xe unitaire a deux choix possibles. On ne peut
introduire une mesure de langle de r quaprs avoir choisi une telle orientation.
2) On calcule ensuite la valeur de cos et le signe de sin grce au thorme prcdent. La valeur de 2 prs en
dcoule, ventuellement sous forme darcsinus/arccosinus.

2
1
Exemple La matrice R =
6
7
3
En eet

3
2
6

6
1
5
3 est la rotation daxe orient par (1, 3, 3) et dangle de mesure Arccos
.
14
19
2

Notons r lendomorphisme de R3 de matrice R dans la base canonique.

On vrie aisment sur R que r est un automorphisme orthogonal. Et comme det(R) = 1, r est une rotation.
Dterminons laxe de r. Pour tout (x, y, z) R3 :

2x 3y +
6x
+ 2y +
(x, y, z) Ker (r IdE )

3x + 6y +

6z
3z
2z

=
=
=

7x
7y
7z

3x
6x

3x

y
5y
6y

aprs L3 L3 L1 L2 , puis L2 L2 + 2L1 .

3x = y = z

+
+

2z
3z
5z

=
=
=

0
0
0

1
Ainsi Ker (r IdE ) = Vect (1, 3, 3) . Notons a le vecteur unitaire
(1, 3, 3) et orientons laxe de r
19
laide de a. Alors r est la rotation daxe orient par a et dangle de mesure un certain R.
tr(r) 1
5
= .
2
14
1
Le vecteur u = (0, 1, 1) est orthogonal a et r(u) = (9, 1, 4), donc :
7
Comme tr(r) = tr(R) =

0
1
u, r(u), a =
1
7 19 1

2
:
7

9
1
4

cos =

1
3 19
3 =
> 0,
7
3

donc sin > 0. Finalement :

Arccos

5
14

[2].