219 - Extremums: Existence, Caract Erisation, Recherche. Exemples Et Applications

Télécharger au format pdf ou txt
Télécharger au format pdf ou txt
Vous êtes sur la page 1sur 4

219 – Extremums : existence, caractérisation, recherche.

Exemples et
applications.

Définition 1. Soit E un R-e.v normé et X une partie de E. Une fonction f : X → R 1.2 Projection sur un convexe fermé
admet un minimum (respectivement maximum) relatif en a si il existe une voisinage
de V de a dans E tel que ∀x ∈ V , f (a) ≤ f (x) (respectivement f (x) ≤ f (a)).
Dans les deux cas, on dit que f admet un extremum relatif en a. Il est dit stricte si
l’inégalité est stricte. Théorème 9 (Projection sur un convexe fermé). Soit C un partie
Une fonction f : X → R admet un minimum (respectivement maximum) global sur convexe et fermé non-vide de H espace de Hilbert. Alors pour tout x ∈ H,
X en a si ∀x ∈ X, f (a) ≤ f (x) (respectivement f (x) ≤ f (a)). il existe un unique y = PC (x) tel que : dist(x, C) = ||x − y||. On dit que
Petit dessin en à côté. y = PC (x) est la projection de x sur C. On à la caractérisation suivante pour
y dans H :
y = PC (x) ⇐⇒ < x − y, z − y >≤ 0 ∀z ∈ C

1 Existence et unicité des extremums (dans le cas réel) On fait un dessin de la caractérisation.
Corollaire 10. Si F est un sev fermé de H, on a :
1.1 Compacité, coercivité et convexité
y = PC (x) ⇐⇒ < x − y, z >= 0 ∀z ∈ F
Théorème 2. Si X est compact et f est continue sur X, alors f est bornée et atteint Corollaire 11. Si F est un sev fermé de H, on a : H = F ⊕ F ⊥ et la pro-
ses bornes. jection sur F parallèllement à F ⊥ est PF . On dit que PF est la projection
Contre-exemple 3. L’hypothèse de compacité est fondamentale : orthogonale sur F.
1
x 7→ est continue sur ]0, 1] mais n’atteint pas ses bornes.
t Remarque 12. Ces résultats restent valable pour un espace euclidien, mais la
x 7→ t sur [0, 1[ est continue bornée mais n’atteint pas sa borne supérieure démonstration est plus simple.
1
x 7→ est continue,bornée sur R, mais n’atteint pas sa borne inférieure 0.
1 + t2
Exemple 4. Soit A une partie compacte d’un espaxe métrique (E, d). Application 13 (Problème des moindres carrés). Soit A ∈ Mn,p (R) et b ∈ Rn . On
— ∀y ∈ E, il existe x ∈ A tel que d(y, x) = d(y, A) cherche les solutions x ∈ Rp qui vérifient ||Ax − b|| = minp ||Ayb ||.
y∈R
— Il existe (a, b) ∈ E 2 tel que d(a, b) = diam(a, b).
— Soit F une partie fermé non-vide de E un evn de dimension finie. ∀y ∈ E, il — Ce problème possède un minimum x̄, unique à ker(A)-près.
existe x ∈ A tel que d(y, x) = d(y, F )
Définition 5. Une fonction f : E → R est dite coercive si |f (x)| → +∞.
||x||→+∞ — x est solution du problème ⇐⇒ x vérifie t AAx =t Ab.
Théorème 6. Si f est continue et coercive sur E, alors f admet un minimum globale.
C’est le problème rencontré lors du problème de régréssion linéaire (avec p = 2) : on
Définition 7. Une fonction f : I → R (I intervalle de R) est dite convexe si m
X
∀(x, y) ∈ I 2 , ∀λ ∈ [0, 1], f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y). Elle est dite cherche (a0 , a1 ) qui minimise la quantité : |yk − (a0 + a1 ti )|2 . On fait un dessin
convave si l’inégalité est dans l’autre sens. k=1
Concrètement, cela signifie que f est au dessus de ses cordes. en ANNEXE.
La convexité est dite stricte si l’inégalité est stricte.
Proposition 8. — Si f est convexe, tout extremum local est global. Théorème 14 (de représentation de Riesz). Soit ϕ : H → R, alors il existe un
— Si f est strictement convexe, f admet un unique extremum global. unique x ∈ H tel que : ∀y ∈ H, ϕ(y) =< x|y >.
2 Extremum et différentiabilité y4
Exemple 23. On considère f : (x, y) 7→ x2 − y 2 + . Il y a trois candidats d’extre-
√ 4
mums : (0, 0), (0, ± 2).
2.1 Condition du premier ordre Le premier est un point col.
Les deux autres sont des minimums relatifs (et mêmes globaux !).
Cadre : Soit U un ouvert de Rn . Proposition 24. Soit U ouvert connexe de Rn . On suppose que f est 2-fois
Proposition 15 (Condition nécéssaire du premier ordre). Si f : U → R ad- différentiable sur U. On à l’équivalence : f est convexe ⇐⇒ ∀x ∈ U , D2 f (x)
met un extrema relatif en a ∈ U et si f est différentiable en a, alors Df (a) = 0. On est une forme quadratique positive.
fait un dessin à côté en dim 1. Proposition 25. Soit f : U → R deux-fois différentiable. Alors f admet un extrema
Un point qui vérifie Df (c) = 0 est appelé point-critique. relatif en a ⇐⇒ a est un point critique de f et ∀x ∈ U , D2 f (x) est une forme
quadratique positive.
Contre-exemple 16. si U n’est pas ouvert et a est sur le bord : x 7→ x sur [0,1].
La réciproque est fausse : x 7→ x3 n
Théorème 17 (Roll). Soit f : [a, b] → R une application déribable sur ]a, b[ et 2.3 Optimisation sous-contrainte
continue sur [a, b], telle que f (a) = f (b). Alors il existe c ∈]a, b[ tel que f 0 (c) = 0.
Théorème 26 (Des extremas liés). Soit f ,g1 ,...,gr des fonctions de classe C 1 de
Proposition 18. Soit U ouvert connexe de Rn .On suppose que f est différentiable sur U → R où U est un ouvert de Rn . On désigne par Γ l’ensemble Γ = {x ∈ U | g1 (x) =
U. On à l’équivalence : f est convexe ⇐⇒ ∀(x, y) ∈ U 2 , Df (x).(y − x) ≤ f (y − x). ... = gr (x) = 0}.
Définition 19. Une fonction U → R est dite convexe sur U convexe ouvert de Rn Si f admet un extrema relatif sur Γ en a et si les formes linéaires Dg1 (a), ..., Dgr (a)
si, pour tout, x, y ∈ U , λ ∈ [0, 1], f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y) sont indépendantes, alors il existe r uniques scalaires (λ1 , ..., λr ) tel que Df (a) =
X r

Proposition 20. Si f : U → R (U ouvert convexe de Rn ) est convexe, alors f admet Dgi (a)
un extrema relatif en a ⇐⇒ a est un point critique de f . k=1
Exemple 27. Exemple d’application simple avec dessin en annexe.
Application 28. Ce théorème permet de démontrer le théorème spectral où encore
2.2 Conditions du 2ème ordre l’inégalité arithmético-géométrique.

Proposition 21. Soit f : U → R et a ∈ U .


— Si f admet en a un minimum local et si D2 f (a) existe, alors nécéssairement
Df (a) = 0 et D2 f (a) est une forme quadratique (ou matrice symétrique) po-
3 Optimisation numérique
sitive. (négative si maximum)
Remarque 29. Pour trouver un extremum d’une fonction f , on cherche les points
— Si Df (a) = 0 et D2 f (a) est une forme quadratique (ou matrice symétrique)
qui annule f 0 .
définie-positive, alors f admet un minimum local relatif stricte en a. (maxi-
mum si définie-négative). Théorème 30 (Méthode de Newton). Soit f : [c, d] → R de classe C 2 . On sup-
pose que f (c) < 0 < f (d) et f 0 (x) > 0 sur [c, d]. On considère la suite définie par
2 2
Application 22 (notation
 de monge). Soit f : U ⊂ R → R de classe C sur U. f (t)
réccurence : x0 ∈ [c, d], xn+1 = F (xn ) où F : t 7→ t − 0 . Alors :
r s f (t)
On note D2 (f )(a) = Alors :
s t — f admet un unique zéro en a sur [c, d]. Il existe α > 0 tel que [a − α, a + α] = I
— Si det(A) = rt − s2 > 0 et r > 0, f admet un minimum relatif. soit F-stable et que ∀x0 ∈ [a − α, a + α] = I, la suite (xn )n converge quadrati-
— Si rt − s2 > 0 et r < 0, f admet un maximum relatif. quement vers a.
— Si rt − s2 > 0, f n’a pas d’extremum en a (point-col) — Si de plus f 00 (x) > 0 sur [c, d], alors le résultat précédent est valable pour
I = [a, d], et de plus (xn )n est décroissante (ou constante) vers a et on à
— Si rt − s2 = 0, on ne peut pas conclure. f 00 (a)
— Les dessins en annexe représentent ces situations l’équivalent : xn+1 − a ∼ 0 (xn − a)2 .
2f (a)
Lemme 31 (Inégalité de Kantorovitch). Soit A ∈ Sn++ (R), alors ∀x ∈
1 (λmax + λmin )2
Rn , < Ax|x >< A−1 x|x >≤
4 λmax λmin
Théorème 32 (Algorithme du gradient à pas optimal). Objectif : On
veut résoudre le système linéaire de taille n : Ax = b, avec A ∈ Sn++ (R).
— Ce système admet un unique minimum x∗ . x est solution de ce
système ⇐⇒ x∗ est l’unique minimum de la fonctionnelle
Rn → R
Φ
x 7→ 12 < Ax|x > − < b|x >
— L’algorithme suivant : x0 ∈ Rn , r0 = Ax0 − b, puis xn+1 = xn + αk rk ,
||rk [||2
rk+1 = rk − Aαk rk , αk = fournit une suite (xk )k qui
< Ark |rk >
λmin − λmax k
vérifie : ||xk − x∗ || ≤ C( ) , et qui converge donc bien vers
λmin + λmax

x .
Développements possibles

Remarques

Vous aimerez peut-être aussi