2305 - Introduction À L'analyse en Ondelettes
2305 - Introduction À L'analyse en Ondelettes
2305 - Introduction À L'analyse en Ondelettes
Frédéric Truchetet
Le2i, UMR 5158
Exemple de problème :
Analyse d’une phrase musicale
0.6
Notes
Accord
0.4
0.2
-0.2
-0.4
-0.6
-0.8
0 0.5 1 1.5 2 2.5 3
5
x 10
Des ondelettes, pourquoi ?
La partition décompose la musique en « atomes » ou
notes situés en
Hauteur (do, ré, mi, etc…)
0.2
Partie réelle
0
ACCORD
-0.2
-0.4
0.4
0.3
Fréquence
0.2
0.1
0
1076 538 0 100 200 300 400 500
Temps
Distinguer les instants
et les fréquences
Signal temporel
Partie réelle
0.2
DOREMI
0
-0.2
0.4
0.3
Fréquence
0.2
0.1
0
143 72 0 100 200 300 400 500
Temps
Un son : des ondes
Représentation temporelle du son correspondant au mot GABOR
0.4
0.3
0.2
0.1
-0.1
-0.2
Représentation fréquentielle du son GABOR
400
-0.3
GABOR
-0.4 350
-0.5 300
0 2000 4000 6000 8000 10000 12000 14000 16000 18000
temps
250
200
150
100
GABOR
50
0
0 500 1000 1500
fréquence
Un son : une fonction du
temps et de la fréquence
Signal temporel
Partie réelle
0.2
GABOR 0
-0.2
0.4
Fréquence
0.3
0.2
0.1
0
100 200 300 400 500
Temps
Onde et
impulsion 2
1.5
Impulsion sinusoïdale
0.5
0
2
-0.5
1.5
Onde sinusoïdale
-1
1
-1.5
0.5
-2
0 0.8 0.85 0.9 0.95 1 1.05 1.1 1.15 1.2 1.25 1.3
4
x 10
-0.5
2
-1
1.5
Impulsion sinusoïdale
-1.5
1
-2
0 100 200 300 400 500 600 700 800 900 1000
0.5
-0.5
-1
-1.5
-2
0.7 0.8 0.9 1 1.1 1.2 1.3
4
x 10
Une ondelette, qu’est-ce que
c’est ?
Fonction mère oscillante, localisée :
ψ(t)
Une ondelette, qu’est-ce que
c’est ?
Famille construite par dilatation
t − b
et translation : ψ ( )
a
-1 -1 -1
Ondes ou ondelettes ?
ONDES • ONDELETTES
les enfants
A.Grossmann (1983), Y.Meyer (1986),
S.Mallat (1987), I.Daubechies (1988),
P.G.Lemarié, R.Kronland-Martinet, J.C.Fauveau (1990),
W. Sweldens (1995) ...
Deuxième partie: un peu plus
de rigueur …
… et de mathématiques
Analyse de fonctions d’énergie
finie
On se place dans un contexte Hilbertien:
Espace vectoriel des fonctions d’énergie finie: L2(R)*
Produit scalaire et norme
*des analyses en ondelettes sont bien entendu possibles pour d’autres espaces de fonctions comme L1(R)
Analyse linéaire des fonctions
Famille : {…ei(t)…} pas linéairement indépendant (pas une base) s(t)=Σαiei(t)
αi non uniques (overcomplete expansion). Sous certaines conditions (existence de
bornes) on peut avoir une “trame” (frame).
L’analyse est redondante.
Si linéairement indépendant, alors base pour l’espace engendré: les
coefficients αi sont uniques, l’analyse est non redondante.
Base orthogonale <ei, ej>=δij
αi=<ei,s> et donc s(t)=Σ<ei,s> ei(t)
Théorème de Parseval: ||s ||2= Σ |<ei,s>|2
Base oblique (biorthogonale), peut, en théorie, toujours être orthogonalisée
(Gram-Schmidt pour dimension finie)
On construit une famille de Riesz (existence de bornes) duale: {…êi(t)…} avec
<ei, êj>=δij (peut être difficile pour les espaces de dimension infinie)
s(t)=Σ<êi,s> ei (t)
||s ||2= Σ <ei,s>* <êi,s>
Analyse de Fourier
Transformée de Fourier
temps
Ondelettes
Transformée en ondelettes
Inversion
Condition d’admissibilité
Régularité et moments nuls (CN-1 si N moments
nuls, …)
Ondelettes
Conditions pour parler d’analyse en
ondelettes:
fréquence:
1/a
a
1/ a
temps
Transformée en ondelettes
continue
La transformée en ondelettes continue:
Transformée inverse:
La transformée en ondelettes
Analyse
recherche du poids de chaque atome dans la fonction
f(t)
1 t − b
ψ a ,b (t ) = ψ ( )
a a
f
+∞
∫ f ( t )ψ
−∞
a ,b ( t ) dt C a ,b = f ,ψ a ,b
ψ a ,b
La transformée en ondelettes
Synthèse
Additionner les atomes pondérés par leurs poids
respectifs
dadb
f (t ) = c ∫∫ C a ,bψ a ,b (t )
a2
C a ,b
dadb f (t )
∫∫
c Ca,bψa,b (t)
a2
ψ a ,b (t )
Analyse temps-fréquence
Ondelettes continues
Exemples de fonctions admissibles
Ondelette de Haar
Chapeau mexicain
1
− t2
2π 4 −
ψ (t ) = (1 − t )e
2 2
3
Mise en œuvre
Domaine d’application
Transformations bilinéaires
Transformations de la classe de Cohen
a = 2i b = n 2i
i est le facteur d’échelle et n
le paramètre de translation
+∞
∫
−i / 2 * −i
Tod x(i, n) = ψ i ,n , x = x (t ) 2 ψ ( 2 t − n)dt
−∞
Analyse multirésolution de L2(R): Mallat et Meyer
i∈Z
IV = {0}
i∈Z
i
x(t ) ∈ Vi ⇔ x(2t ) ∈ Vi −1 , ∀i ∈ Z
x(t ) ∈ V0 ⇔ x(t − k ) ∈ V0 , ∀k ∈ Z
Vi −1 = Vi ⊕ Wi
Vi ⊥ Wi , ∀i ∈ Z
Analyse multirésolution: base
orthogonale
ϕ i , n (t ) = 2 −i / 2 ϕ (2 i t − n)
avec n entier forment une base orthonormée de Vi, notons que ces
fonctions, appelées fonctions d’échelle, ne sont pas des
ondelettes admissibles.
ψ i , n (t ) = 2 −i / 2 ψ (2 i t − n)
avec n entier forment une base orthonormée de Wi, notons que
ces fonctions sont des ondelettes admissibles.
Tous les espaces Wi sont, par constructions, orthogonaux 2 à 2,
la somme directe de tous ces sous espaces est égale à L2(R),
donc l’ensemble des ψ i, n pour i et n entiers forme une base
orthonormée de L2(R R)
Analyse multirésolution
On définit ainsi un signal de détails et un signal
d’approximations caractérisés par des suites
discrètes de coefficients d’ondelette et d’échelle:
+∞ +∞
Ai x = ∑ x, ϕ i , n ϕ i , n Di x = ∑
n = −∞
x, ψ i , n ψ i , n
n = −∞
a = x, ϕ i , n
i
n
d ni = x,ψ i , n = Tod x (i, n)
La transformée en ondelettes
Algorithme récursif: Analyse
Multirésolution
A i −1x ( t ) = A i x ( t ) + D i x ( t )
Approximation + Détails
(coefficients d’ondelettes)
Analyse multirésolution
x
A0x
A1x D1x
A2x
D2x
ϕ ψ
Algorithme de Mallat
L’algorithme de calcul de ces coefficients proposé par
S. Mallat est récursif et il fait appel à des opérations
de filtrage numérique linéaire et invariant.
h[ n] = ϕ 0, n , ϕ −1, n g[ n] = ψ 0, n , ϕ −1, n
Algorithme de Mallat
Compte tenu des propriétés des sous espaces et de
leurs bases, ces deux filtres forment une paire de
filtres miroirs en quadrature :
~
h [n] = h[−n]
Algorithme de Mallat
On obtient l’algorithme de TO rapide dit de Mallat
0.3
0.4
0.2
0.2
0.1
00 00 2 4 6 8 10
1 2 3 4 5 x
x -0.1
0.3
0.4
0.3
0.2
0.2
0.1
0.1
00 5 10 15 20 00 10 20 30 40
x x
-0.1
Base de Daubechies: fonctions
d’échelle
ψ j ,n ,ψ i ,m = δ ( j − i)δ (n − m)
ϕ j , n , ϕ j , m = δ ( n − m)
Analyse multirésolution: bases
biorthogonales
L’analyse et la synthèse:
A j f = ∑ ϕ j ,n , f ϕ j ,n
n
Dj f = ∑ ψ j ,n , f ψ j ,n
n
G ( z ) = − z −1 H (− z −1 )
Bases biorthogonales
Transformée rapide : l’algorithme de Mallat
Algorithme récursif et rapide permettant de passer d’une échelle i à la
suivante i-1
a nj − ~
1
a nj
h ↓2
g~
d nj
↓2
ANALYSE
a nj a nj −1
2 h
d nj
2 g
SYNTHESE
L’algorithme de Mallat
g(n) 2 a Hautes fréquences
x(n)
g(n) 2 b
h(n) 2 g(n) 2 c
Basses fréquences
h(n) 2
h(n) 2 d
détail approximation
Signal à analyser
Transformée en ondelettes
discrète: les trames
De façon générale, une famille {… ψm,n(t)…} non linéairement
indépendante forme une trame (frame) s’il existe deux bornes A
et B positives telles que:
2
≤ ∑ ψ m ,n , f
2 2
A f ≤B f
m,n
Si les bornes sont égales, la trame est dite serrée (ou étroite), la
valeur de A indique la redondance de l’analyse.
Si dans une trame serrée, les bornes sont égales à 1, on est en
présence d’une base orthonormée.
0.8
0.6
0.4
0.2
-4 -2 00 2 4
x
Trame d’ondelettes
-0.2
-0.4
-0.6
-0.8
m +∞
− −m
T ond f (m, n) = ψ m ,n , f = a0 ∫ 0 t − nb0 ) f (t )dt
ψ *
2 (a
−∞
L’inversion est possible à partir d’une famille duale (si la trame est serrée, la
duale et l’originale peuvent être identiques). La reconstruction est
numériquement stable.
f (t ) = ∑ ψ m,n , f ψ m,n (t )
m,n
220
200
180
160
140
120
100
80
60
40
0 50 100 150 200 250 300
Une ondelette: une image
Transformée en ondelettes de
fonctions à plusieurs variables
On conserve les principes de bases de la TO:
Analyse linéaire sur des familles de fonctions d’analyse construites
par dilatation et translation de fonctions mères.
La dilatation est obtenue par l’action d’un opérateur matriciel J (NxN) qui
doit réaliser une dilatation suivant chaque dimension (les vecteurs
propres doivent être strictement supérieurs à 1).
La translation est réalisée par un vecteur b
1
−
ψ J ,b (x) = det J ψ (J −1 (x − b))
2
UV i = L2 (R N )
i∈Z
IV = {0}
i∈Z
i
f (x) ∈ Vi ⇔ f (J −1x) ∈ Vi −1 , ∀i ∈ Z
f (x) ∈ V0 ⇔ f (x − k ) ∈ V0 , ∀k ∈ Z N
Vi −1 = Vi ⊕ Wi
Vi ⊥ Wi , ∀i ∈ Z
J est une matrice de dilatation entière et k un vecteur de
translation entier.
Analyse multirésolution: les
images
Les fonctions d’échelle et d’ondelettes (de N variables) sont définies à
partir d’une ou de plusieurs fonctions mères:
j
−
ψ j ,n (x) = det J ψ (J − j x − n)
2
Séparable Quinconce
2 0 1 1
J= J=
0 2 1 − 1
det J = 4 det J = −2
Analyse quinconce non
séparable: exemple
Analyse multirésolution
séparable
3 ondelettes mères construites à partir de fonctions utilisées
dans les analyses 1D:
ψ 1 ( x, y ) = ϕ ( x)ψ ( y )
ψ 2 ( x, y ) = ψ ( x)ϕ ( y )
ψ 3 ( x, y ) = ψ ( x)ψ ( y )
L’algorithme qui en découle est une combinaison de filtrages
et de sous et sur échantillonnages 1D
Filtrage des lignes
h(n) 2
h(n) 2
h(n) 2
h(n) 2
g(n) 2
g(n) 2
g(n) 2
g(n) 2
g(n)
h(n)
Dans le cas d’une image, Filtrage des
colonnes
la transformée est
2
appliquée en deux temps
:
- Ligne
- puis par ligne,
colonne par colonne
l
l
y
y x
Originale d
x
i.e. ∫−∞
t jψ ( t ) dt = 0 pour j = 0,..., k
Découle de t kψ ( t ) → ( j ) kψˆ ( k ) (ω )
Compacité (largeur du support)
Pour les ondelettes de Daubechies d’ordre N, R tend vers 0.2N pour N grand.
Quelle tranformée en ondelettes?
Continue, CWT, pour l’analyse de signal, sans
synthèse: redondante
V0
V1 W1
F. Truchetet, A. Baussard, F.
Nicolier
INTRODUCTION
-Contribution:
rational pyramidal algorithm which generalizes the Mallat algorithm
Fourier domain implementation
rational wavelet shrinkage denoising application
RATIONAL MULTIRESOLUTION ANALYSIS
- Approximation spaces
Let M be a rational number (M=p/q, with p, q ∈ Z, M>1 and, p and q prime numbers).
A sequence {Vj}j ∈Z of closed subspaces of L2(R) is a MRA of rational M if the following
properties are satisfied:
∀ j∈Z , V j +1⊂V j
UV j = L2(R )
j∈ z
IV ={0}
j∈Z
j
ϕ j,n(x )= M − j 2ϕ (M − j x − n ) with j, n ∈ Z
RATIONAL MULTIRESOLUTION ANALYSIS
- Detail spaces
There exist p-q wavelets ψ1, …, ψp-q in W0 such that the set {ψj,nm(x)}j, n ∈Z, 1≤m≤p-q
defines an orthonormal wavelet basis for L2(R).
Vj-1
Wj
ψ mj,n(x )= M − j 2ψ m (M − j x − nq ) with j, n ∈ Z
PYRAMIDAL ANALYSIS ALGORITHM
- Approximation computation
ϕ j,n(x )= ∑ hi [k ]ϕ j −1 ,M (n −i) + k (x )
k
The orthogonal projection of a function f over Vj can be considered as
the action of a linear operation:
Aj f =∑ f,ϕ j,n ϕ j,n =∑a j,nϕ j,n
n n
r=M(n-i)+k
~
h [n]=h[−n] ~
a j,sq+i =∑hi [ps−r]a j−1,r
r
where s ∈ Z and i=0,…, q-1
PYRAMIDAL ANALYSIS ALGORITHM
- Detail computation
r=np+k
g~[n]=g[−n]
d mj,n =∑g~m[np−r]a j−1,r
r
where m=1,…, p-q
PYRAMIDAL ANALYSIS ALGORITHM
aj ~
h0 ↓p ↑q
~
h1 ↓p ↑q z −1 aj+1
~
hq−1 ↓p ↑q z1−q
g~ 1 ↓p d1j+1
g~p−q ↓p d jp+1−q
PYRAMIDAL SYNTHESIS ALGORITHM
aj+1 ↓q ↑p h0
z1 ↓q ↑p h1
zq−1 ↓q ↑p hq−1
aj
d1j+1 ↑p g1
d jp+1−q ↑p g p−q
FILTER CONSTRUCTIONS
As the wavelet bases have been defined in Fourier domain, the determination of
the filter coefficients is done in this domain using the following relations:
- Filter h:
ϕˆ(Mω) −inMω
hˆn(ω)= M e
ϕˆ(ω)
where n=0, …, q-1
- Filter g:
ψˆ m(Mω)
gˆm(ω)= M
ϕˆ(ω)
- Filtering step:
y TF
x Filter F yˆn =Fˆxˆn
- Delay step:
x y
zp yˆn =xˆneipω
- 1D upsampling step:
- 1D downsampling step:
p−1
yˆn = 1 ∑xˆ pn+l
p l =0
RATIONAL WAVELET BASIS
χ(ω)=0 if ω∈[0,a]
Let χ(ω) be an even and C∞(R) function define by: χ(ω )=π + β(ω −qπ) if ω∈[a,b]
4
χ(ω)= 2 π if ω∈[b,Ma ]
where a=(q-ε)π, b=(q+ε)π, ε=]0, (1+M)-1] π
and β being an odd an C∞(R) function. χ(ω )= 4 − β(ω −qπ) if ω∈[Ma ,Mb]
χ(ω )=0 if ω∈[Mb ,+∞ ]
Wavelet: ( 2)
ψˆ (ω )=sign q+1(ω)sin[χ(ω)]exp −iω
where sign(ω)=1 if ω≥0 and –1 elsewhere
RATIONAL WAVELET BASIS
Magnitude of the ‘Auscher’ scaling function (—) and wavelet (– –) for M=3/2
0.9
0.8
0.7
Magnitude
0.6
0.5
0.4
0.3
0.2
0.1
0
-15 -10 -5 0 5 10 15
ω
RATIONAL WAVELET BASIS
1 1
1
0.8 0.5
0.5
0.6
0
0.4
0
0.2 -0.5
0
-0.5 -0.2 -1
0 100 200 300 0 100 200 300 0 100 200 300
0.4 0.4 0
-0.2
0.2 0.2
-0.4
0 0
-0.6
-0.2 -0.2 110 120 130 140 150
110 120 130 140 150 110 120 130 140 150
M=3/2 M=5/3
M=2
WAVELET SHRINKAGE DENOISING
*Applications:
- signal denoising
- 2D separable image denoising
- white and Gaussian noise centered on high frequency
SIGNAL DENOISING
original noised signal denoising with M=2 denoising with M=3/2
60 60 60 60
40 40 40 40
20 20 20 20
0 0 0 0
20 20 20 20
10 10 10 10
0 0 0 0
10 10 10 10
0 0 0 0
10 10 10 10
0 0 0 0
-Future works
new basis functions
non separable multi-dimensional pyramidal algorithm
others application (fractal, …)
Applications des ondelettes:
Principales propriétés utilisées
Analyse temps-échelle
Scalogrammes
Extraction de caractéristiques
Analyse de texture
Inversibilité
Filtrage
Débruitage
Quelques applications des
ondelettes en traitement des images
Gabor wavelet:
Five different
disturbances:
1. Sags
2. swells
3. harmonics
4. sags and harmonics
5. swells and harmonics
6. Pure signal
Wavelet applications in signal
processing
Non destructive testing (NDT)
Magnetic Flux Leakage (MFL)
Vibration signal analysis
Wavelet Analysis of MFL Signal for
Steel Wire Rope Testing Barat et al. (2000)
Inspection is realized by magnetic flux leakage (MFL) method: magnetic
head magnetically saturates a rope passing through magnetic head.
Discontinuities, like broken wires or strands, pits of corrosion etc., cause
changes in leakage magnetic field.
Signal analysis: register number and characteristics of broken wires and
measure the loss of metallic cross-section area.
Problem: strong influence of rope vibrations, gap changes, twisted rope
structure, etc… inducing wide band (white) and narrow band noises
Magnetostatic transducers (based on Hall-effect sensor) are usually used
for inspection of steel wire ropes. This sensor measures the distribution of
leakage field caused by defect. Using differential measurement scheme,
signal of a typical defect has a form of smooth two-polar impulses with
duration depending on depth and size of the defect.
Example of signal for rope area
containing 14 defects
Symmetrical wavelet transform of test
signal
Nonlinear processing of Symmetrical
WT
4 15 14
4 17 17
5 5 12 17 13 17
8 17 18
5 6 18 16 17 18
9 16 14 18 18 18
Non-decimated algorithm
Vision system for on-loom fabric
inspection
H.Sari-Sarraf et al. (1999)
Development of a precision sprayer for
site-specific weed management
Lei Tian et al. (2000)
Development of a precision sprayer for
site-specific weed management
Lei Tian et al. (2000)
Development of a precision sprayer for
site-specific weed management
Lei Tian et al. (2000)
Wavelet applications in image
processing
Miscellanous
Bioinformatics
GIS
Satellite imaging
Microarray Image Enhancement by
Denoising Using Stationary Wavelet
Transform X. H. Wang et al. (2003)
Microarray imaging is a recent cutting-edge technology in bioinformatics
which can monitor thousand of genes simultaneously. Thousands of
oligonucleotides and cDNAs could be globally viewed at the same time. This
provides a systematic and comprehensive way to survey the DNA and RNA
variations, which could become a standard tool for both molecular biology
research and genomic clinical diagnosis, such as cancer diagnosis, diabetes
diagnosis
The tasks of image processing focus on two major targets: spot segmentation
and spot intensity extraction. However, the quality of the images from the
experiments is not always perfect.
The noises introduced during the experiment will greatly affect the accuracy of
the gene expression.
To denoise the image noises before further image processing with stationary
wavelet transform (SWT).
The time invariant characteristic of SWT is particularly useful in image
denoising.
Microarray Image Enhancement by Denoising
Using Stationary Wavelet Transform
X. H. Wang et al. (2003)
SWT method:
At each level, when the high-pass and low-pass
filters are applied to the data, the two new
sequences have the same length as the original
sequences.
To do this: the original data is not decimated.
However, the filters at each level are modified by
padding them out with zeros.
Thus, the detail signal is contained in three
subimages
Soft thresholding, for denoising procedure:
Decompose,
threshold detail coefficients,
reconstruct.
Microarray Image Enhancement by Denoising
Using Stationary Wavelet Transform
X. H. Wang et al. (2003)
SWT DWT
Microarray Image Enhancement by Denoising
Using Stationary Wavelet Transform
X. H. Wang et al. (2003)
Multiresolution spatial analysis
Mitchell Morehart et al. (1999)
This paper explores the use of the wavelet transform as a spatial analysis tool
for modeling complex multivariate geographic relationships for Geographic
Information Systems (GIS)
Wavelet methods: ability to process noisy data with local structures and to
represent discontinuities such as jumps or peaks in a function. This is an
important consideration for estimating geographically-referenced multivariate
surfaces where a high degree of spatial inhomogeneity is expected.
WT: spatial analysis tool for modeling complex multivariate geographic
relationships
Examples from agricultural data are used to illustrate the exploratory data
analysis inherent in the wavelet transform. The resulting maps provide a
convenient means of visually conveying tremendous amounts of information.
The redundant à trous discrete wavelet transform is shown to aid enormously
in feature detection and exploration in the succession of resolution views of
the data.
Multiresolution spatial analysis
Mitchell Morehart et al. (1999)
Wavelet analysis
Coefficient
reconstruction shrinkage
« Nettoyer » les images
original Version bruitée débruitée
PSNR=28.3 dB PSNR=51.3 dB
débruitée
originale
(Pizurica et al. 2001)
Wavelet shrinkage for radar Image (SAR)
original denoised