TD_NN

Télécharger au format pdf ou txt
Télécharger au format pdf ou txt
Vous êtes sur la page 1sur 1

TD réseau de neurones

Gaston LENCZNER, Javiera CASTILLO NAVARRO,


Guillaume VAUDAUX RUTH, Adrien CHAN-HON-TONG

Notation relu(x) = max(x, 0) = [x]+ .


Q1 On considère la fonction f (x) = f ((x1 x2 )T ) = x2 − relu(x1 − x2 )
Q1.1 : déterminez les zones où f est positive vs négative.
Q1.2 : écrivez cette fonction comme un MLP.
aide : x = relu(x) − relu(−x) et si x = (x1 x2 )T alors x1 = (1 0)x
Q2 même questions avec g((x1 x2 )T ) = x2 +relu(x1 −x2 ) et h((x1 x2 )T ) =
x1 + relu(x2 − x1 ), que remarquez vous ?
Q3 : chercher w1 , w2 , w3 , b tel que le réseau 1D h(x, w) = w1 [x]+ + w2 [x −
1]+ + w3 [x − 2]+ + b vérifie
— h(0, w) > 0 (par exemple 1)
— h(1, w) < 0 (par exemple −1)
— h(2, w) > 0 (par exemple 1)
— h(3, w) < 0 (par exemple −1)
Q4 : Considérons la base de données ((0 2)T , 1), ((0 − 2)T , 1), ((2 0)T , 1),
((−2 0)T , 1), ((0 0)T , −1), ainsi que les 2 réseaux
— ψ(x) = [(0 1)x]+ + [(0 − 1)x]+ + [(1 0)x]+ + [(−1 0).x]+ − 1
— φ(x) = 2relu((−1 1)x − 1) + 2relu((1 − 1)x − 1) − 1
Q4.1 : Dessiner la base et donner la frontière de décision que vous considé-
reriez comme naturelle au vu de cette base de données.
Q4.2 : Montrez que les 2 réseaux apprennent la base par coeur.
Q4.3 : Donnez la structure de chaque réseau.
Q4.4 : Dessinez les zones positives et négatives.

Vous aimerez peut-être aussi