2' Optimisation sans contrainte

1

• 2. Optimisation sans contrainte
• Fonctions à une seule variable

2
2.1. Méthodes nutililisant que les valeurs des
fonctions

• Méthode de Fibonacci
• Hypothèse La fonction f est définie sur
  lintervalle a, b et est unimodal
• i.e., f ne possède quun
  seul minimum local dans a, b

3

• Lapproche consiste
• à choisir un certain nombre de points
  selon une startégie basée sur les
• nombres de Fibonacci
• à évaluer séquentiellement la valeur
  de la fonction à ces points
• avec lobjectif de réduire la longuer
  de lintervalle contenant le
• minimum local en se basant sur la
  propriété dunimodalité de la
• fonction

4

• Étant données les valeurs de la fonction en deux
  points de lintervalle, lunimodalité permet
  didentifier une partie de lintervalle où le
  minimum ne peut se retrouver

a
a
a
b
b
b
x1
x1
x1
x2
x2
x2
5

a
b
x1
x2
x3
x4
Choisir deux points x1 et x2 symétrique et à la
même distance de chaque extrémité de
lintervalle a, b
Choisir le prochain point symétriquement par
rapport au point déjà dans lintervalle
résultant.
6

a
b
x1
x2
x3
x4
Choisir le prochain point symétriquement par
rapport au point déjà dans lintervalle résultant.
7
Stratégie optimale de sélection des points
dévaluation

• Notation
• d1 b a, la longueur de
  lintervalle initial
• dk longueur de lintervalle après
  avoir utilisé k points dévaluation
• Fk la suite des nombres de
  Fibonacci définie comme suit
• F0 F1 1
• Fn Fn-1 Fn-2
  n 2, 3, .
• 1, 1, 2, 3, 5, 8, 13,
  21,

8
Stratégie optimale de sélection des points
dévaluation

• Supposons que nous décidons au départ dutiliser
  N points dévaluation.
• Procédure se résume comme suit
• Les deux premiers points sont choisis symétriques
  à une distance
• de chacune des extrémités de
  lintervalle a, b. Une partie de
• lintervalle est éliminée en se basant
  sur lunimodalité de la fonction.
• Il en résulte un intervalle de
  longueur .
• Le troisième point est choisi symétriquement par
  rapport au point déjà dans lintervalle
  résultant. Ceci engendre un intervalle de
  longueur

9
Stratégie optimale de sélection des points
dévaluation

• Les deux premiers points sont choisis symétrique
  à une distance
• de chacune des extrémités de
  lintervalle a, b. Une partie de
• lintervalle est éliminée en se basant
  sur lunimodalité de la fonction.
• Il en résulte un intervalle de
  longueur .
• Le troisième point est choisi symétriquement par
  rapport au point déjà dans lintervalle
  résultant. Ceci engendre un intervalle de
  longueur
• En général le point suivant est choisi
  symétriquement par rapport au point déjà dans
  lintervalle résultant.

10

• En général le point suivant est choisi
  symétriquement par rapport au point déjà dans
  lintervalle résultant.
• Note Selon iii. , le dernier point N devrait
  être placé au centre de lintervalle
• superposé à celui sy trouvant déjà.
  En effet, puisquen utilisant cette
• stratégie de sélection des points
  dévaluation, nous avons que

11

• Note Selon iii. , le dernier point N devrait
  être placé au centre de lintervalle superposé à
  celui sy trouvant déjà. En effet, puisquen
  utilisant cette stratégie de sélection des points
  dévaluation, nous avons que

12

• En utilisant cette stratégie de sélection des
  points dévaluation,
• et il est possible de démontrer que
• est le plus petit intervalle quil est
  possible dobtenir en utilisant N
• points dévaluations

13

• En utilisant cette stratégie de sélection des
  points dévaluation,
• Ainsi, lorsque le nombre de points
  dévaluation N devient très grand
• pour tendre vers linfini, la suite
  des valeurs

14

0
1
N 5 1, 1, 2, 3, 5, 8
15

0
1
N 5 1, 1, 2, 3, 5, 8
16

0
1
N 5 1, 1, 2, 3, 5, 8
17

0
1
N 5 1, 1, 2, 3, 5, 8
18

• Méthode de la section dorée
• ( nombre dor t 1.618)
• La méthode de la section dorée utilise la
  même stratégie que la méthode de Fibonacci pour
  selectionner les points dévaluation, mais le
  nombre de points dévaluation nest pas spécifié
  au départ.
• Pour spécifier les deux premiers points,
  nous procédons comme dans la
• méthode de Fibonacci en les prenant
  symétriques à une distance
• de chaque extrémité en considérant que N ?
  8.

19

• La méthode de la section dorée utilise la même
  stratégie que la méthode de Fibonacci pour
  selectionner les points dévaluation, mais le
  nombre de points dévaluation nest pas spécifié
  au départ.
• Pour spécifier les deux premiers points,
  nous procédons comme dans la
• méthode de Fibonacci en les prenant
  symétrique à une distance
• de chaque extrémité en considérant que N ?
  8.

20
2.2 Méthode utilisant les dérivées

• Méthode de bisection (ou de bipartition)
• Méthode pour identifier le 0 dune fonction
  g(x) sur un intervalle a, b.
• Si , alors la méthode
  de bisection peut être utilisée pour identifier
  un point où la dérivée dune fonction sannule.
• Hypothèse Sur lintervalle a, b, la
  fonction g est continue et telle que
• g(a) g(b) lt 0 (i.e.,

21

• Principe de la méthode à chaque itération,
  réduire la longueur de
• 
  lintervalle contenant en la divisant en
  deux.

22

g
a
b
c
23

g
a
b
c
24

g
c
a
b
25

g
a
b
26
2.2 Méthode utilisant les dérivées

• Méthode de bisection (ou de bipartition)
• Méthode pour identifier le 0 dune fonction
  g(x) sur un intervalle a, b.
• Si , alors la méthode
  de bisection peut être utilisée pour identifier
  un point où la dérivée dune fonction sannule.
• Hypothèse Sur lintervalle a, b, la
  fonction g est continue et telle que
• g(a) g(b) lt 0 (i.e.,

27

• Principe de la méthode à chaque itération,
  réduire la longueur de
• 
  lintervalle contenant en la divisant en
  deux.

28

• Puisque par hypothèse g est continue sur a, b
  et g(a) g(b) lt 0,
• g change de signe entre a et b
• g sannule en un point entre a et b
• la méthode génère une suite
  dintervalles de longueur décroissante
• jouissant de la même propriété
• La suite des valeurs des longueurs des
  intervalles est la suivante

29

30

• La suite des valeurs des longueurs dintervalle
  est la suivante

31

Hypothèse g(a) g(b)lt0 est essentielle
a
b
c
32

Hypothèse g(a) g(b)lt0 est essentielle
a
b
c
33

Hypothèse g(a) g(b)lt0 est essentielle
a
b
c
34

Hypothèse g(a) g(b)lt0 est essentielle
Uniquement lintervalle initial contient la
racine
a
b
35

• Méthode de Newton
• Rappel Formule de Taylor dordre n

36

• Méthode de Newton
• Hypothèses

37

qk
f
xk
38

qk
f
xk
xk1
39
Convergence de la méthode de Newton

40

41

42

43
Convergence de la méthode de Newton

44

45

46

47

• Note
• Méthode également utilisée pour déterminer un
  point où la fonction sannule. Il suffit de
  considérer la fonction

48

g
49

• Importance de lhypothèse que x0 soit
  suffisemment près de x

50

• Importance de lhypothèse que x0 soit
  suffisemment près de x

51

• Importance de lhypothèse que x0 soit
  suffisemment près de x

52

• Importance de lhypothèse que x0 soit
  suffisemment près de x

53

• Importance de lhypothèse que x0 soit
  suffisemment près de x

54

• Importance de lhypothèse que x0 soit
  suffisemment près de x

55

• Méthode de la fausse position
• Hypothèses

56

57

58
Convergence de la méthodede la fausse position

59

60

61

• Importance de lhypothèse que x0 et x1 soit
  suffisemment près de x